Microsoft trainiert neues KI-Modell, das groß genug ist, um mit den wichtigsten LLMs zu konkurrieren

Microsoft entwickelt ein neues großes Sprachmodell (LLM) mit dem Codenamen MAI-1, das das Potenzial hat, mit den von Google und OpenAI entwickelten KI-LLMs zu konkurrieren. Es ist das erste Mal, dass Microsoft ein so großes LLM entwickelt, seit es Milliarden von Dollar in OpenAI investiert hat, um die Rechte zur Nutzung der Technologie von OpenAI in seiner Produktivitätssoftware zu erhalten.

Die Entwicklung von MAI-1 wird von Google DeepMind und Inflection-Mitbegründer Mustafa Suleyman überwacht, wie ein Bericht von The Information besagt. Im März 2024 erwarb Microsoft mehrere Mitarbeiter von Inflection in einem Deal im Wert von 650 Millionen Dollar.

Laut dem am 6. Mai veröffentlichten Bericht wird MAI-1 etwa 500 Milliarden Parameter haben, was ihn irgendwo zwischen den gemeldeten Billionen Parametern von GPT-4 von OpenAI und den 70 Milliarden Parametern des Meta Llama 3 KI-Modells einordnet. Es wird auch erwartet, dass es „weitaus größer“ und teurer sein wird als jedes der vorherigen kleineren Open-Source-KIs von Microsoft (Phi-3 und WizardLM-2), da es mehr Rechenleistung und Trainingsdaten erfordert.

Obwohl MAI-1 möglicherweise Techniken und Trainingsdaten von Inflection nutzt, bleibt es von allen Modellen oder Technologien, die von OpenAI oder Inflection produziert wurden, getrennt. Laut Microsoft-Mitarbeitern, die mit dem Projekt vertraut sind, ist MAI-1 ein völlig neues LLM, das intern von Microsoft entwickelt wurde.

Microsoft hat noch nicht den genauen Zweck von MAI-1 bekannt gegeben, da seine genaue Verwendung von seiner Leistung abhängt. In der Zwischenzeit hat das Unternehmen einen großen Servercluster mit Nvidia-GPUs zugewiesen und nutzt große Mengen an Daten aus verschiedenen Quellen, um das Modell zu verbessern.

Berichten zufolge könnte das Unternehmen, je nach Fortschritt, MAI-1 später in diesem Monat auf der Build-Entwicklerkonferenz vorstellen, aber das ist nicht bestätigt.