Meinung: KI-Modelle sind mysteriöse „Kreaturen“, und selbst ihre Schöpfer verstehen sie nicht vollständig

Anthropics kürzliche Studie über die Funktionsweise ihres Claude 3.5 Haiku-Modells verspricht bahnbrechende Enthüllungen und einen Funken Erkenntnis darüber, wie fortschrittliche KI-Technologien funktionieren. Aber was meinen sie, wenn sie sagen, dass LLMs „lebende Organismen“ sind, die „denken“?

Vor ein paar Tagen hat Anthropic zwei Papiere veröffentlicht mit bahnbrechender Forschung darüber, wie Large Language Models (LLMs) funktionieren. Während die technischen Entwicklungen interessant und relevant waren, hat mich am meisten der von den KI-Experten verwendete Wortschatz aufmerksam gemacht.

In der Studie Über die Biologie eines großen Sprachmodells verglichen sich die Forscher mit Biologen, die komplexe „lebende Organismen“ untersuchen, die sich über Milliarden von Jahren entwickelt haben.

„Ebenso erscheinen die aus diesen von Menschen entworfenen, einfachen Trainingsalgorithmen hervorgegangenen Mechanismen trotz ihrer Einfachheit als ziemlich komplex“, schrieben die Wissenschaftler.

In den letzten Jahren haben sich KI-Modelle erheblich weiterentwickelt. Und wir haben in den letzten Monaten ihre rasante Evolution miterlebt. Wir haben gesehen, wie ChatGPT von einem rein textbasierten Modell zu einem sprechenden Begleiter wurde und nun zu einem vielschichtigen Agenten, der auch atemberaubende Bilder im Stil von Studio Ghibli erzeugen kann.

Aber was, wenn die aktuellen Grenz-KI-Modelle dieses Sci-Fi-Niveau erreichen, auf dem sie eine so fortgeschrittene Denkfähigkeit entwickeln, dass selbst ihre Schöpfer ihre Prozesse und Systeme nicht verstehen können? Es gibt viele Geheimnisse rund um KI-Technologien, die es vielleicht wert sind, im Jahr 2025 erneut in Augenschein genommen oder vertieft zu werden.

Das unheimliche Black-Box-Paradoxon der KI-Modelle

Es gibt zahlreiche Diskussionen über die Einführung von KI und die KI-Kompetenz und darüber, dass diejenigen, die verstehen, wie generative KI-Modelle funktionieren, weniger dazu neigen, Chatbots als ihre „Freunde“ oder „magische“ Apps zu betrachten. Allerdings gibt es eine weitere Debatte – unter Experten und Personen, die mit der Technologie besser vertraut sind – darüber, ob LLMs als eigenständige Kreationen verglichen oder betrachtet werden sollten. In Bezug auf Letzteres spielt eine besondere Zutat, ein Geheimnis namens „das KI-Schwarze-Box-Paradoxon“, eine entscheidende Rolle in der Diskussion.

Tief lernende Systeme werden darauf trainiert, Elemente und Trends auf ähnliche Weise zu erkennen, wie es Menschen tun. Genau wie wir Kindern beibringen, Muster zu erkennen und bestimmten Wörtern verschiedene Objekte zuzuordnen, wurden LLMs darauf trainiert, einzigartige Verbindungen herzustellen und Netzwerke aufzubauen, die immer komplexer werden, je mehr sie „wachsen“.

Samir Rawashdeh, Associate Professor für Elektrotechnik und Informatik, ist auf künstliche Intelligenz spezialisiert und erklärt, dass es fast unmöglich ist, tatsächlich zu sehen, wie Deep-Learning-Systeme Entscheidungen treffen und Schlussfolgerungen ziehen, genau wie es passiert, wenn wir menschliche Intelligenz studieren. Dies ist das, was Experten das „Black-Box-Problem“ nennen.

KI-Modelle stellen menschliches Verständnis in Frage

Die jüngste Studie von Anthropic hat Licht auf die KI-Black-Box-Situation geworfen, indem sie erklärte, wie ihr Modell in bestimmten Szenarien „denkt“, die zuvor unscharf oder sogar völlig falsch waren. Selbst wenn die Studie auf dem Modell Claude 3.5 Haiku basiert, ermöglicht sie Experten, Werkzeuge zu entwickeln und ähnliche Eigenschaften bei anderen KI-Modellen zu analysieren.

„Die Natur dieser Intelligenz zu verstehen, stellt eine tiefgreifende wissenschaftliche Herausforderung dar, die das Potenzial hat, unsere Auffassung davon, was es bedeutet ‚zu denken‘, zu verändern“, so das von den Forschern von Anthropic geteilte Papier.

Der Begriff „denken“, der AI-Technologien zugeschrieben wird, verärgert jedoch bestimmte Experten in der Branche und ist Teil der Kritik an der Untersuchung. Ein Reddit-Nutzer erklärte, warum er eine Gruppe von Menschen verärgert: „In dem Artikel wird viel vermenschlicht, was die Arbeit verschleiert. Zum Beispiel wird ständig das Wort ‚denken‘ verwendet, wenn es eigentlich ‚berechnen‘ heißen sollte. Wir sprechen hier von Computersoftware, nicht von einem biologischen Gehirn.“

Während die „menschlichen“ Begriffe Nicht-Technikern helfen, AI-Modelle besser zu verstehen und in der Gemeinschaft eine Debatte anzuregen, bleibt die Wahrheit, dass die gleiche Herausforderung besteht, egal ob wir „berechnen“ oder „denken“ sagen: Wir haben kein vollständiges Verständnis oder vollständige Transparenz darüber, wie LLMs funktionieren.

Was wir von fortgeschrittenen AI-Modellen in der nahen Zukunft erwarten können

Können Sie sich vorstellen, die Existenz von fortgeschrittenen AI-Technologien wie ChatGPT, DeepSeek, Perplexity oder Claude – jetzt oder in naher Zukunft – zu ignorieren? Alle Zeichen deuten darauf hin, dass es kein Zurück mehr gibt. Generative und schlussfolgernde KI haben bereits unser tägliches Leben verändert, und sie werden nur weiterentwickeln.

Fast jeden Tag berichten wir bei WizCase über eine neue Entwicklung in der Branche – ein neues KI-Modell, ein neues KI-Tool, ein neues KI-Unternehmen – das das Potenzial hat, einen großen Einfluss auf unsere Gesellschaft zu haben. Die Idee, eine Pause einzulegen, um erst einmal ein besseres Verständnis für diese fortschrittlichen Modelle und ihre Arbeitsweise zu erlangen – oder sogar nur ein wenig zu verlangsamen – scheint angesichts des rasanten Tempos des KI-Rennens und der Beteiligung von Regierungen und den mächtigsten Unternehmen der Welt unmöglich zu sein.

„KI-Modelle üben zunehmend Einfluss darauf aus, wie wir leben und arbeiten, wir müssen sie gut genug verstehen, um sicherzustellen, dass ihre Auswirkungen positiv sind“, heißt es in einem Papier von Anthropic. Auch wenn es ein wenig unrealistisch klingt, bleiben die Forscher positiv: „Wir glauben, dass unsere Ergebnisse hier und die Entwicklungspfade, auf denen sie aufgebaut sind, spannende Beweise dafür sind, dass wir dieser Herausforderung gewachsen sind.“

Aber wie schnell können diese Entdeckungen wirklich voranschreiten? Der Artikel weist auch darauf hin, dass die Ergebnisse nur einige Bereiche und spezifische Fälle abdecken und dass es nicht möglich ist, allgemeinere Schlussfolgerungen zu ziehen. Also wahrscheinlich nicht schnell genug.

Während Regulierungsbehörden Maßnahmen wie das EU AI Gesetz einführen, um mehr Transparenz zu fordern, ziehen sie Anschuldigungen und Schimpftiraden von großen Technologieunternehmen auf sich, weil sie angeblich den Fortschritt verlangsamen, schreiten leistungsstarke KI-Modelle weiter voran.

Als Gesellschaft müssen wir danach streben, ein Gleichgewicht zu finden zwischen dem Vertiefen unseres Verständnisses darüber, wie diese Technologien funktionieren, und ihrer Anwendung auf Weisen, die unseren Gemeinschaften bedeutende Vorteile und Fortschritt bringen. Ist das möglich? Die Idee, einfach nur zu beten oder zu hoffen, dass diese „Kreaturen“ „ethisch“ und „gut“ bleiben, scheint im Moment nicht so abwegig.