Ehemalige OpenAI-Forscherin und Whistleblowerin tot aufgefunden

Ein ehemaliger OpenAI-Forscher und Whistleblower, Suchir Balaji, 26, wurde tot in einer Wohnung in San Francisco gefunden, bestätigten die Behörden, wie zuerst von The Mercury News berichtet.

Die Polizei entdeckte Balajis Leiche am 26. November nach einem Antrag auf eine Wohlfahrtsprüfung. Das medizinische Untersuchungsamt von San Francisco stufte den Tod als Selbstmord ein und die Ermittler fanden keine Anzeichen für ein Verbrechen, berichtete die BBC.

In den Monaten vor seinem Tod hatte Balaji die Praktiken von OpenAI öffentlich kritisiert. Das Unternehmen sieht sich derzeit mehreren Klagen wegen seiner Datenerfassungsmethoden gegenüber.

I recently participated in a NYT story about fair use and generative AI, and why I’m skeptical „fair use“ would be a plausible defense for a lot of generative AI products. I also wrote a blog post (https://t.co/xhiVyCk2Vk) about the nitty-gritty details of fair use and why I…

— Suchir Balaji (@suchirbalaji) 23. Oktober 2024

In einem kürzlichen Interview mit der New York Times äußerte Herr Balaji, dass er die von KI ausgehenden Bedrohungen als unmittelbar und bedeutend ansieht. Er argumentierte, dass ChatGPT und ähnliche Chatbots die kommerzielle Lebensfähigkeit von Einzelpersonen, Unternehmen und Internetdiensten, die ursprünglich die digitalen Daten zur Schulung dieser Systeme erstellt haben, untergraben.

OpenAI, Microsoft und andere Unternehmen behaupten, dass das Training ihrer KI-Systeme mit Internetdaten unter die Doktrin der „fairen Nutzung“ fällt.

Diese Lehre berücksichtigt vier Faktoren und diese Unternehmen behaupten, sie erfüllen die Kriterien, einschließlich der signifikanten Umgestaltung urheberrechtlich geschützter Werke und der Nicht-Konkurrenz im selben Markt wie diese Werke.

Herr Balaji war anderer Meinung. Er argumentierte, dass Systeme wie GPT-4 vollständige Kopien von Trainingsdaten erstellen. Während Unternehmen wie OpenAI diese Systeme programmieren können, um entweder die Daten zu replizieren oder völlig neue Ausgaben zu erzeugen, liegt die Realität, wie er sagt, irgendwo dazwischen, wie The Times berichtete.

Herr Balaji hat auf seiner persönlichen Webseite einen Essay veröffentlicht, in dem er das, was er als mathematische Analyse zur Unterstützung seiner Behauptung bezeichnet, anbietet. „Wenn Sie glauben, was ich glaube, müssen Sie einfach das Unternehmen verlassen“, sagte er, wie The Times berichtete.

Laut Herrn Balaji verstößt die Technologie gegen das Urheberrecht, weil sie oft direkt mit den Werken konkurriert, auf denen sie trainiert wurde. Generative Modelle, die darauf ausgelegt sind, Online-Daten nachzuahmen, können fast alles im Internet ersetzen, von Nachrichtenartikeln bis hin zu Online-Foren, berichtete The Times.

Balajis Tod ereignete sich nur einen Tag nach einer Gerichtseinreichung, die ihn identifizierte als eine Person, deren berufliche Unterlagen OpenAI im Zusammenhang mit einer Klage, die mehrere Autoren gegen das Start-up eingereicht haben, überprüfen würde, so Forbes.

Jenseits rechtlicher Bedenken warnte Herr Balaji, dass KI-Technologien das Internet verschlechtern. Wenn diese Werkzeuge bestehende Dienste ersetzen, erzeugen sie oft falsche oder vollständig erfundene Informationen – ein Phänomen, das Forscher als „Halluzinationen“ bezeichnen. Er glaubte, dass diese Veränderung das Internet zum Schlechteren verändert, berichtete The Times.

Bradley J. Hulbert, ein Anwalt für geistiges Eigentum, stellte fest, dass die aktuellen Urheberrechtsgesetze lange vor dem Aufkommen der KI festgelegt wurden und dass bisher kein Gericht entschieden hat, ob Technologien wie ChatGPT diese Gesetze verletzen, wie The Times berichtete.

Er betonte die Notwendigkeit legislativer Maßnahmen. „Angesichts der Tatsache, dass die KI sich so schnell entwickelt“, sagte er, „ist es an der Zeit, dass der Kongress eingreift.“ Herr Balaji stimmte ihm zu und sagte: „Der einzige Ausweg aus all dem ist die Regulierung“, berichtete The Times.