Generative KI löst Alarm in der Wissenschaft aus, da gefälschte Daten die Glaubwürdigkeit bedrohen

KI-generierte Bilder bereiten Forschern und Verlegern große Sorgen, da neue generative KI-Tools es beunruhigend einfach machen, gefälschte wissenschaftliche Daten und Bilder zu erstellen, wie in einer Pressemitteilung von Nature erwähnt wird.

Dieser Fortschritt bedroht die Glaubwürdigkeit der wissenschaftlichen Literatur, wobei Experten einen Anstieg von KI-gesteuerten, gefälschten Studien befürchten, die möglicherweise schwer zu identifizieren sind.

Jana Christopher, eine Bildintegritäts-Analystin bei FEBS Press in Deutschland, betont, dass die rasante Entwicklung generativer KI zunehmend Bedenken hinsichtlich ihres Missbrauchspotenzials in der Wissenschaft weckt.

„Die Menschen, die in meinem Bereich arbeiten – Bildintegrität und Publikationsethik – werden zunehmend besorgt über die Möglichkeiten, die sie bietet“, sagte Jane, wie von Nature berichtet.

Sie merkt an, dass einige Zeitschriften möglicherweise AI-generierte Texte unter bestimmten Richtlinien akzeptieren, Bilder und Daten, die von AI erzeugt wurden, jedoch als Überschreitung einer Grenze angesehen werden, die die Forschungsintegrität tiefgreifend beeinträchtigen könnte, wie Nature bemerkt.

Das Aufspüren dieser AI-generierten Bilder ist zu einer Hauptaufgabe geworden, sagt Nature. Im Gegensatz zu früheren digitalen Manipulationen fehlen AI-generierten Bildern oft die üblichen Anzeichen einer Fälschung, was es schwierig macht, eine Täuschung nachzuweisen.

Die auf Bild-Forensik spezialisierte Expertin Elisabeth Bik und andere Forscher vermuten, dass von KI erstellte Darstellungen, insbesondere in der Molekular- und Zellbiologie, bereits in veröffentlichter Literatur vorhanden sein könnten, wie Nature berichtet.

Tools wie ChatGPT werden mittlerweile regelmäßig zum Entwerfen von wissenschaftlichen Arbeiten verwendet, erkennbar an typischen Chatbot-Phrasen, die uneditiert gelassen werden. KI-generierte Bilder sind jedoch weitaus schwerer zu entdecken. Als Reaktion auf diese Herausforderungen entwickeln Technologieunternehmen und Forschungseinrichtungen Detektionswerkzeuge, so berichtet Nature.

KI-gestützte Tools wie Imagetwin und Proofig führen die Entwicklung an, indem sie ihre Algorithmen darauf trainieren, generativen KI-Inhalt zu identifizieren. Dror Kolodkin-Gal, Mitbegründer von Proofig, berichtet, dass ihr Tool 98% der Zeit erfolgreich KI-Bilder erkennt, betont jedoch, dass die menschliche Überprüfung entscheidend bleibt, um die Ergebnisse zu validieren, so Nature.

In der Verlagswelt nutzen Zeitschriften wie Science Proofig für erste Überprüfungen von Einreichungen, und der Verlagsriese Springer Nature entwickelt proprietäre Tools, Geppetto und SnapShot, um Unregelmäßigkeiten in Text und Bildern zu identifizieren, wie Nature berichtet.

Andere Organisationen, wie die Internationale Vereinigung der Wissenschaftlichen, Technischen und Medizinischen Verleger, starten ebenfalls Initiativen zur Bekämpfung von Paper Mills und zur Sicherstellung der Forschungsintegrität, wie Nature berichtet.

Experten warnen jedoch, dass die Verleger schnell handeln müssen. Der Wissenschaftsbild-Detektiv Kevin Patrick befürchtet, dass, wenn Maßnahmen zu langsam ergriffen werden, durch KI generierter Inhalt zu einem weiteren ungelösten Problem in der wissenschaftlichen Literatur werden könnte, wie Nature berichtet.

Trotz dieser Bedenken bleiben viele hoffnungsvoll, dass sich zukünftige Technologien weiterentwickeln werden, um die heutigen durch KI generierten Täuschungen zu erkennen, und bieten eine langfristige Lösung an, um die Integrität der akademischen Forschung zu schützen.