Google DeepMind startet Open-Source-Wasserzeichen-Tool zur Erkennung von KI-generiertem Text

Google DeepMind hat diesen Mittwoch ein Open-Source-Wasserzeichen-Tool namens SynthID-Text gestartet, um die Erkennung von künstlich generiertem Text zu erleichtern. Das Tool steht Unternehmen und Entwicklern kostenlos zur Verfügung und funktioniert, indem es unsichtbare Wasserzeichen – für das menschliche Auge nicht erkennbar – in den Text während der Erzeugung einbettet, indem es die Wahrscheinlichkeiten von Wörtern verändert.

„Hier beschreiben wir SynthID-Text, ein produktionsbereites Text-Wasserzeichen-Schema, das die Textqualität erhält und eine hohe Erkennungsgenauigkeit ermöglicht, mit minimaler Latenz-Overhead,“ steht in der Zusammenfassung der in der Nature veröffentlichten Forschung. „Um eine Wasserzeichenbildung im großen Stil zu ermöglichen, entwickeln wir einen Algorithmus, der die Wasserzeichenbildung mit spekulativem Sampling, einer häufig in Produktionssystemen verwendeten Effizienztechnik, integriert.“

Laut MIT Technology Review hat das KI-Forschungslabor des Technologiegiganten die SynthID-Technologie entwickelt, um mehrere KI-Wasserzeichen-Tools zu erstellen, die nun KI-erzeugten Text, Musik, Video und Bilder erkennen können. Google DeepMind hat ein Video geteilt, in dem erklärt wird, wie die Technologie über verschiedene Medientypen hinweg funktioniert.

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23. Oktober 2024

SynthID ist über das Google Responsible Generative AI Toolkit des Unternehmens verfügbar, und Forscher arbeiten zusammen mit Hugging Face – einer kollaborativen Plattform für Entwickler, die andere Open-Source-Projekte wie LeRobots Anleitung zum Bau von AI-gesteuerten Robotern zu Hause beherbergt – um es auch auf deren Seite zu teilen.

„Jetzt werden andere [generative] KI-Entwickler in der Lage sein, diese Technologie zu nutzen, um zu erkennen, ob Textausgaben von ihren eigenen [großen Sprachmodellen] stammen, was es mehr Entwicklern erleichtert, verantwortungsvoll KI zu entwickeln“, sagte Pushmeet Kohli, der Vizepräsident für Forschung bei Google DeepMind, gegenüber dem MIT Technology Review.

SynthID wurde in Googles Gemini-Produkten getestet, und Millionen von Nutzern konnten keinen Unterschied zwischen mit Wasserzeichen versehenen und nicht mit Wasserzeichen versehenen Inhalten erkennen. Dennoch räumten die Forscher ein, dass es Einschränkungen gibt, wenn der Text bearbeitet oder übersetzt wurde. Sie bleiben jedoch optimistisch und glauben, dass das Tool dabei helfen könnte, Fehlinformationen zu bekämpfen und die Sicherheit von KI zu verbessern.

In den letzten Monaten haben mehrere Technologieunternehmen Strategien zur Kennzeichnung von KI angekündigt. Meta kündigte im Februar ein System zur Identifizierung von KI-Inhalten auf Instagram, Facebook und Threads an, Google forderte die Nutzer im März auf, KI-Inhalte zu kennzeichnen, und Tiktok fügte im Mai Kennzeichnungen zu KI-erzeugten Inhalten hinzu.