Die Universität von Chicago bietet mit Glaze und Nightshade Künstlern einen Schutz gegen KI

Künstler wehren sich mit Glaze und Nightshade, zwei von Ben Zhao und seinem Team an der University of Chicago’s SAND Lab entwickelte Werkzeuge, gegen ausbeuterische KI-Modelle, wie heute im MIT Technology Review berichtet wurde.

Diese Werkzeuge zielen darauf ab, die Werke von Künstlern vor der ungenehmigten Verwendung zum Training von KI-Modellen zu schützen, eine Praxis, die viele Schöpfer als Diebstahl betrachten. Glaze, das seit seiner Veröffentlichung im März 2023 über 4 Millionen Mal heruntergeladen wurde, verfremdet Bilder durch das Hinzufügen von subtilen Veränderungen, die verhindern, dass KI den Stil eines Künstlers erlernt, so das MIT.

Nachtschatten, ein „offensives“ Gegenstück, stört AI-Modelle weiter, indem es unsichtbare Veränderungen einführt, die das AI-Lernen korrumpieren können, wenn sie in der Ausbildung verwendet werden, wie vom MIT bemerkt.

Die Werkzeuge wurden von den Bedenken von Künstlern über den schnellen Aufstieg der generativen KI inspiriert, die oft auf Online-Bilder angewiesen ist, um neue Werke zu schaffen. Das MIT berichtet, dass die Fantasy-Illustratorin Karla Ortiz und andere Schöpfer Befürchtungen geäußert haben, ihren Lebensunterhalt zu verlieren, da KI-Modelle ihren einzigartigen Stil ohne Erlaubnis oder Bezahlung replizieren.

Für Künstler ist es unerlässlich, online zu posten, um Sichtbarkeit und Einkommen zu gewährleisten. Dennoch haben viele in Erwägung gezogen, ihre Arbeiten zu entfernen, um zu verhindern, dass sie für das Training von KI abgegriffen werden, eine Handlung, die ihre Karrieren beeinträchtigen würde, wie das MIT festgestellt hat.

Nightshade, ein Jahr nach Glaze gestartet, bietet eine aggressivere Verteidigung, berichtet das MIT. Durch das Hinzufügen von „vergifteten“ Pixeln zu Bildern stört es das KI-Training und führt dazu, dass die Modelle verzerrte Ergebnisse liefern, wenn diese Bilder abgegriffen werden.

Die symbolische Wirkung der Nachtschattenpflanze hat bei Künstlern Anklang gefunden, die darin eine poetische Gerechtigkeit sehen: Wenn ihre Arbeiten für das Training von KI gestohlen werden, können sie die Systeme, die sie ausbeuten, beschädigen.

Das MIT argumentiert, dass die Werkzeuge auf anfängliche Skepsis bei Künstlern gestoßen sind, die sich Sorgen um den Datenschutz machten. Um dieses Problem zu lösen, hat das SAND Lab eine Version von Glaze veröffentlicht, die offline arbeitet, um sicherzustellen, dass keine Daten übertragen werden und um das Vertrauen von Künstlern zu gewinnen, die eine Ausbeutung befürchten.

Das Labor hat kürzlich auch den Zugang erweitert, indem es eine Partnerschaft mit Cara eingegangen ist, einer neuen sozialen Plattform, die AI-generierte Inhalte verbietet, wie vom MIT festgestellt wurde.

Zhao und sein Team streben an, die Machtverhältnisse zwischen einzelnen Schöpfern und KI-Unternehmen zu verändern.

Indem sie Werkzeuge anbietet, die Kreativität vor großen Unternehmen schützen, hofft Zhao, Künstler zu befähigen, die Kontrolle über ihre Arbeit zu behalten und ethische Standards im Bereich KI und geistiges Eigentum neu zu definieren, sagt das MIT.

Die Bemühungen gewinnen an Fahrt, aber einige Experten warnen, dass die Werkzeuge möglicherweise keinen hundertprozentigen Schutz bieten, da Hacker und KI-Entwickler Wege suchen, diese Sicherheitsmaßnahmen zu umgehen, wie das MIT bemerkt.

Mit Glaze und Nightshade, die nun kostenlos zugänglich sind, führt Zhaos SAND-Labor weiterhin die Verteidigung der künstlerischen Integrität gegen die wachsende Einflussnahme von AI-getriebener Inhaltskreation an.