Meinung: Ist Metas Sicherheitsregulierungssystem defekt?

Fast jeder Content-Ersteller oder aktive Social-Media-Manager hat in letzter Zeit dasselbe Problem beim Posten auf Facebook oder Instagram erlebt: Ein Beitrag oder ein Konto wird gesperrt, wahrscheinlich aus den falschen Gründen.

Diese ärgerliche Situation ist nur ein Teil des Puzzles eines komplexen Problems mit Metas Content-Regulierungssystem. Obwohl Meta viele Kontrollmaßnahmen zu haben scheint – manchmal absurd – scheint die Wurzel des Problems nicht gelöst zu sein.

In den letzten Monaten hat Meta zahlreiche Aktualisierungen seiner Inhaltsrichtlinien eingeführt und strengere Regeln implementiert, die auf den Aufbau einer gesünderen Online-Umgebung abzielen. Eine der Konsequenzen war, dass viele Unternehmen, Verlage und Benutzerkonten gesperrt wurden, was zu Hunderten von Beschwerden in Foren, Chat-Plattformen und sozialen Medienkanälen führte. Mehrere Nachrichtenverlage und Marken wurden in diesem Jahr auf Metas Plattformen in bestimmten Regionen entfernt, was bei Geschäftsinhabern, Journalisten und Inhaltsproduzenten Besorgnis auslöst.

Trotz Metas neuester Aktualisierungen, die den Eindruck strengerer Moderation und genauerer Prüfung der auf seinen Plattformen geteilten Inhalte erwecken, gelangen Beiträge, die mit Drogen, Selbstmord, sexueller Belästigung, Mobbing, Hassrede, Missbrauch und Falschinformationen in Verbindung stehen, weiterhin durch Algorithmen und erreichen verletzliche Gemeinschaften.

Ich kann nicht anders, als mich zu fragen: Was passiert mit Meta’s Sicherheitsregulierungssystem?

Konten aus falschen Gründen gesperrt

Alles beginnt mit einer ähnlichen Nachricht: „Ihr Meta-Konto entspricht nicht unseren Regeln“. Viele Facebook- und Instagram-Nutzer wurden aus ihren Konten verbannt oder temporär ausgeschlossen „weil sie nicht“ den Regeln von Meta entsprechen, selbst wenn sie glauben, dass sie es tun.

Es ist eine Situation, die wir bei Wizcase erlebt haben. Metas System hat relevante Artikel als unangemessen gekennzeichnet und den Community Manager dazu veranlasst, einen Einspruchsprozess durchzuführen und behördlich ausgestellte Ausweise vorzulegen.

Hunderte von Nutzern, Community Managern und Account Managern haben sich auf Plattformen wie Reddit und anderen Foren, Chats und Social-Media-Kanälen über ähnliche Situationen beschwert. In mehreren unglücklichen Szenarien verlieren Nutzer ihre Konten und können nichts dagegen unternehmen, und sie erhalten nicht einmal eine Erklärung.

„Das Support Team von Facebook ist schrecklich. Egal, wie oft wir ihnen alles erzählen oder alles erklären, sie verstehen es einfach nicht“, sagte ein Nutzer auf Reddit in Bezug auf eine Diskussion über gesperrte Konten. „Eines kann ich gleich sagen: Sie werden Ihr Konto nicht wiederhergestellt bekommen, es sei denn, Sie haben täglich Hunderttausende ausgegeben“, fügte ein anderer hinzu.

Dieses Problem, obwohl es nur Content-Ersteller zu betreffen scheint, ist nur ein kleiner Teil einer größeren Herausforderung.

Meta gegen Klagen

Seit Jahren investiert Meta in die Moderation von Inhalten und entwickelt neue Strategien, um eine sicherere Plattform für die Nutzer zu schaffen und sich vor weiteren Klagen zu schützen – die jüngste stammt von kenianischen Inhaltsmoderatoren, die derzeit 1,6 Milliarden Dollar Entschädigung für Massenentlassungen und für das belastende Material fordern, mit dem sie konfrontiert wurden, während sie Inhalte für Facebook analysierten.

Das Technologieunternehmen setzt auf Dritte, um bei der Kontrolle von Inhalten zu helfen, und entwickelt Tools, um zu erkennen, wann Inhalte gegen die Plattformregeln verstoßen. Allerdings waren diese Maßnahmen nicht ausreichend und die Situation geriet, insbesondere bei minderjährigen Nutzern, außer Kontrolle.

Im Jahr 2021 führte Meta neue Schutzfunktionen ein, doch das hinderte den Senat nicht daran, Instagram und Facebook letztes Jahr zu den Plattformen zu zählen, die als schädlich für Kinder eingestuft wurden. Der Technologiegigant sah sich in den Vereinigten Staaten mit einer gemeinsamen Klage von 33 Bundesstaaten konfrontiert, wegen seines manipulativen und schädlichen Algorithmus.

Seit Januar hat Meta Updates zu neuen Sicherheitskontrollwerkzeugen geteilt. Im Juni verbesserte das Unternehmen sein Anti-Belästigungswerkzeug, um Teenager auf Instagram zu schützen. Mit der standardmäßigen Funktion „Close Friends“ und einer „Limits“-Funktion konnten nur echte Freunde und Familie mit den von jungen Nutzern geposteten Inhalten interagieren.

Vor ein paar Tagen hat das Unternehmen die neuen Teen Accounts angekündigt, um Jugendliche zu schützen und „Eltern zu versichern, dass Jugendliche sichere Erfahrungen machen“. Wäre das ausreichend, um Kinder zu schützen? Was ist mit älteren Nutzern?

Ein unsicheres Ökosystem

Facebook, Instagram und WhatsApp sind immer noch von schädlichen Inhalten durchsetzt, die Nutzer aller Altersgruppen, Berufe und sozialer Gruppen betreffen, und dieses Problem wird wohl kaum so schnell gelöst werden.

Eine Studie, durchgeführt vom Center for Countering Digital Hate (CCDH), analysierte über 500 Millionen Kommentare auf Instagram, die von den Konten von 10 Politikerinnen in den USA gemacht wurden und enthüllte, dass Meta versäumte, 93% dieser Kommentare zu entfernen oder Maßnahmen dagegen zu ergreifen.

Die zahlreichen Klagen gegen Meta haben buchstäblich bewiesen, dass das Unternehmen mit Problemen kämpft, seine Nutzer vor schädlichen Inhalten zu schützen. Zudem schadet es auch Kreativen, Verlegern und Marken mit ungerechten Filtern und schlecht implementierten Sicherheitswerkzeugen.

Natürlich handelt es sich hierbei um ein komplexes und tiefgreifendes Problem, das gründlich angegangen werden sollte, aber vielleicht ist es an der Zeit zu akzeptieren, dass Meta diese Situation nicht bewältigen kann. Pflasterlösungen werden ein grundsätzlich kaputtes System nicht reparieren. Nun stellt sich die eigentliche Frage: Wie viele weitere Nutzer müssen ungerecht gesperrt, in die Irre geführt oder manipuliert werden, bevor echte Veränderungen eintreten?