Britische Regierung entwickelt umstrittenes KI-Tool zur ‚Mordvorhersage‘

Die britische Regierung arbeitet an einem umstrittenen Projekt, das KI nutzt, um vorherzusagen, wer in der Zukunft möglicherweise einen Mord begehen könnte.

Die Existenz des Programms wurde durch Informationsfreiheitsanfragen ans Licht gebracht, die von der Überwachungsgruppe Statewatch erlangt wurden.

Ihre Ergebnisse deuten darauf hin, dass sensible persönliche Daten verwendet werden. Dazu gehören Gesundheitsakten, Informationen über die psychische Gesundheit, Suchtverläufe und Daten von Menschen, die noch nie wegen eines Verbrechens verurteilt wurden.

Statewatch berichtet, dass das Justizministerium (MoJ) diese Pläne anführt und bestehende Behördenregister von Personen überprüft, um schwere Verbrechen zu verhindern.

Ursprünglich unter dem Namen „Homicide Prediction Project“ bekannt, heißt es nun „Daten teilen, um die Risikobewertung zu verbessern“. Das Projekt befindet sich derzeit in einer Forschungsphase, aber wie Statewatch berichtet, haben Kampagnen und Datenschützer Bedenken geäußert.

Behördenvertreter weisen dies jedoch zurück. The Guardian berichtet, dass ein Sprecher des Justizministeriums erklärt hat: „Dieses Projekt wird ausschließlich zu Forschungszwecken durchgeführt. Es wurde unter Verwendung vorhandener Daten des Gefängnis- und Bewährungsdienstes HM sowie der Polizeikräfte über verurteilte Straftäter konzipiert, um uns ein besseres Verständnis über das Risiko zu vermitteln, dass Bewährungshäftlinge schwere Gewaltverbrechen verüben. Ein Bericht wird zu gegebener Zeit veröffentlicht.“

Laut Statewatch teilte die Polizei in Greater Manchester Daten von bis zu einer halben Million Menschen. Dies beinhaltete Opfer, Verdächtige und Menschen in gefährdeten Situationen.

Sofia Lyall, eine Forscherin bei Statewatch, kritisierte das Projekt stark und sagte: „Der Versuch des Justizministeriums, dieses Mordvorhersagesystem zu entwickeln, ist das neueste erschreckende und dystopische Beispiel für die Absicht der Regierung, sogenannte ‚Verbrechensvorhersagesysteme‘ zu entwickeln.“

Sie warnte, dass das System die rassische und klassenbasierte Diskriminierung vertiefen würde: „Dieses neueste Modell, das Daten von unserer institutionell rassistischen Polizei und dem Innenministerium verwendet, wird die strukturelle Diskriminierung, die das Strafjustizsystem untermauert, verstärken und vergrößern.“

„Die Verwendung solch sensibler Daten zu psychischer Gesundheit, Sucht und Behinderung ist höchst aufdringlich und beunruhigend“, fügte sie hinzu.

Die Regierung argumentiert, dass Werkzeuge wie dieses die Einschätzung von Risiken durch Bewährungsdienste verbessern und gewalttätige Verbrechen verhindern könnten. Kritiker jedoch behaupten, das System könne dazu führen, dass Menschen aufgrund fehlerhafter und voreingenommener Daten unfair als potenzielle Mörder eingestuft werden.

Die Regierung argumentiert, dass diese Werkzeuge die Fähigkeit der Bewährungsdienste verbessern werden, Risiken zu bewerten und gewalttätige Verbrechen zu verhindern. Kritiker warnen jedoch, dass das System das Risiko birgt, Menschen aufgrund schlechter und voreingenommener Daten als potenzielle Mörder zu kennzeichnen.

Obwohl noch in der Entwicklung, berichtet Statewatch, dass Dokumente die „zukünftige Operationalisierung“ des Systems erwähnen, was Bedenken aufwirft, dass es bald in realen Polizei-Entscheidungen eingesetzt werden könnte.