Berlin – Die Klage wurde ursprünglich vor etwas mehr als einem Jahr von 15 zivilgesellschaftlichen Organisationen vor dem französischen Conseil d’État eingereicht, der in dieser Funktion in etwa mit dem deutschen Bundesverwaltungsgericht vergleichbar ist.

Die klagenden Organisationen berufen sich auf den Schutz personenbezogener Daten und den Grundsatz der Nichtdiskriminierung. Jetzt schließen sich zehn weitere Organisationen, darunter auch AlgorithmWatch, der Klage an.

Der in Rede stehende Algorithmus weist jedem Menschen, der Sozialleistungen von Stellen des französischen Sozialsystems (CNAF) erhält, einen Verdachtswert zu. Anhand dieses Verdachtswerts, der Indikator für einen möglichen Sozialleistungsbetrug sein soll, wird ausgewählt, wer einer weiteren Überprüfung unterzogen wird. Jeden Monat analysiert der Algorithmus die personenbezogenen Daten von mehr als 32 Millionen Menschen und berechnet mehr als 13 Millionen Scorings. Zu den Faktoren, die den Verdachtswert erhöhen, gehören beispielsweise ein geringes Einkommen, Arbeitslosigkeit, der Bezug von Mindesteinkommen oder Leistungen für Menschen mit Behinderungen. Menschen, auf die eine oder mehrere dieser Eigenschaften zutreffen, werden damit auf diskriminierende Weise pauschal unter Verdacht gestellt.

Zusammen mit den anderen Organisationen im Bündnis hofft AlgorithmWatch auf eine Überweisung des Falls an den Gerichtshof der Europäischen Union (EuGH) und eine Entscheidung für die gesamte Union und alle ihre Mitgliedstaaten.

„Dieser Fall zeigt deutlich, warum wir den Einsatz algorithmischer Systeme seitens des Staates rechtlich besser einhegen müssen, statt auf Deregulierung zu setzen. Öffentliche Stellen müssen bei der Einführung algorithmischer Systeme zur Entscheidungsfindung Nichtdiskriminierung, Transparenz und klare und verständliche Rechte für Nutzende gewährleisten. Das von der Europäischen Union vorgeschlagene Digital Omnibus-Paket führt uns in die falsche Richtung und schwächt den Schutz der Bürger*innen“, sagt Estelle Pannatier, Senior Policy Managerin bei AlgorithmWatch.

Die gemeinsame Pressemitteilung der Koalition finden Sie hier.