Polizei & KI: EU-Parlament lehnt Massenüberwachung ab

In einer aktuellen Entschließung, die mit 377 gegen 248 Stimmen bei 62 Enthaltungen angenommen wurde, weisen die Abgeordneten des Europäischen Parlaments auf das Risiko algorithmischer Voreingenommenheit bei KI-Anwendungen hin und betonen die Notwendigkeit menschlicher Aufsicht und starker rechtlicher Kontrollen. So soll Diskriminierung durch KI verhindert werden, insbesondere bei Strafverfolgung oder Grenzübertritten. Die Abgeordneten betonen, dass die endgültigen Entscheidungen immer von Menschen getroffen werden sollten. Personen, die von KI-gestützten Systemen überwacht werden, müssten die Möglichkeit haben, Rechtsmittel einzulegen.

Bedenken wegen Diskriminierung

Die Abgeordneten weisen darauf hin, dass viele der derzeit verwendeten algorithmusgesteuerten Identifizierungstechnologien unverhältnismäßig viele Personen falsch identifizieren und daher Menschen, die aufgrund von Rassismus benachteiligt sind, Personen, die bestimmten ethnischen Gemeinschaften angehören, LGBTI-Personen, Kindern und älteren Menschen sowie Frauen Schaden zufügen, was besonders bedenklich ist, wenn KI-Systeme in einem Kontext der Strafverfolgung oder Justiz eingesetzt werden.

Um sicherzustellen, dass die Grundrechte beim Einsatz dieser Technologien gewahrt bleiben, sollten die Algorithmen transparent, nachvollziehbar und ausreichend dokumentiert sein, fordern die Abgeordneten. Wenn möglich, sollten die Behörden Open-Source-Software verwenden, um mehr Transparenz zu gewährleisten.

Umstrittene Technologien

Um die Privatsphäre und die Menschenwürde zu wahren, fordern die Abgeordneten das dauerhafte Verbot der Verwendung einer automatisierten Erkennung von Personen in öffentlich zugänglichen Räumen, da Bürger nur dann überwacht werden sollten, wenn sie einer Straftat verdächtigt werden. Das Parlament fordert ein Verbot der Nutzung privater Gesichtserkennungsdatenbanken (wie das bereits im Einsatz befindliche KI-System Clearview) und der vorausschauenden Polizeiarbeit auf der Grundlage von Verhaltensdaten.

Die Abgeordneten fordern auch ein Verbot von Social-Scoring-Systemen, die versuchen, die Vertrauenswürdigkeit von Bürgern auf der Grundlage ihres Verhaltens oder ihrer Persönlichkeit zu bewerten.

Schließlich ist das Parlament besorgt über die Verwendung biometrischer Daten für Zwecke der Fernidentifizierung von Personen. Die Abgeordneten fordern die Kommission auf, Vertragsverletzungsverfahren gegen Mitgliedstaaten einzuleiten, wenn dies notwendig ist.

„Grundrechte brauchen keine Rechtfertigung"

Berichterstatter Petar Vitanov sagte: „Grundrechte brauchen keine Rechtfertigung. Zum ersten Mal überhaupt fordern wir ein Moratorium für den Einsatz von Gesichtserkennungssystemen zu Strafverfolgungszwecken, da sich die Technologie als unwirksam erwiesen hat und oft zu diskriminierenden Ergebnissen führt. Wir sprechen uns klar gegen eine vorausschauende Polizeiarbeit auf der Grundlage von KI sowie gegen jede Verarbeitung biometrischer Daten aus, die zu einer Massenüberwachung führt.“

Quelle: EU-Parlament

Autoren

Redaktion

Die LexisNexis Österreich & Compliance Praxis-Redaktion versorgt Sie regelmäßig mit aktuellen News und Informationen aus der Compliance-Welt. Unser Ziel ist es, Ihre tägliche Arbeit bestmöglich zu ...