KI nach europäischen Werten

Im April 2021 hatte die Europäische Kommission das erste EU-Gesetz für Künstliche Intelligenz vorgeschlagen. Danach sollten KI-Systeme je nach dem Risiko, das sie für die Nutzer darstellen, analysiert, eingestuft und entsprechend ihrer Einstufung reguliert werden. Nun hat das Europäische Parlament seine Position zu dem Gesetz geklärt und einen entsprechenden Gesetzestext mit großer Mehrheit angenommen, auf dessen Grundlage Verhandlungen mit den Mitgliedstaaten über die endgültige Fassung des Gesetzes aufgenommen werden können.  

Auch KI muss Grundrechte achten

Das KI-Gesetz soll sicherstellen, dass die in der EU eingesetzte KI von Menschen beaufsichtigt wird; dass sie Anforderungen an Sicherheit, Datenschutz und Transparenz genügt; dass sie niemanden diskriminiert und weder Gesellschaft noch Umwelt schädigt.

Zu diesem Zweck unterteilt das Gesetz KI-Systeme in solche, die die menschliche Sicherheit in inakzeptabler Weise gefährden und deshalb verboten werden; solche, die ein hohes Risiko für die Sicherheit, die Gesundheit oder die Rechte natürlicher Personen darstellen – diese müssen hohen Transparenzkriterien genügen und über ihren ganzen Lebenszyklus überwacht und bewertet werden. KI-Systeme mit begrenztem Risiko müssen hingegen nur minimale Transparenzanforderungen erfüllen und die Nutzer darauf aufmerksam machen, dass sie mit einer KI interagieren.  

Social Scoring und Gesichtserkennung verboten

Nach dem Gesetzentwurf sollen KI-Anwendungen zum Social Scoring,d.h. zur Klassifizierung natürlicher Personen auf der Grundlage ihres sozialen Verhaltens oder ihrer Persönlichkeitsmerkmale, verboten werden. So auch KI- Anwendungen, die in die Privatsphäre eingreifen und diskriminieren, wie etwa biometrische Echtzeit-Fernidentifizierungssysteme (Gesichtserkennung).

Die EU-Abgeordneten haben dafür gesorgt, dass KI-Systeme, die die Gesundheit, die Sicherheit und die Grundrechte von Menschen oder die Umwelt erheblich gefährden, im Gesetz als Hochrisiko-Anwendungen eingestuft werden. Dazu gehören KI-Systeme, die zur Beeinflussung von Wählern und Wahlergebnissen sowie in Empfehlungssystemen von Social-Media-Plattformen eingesetzt werden.  

KI-Basismodelle in die Schranken weisen

Es hat viel Wirbel um sogenannte Basismodelle gegeben – Systeme, die von den großen Technologiekonzernen entwickelt und an so großen Datensätzen trainiert wurden, dass sie Fähigkeiten, die sie in einem Bereich erlernt haben, durch minimale Anpassungen auf andere Bereiche übertragen können. Die meisten sprachverarbeitenden Systeme gründen auf solchen Basismodellen – und die sind in die Kritik geraten, weil sie sich anscheinend diskriminierend verhalten: Sie stellen eher Männer als Frauen ein, bringen Muslime mit Gewalt in Verbindung, usw.

Deshalb will die EU Anbieter von Basismodellen dazu verpflichten, Risiken für Gesundheit, Sicherheit, Grundrechte von Menschen, für Umwelt, Demokratie und Rechtsstaatlichkeit abzuschätzen und sie zu mindern. Auch müssen sie laut Gesetzentwurf ihre Modelle in einer EU-Datenbank registrieren, bevor sie auf den EU-Markt kommen.  

Transparenzgebot für ChatGPT 

Generative KI-Systeme, die auf solchen Modellen beruhen – beispielsweise ChatGPT – müssen offenlegen, dass ihre Inhalte KI-generiert sind. Auch müssen die Anbieter dafür sorgen, dass die Systeme keine rechtswidrigen Inhalte erzeugen.

Das EU-Parlament will außerdem die Rechte von Bürgerinnen und Bürgern gegenüber KI stärken. Es soll die Möglichkeit geschaffen werden, Beschwerden über KI-Systeme einzureichen und Entscheidungen erklärt zu bekommen, die auf dem Einsatz hochriskanter KI-Systemen beruhen. Das EU-Parlament will außerdem ein Europäisches Amt für Künstliche Intelligenz einrichten, das die Umsetzung des KI-Regelwerks überwachen soll.  

Quelle: Europäisches Parlament

Autoren

Redaktion

Die LexisNexis Österreich & Compliance Praxis-Redaktion versorgt Sie regelmäßig mit aktuellen News und Informationen aus der Compliance-Welt. Unser Ziel ist es, Ihre tägliche Arbeit bestmöglich zu ...