Navigation
Seiteninhalt

KI nach europäischen Werten

Das Gesetz über die Künstliche Intelligenz, die die Europäische Kommission 2021 vorschlug, hat nun die parlamentarische Hürde genommen. In der EU entwickelte und eingesetzte KI soll die Rechte europäischer Bürger beachten.
Von Redaktion
18. Juni 2023

Im April 2021 hatte die Europäische Kommission das erste EU-Gesetz für Künstliche Intelligenz vorgeschlagen. Danach sollten KI-Systeme je nach dem Risiko, das sie für die Nutzer darstellen, analysiert, eingestuft und entsprechend ihrer Einstufung reguliert werden. Nun hat das Europäische Parlament seine Position zu dem Gesetz geklärt und einen entsprechenden Gesetzestext mit großer Mehrheit angenommen, auf dessen Grundlage Verhandlungen mit den Mitgliedstaaten über die endgültige Fassung des Gesetzes aufgenommen werden können.  

Auch KI muss Grundrechte achten

Das KI-Gesetz soll sicherstellen, dass die in der EU eingesetzte KI von Menschen beaufsichtigt wird; dass sie Anforderungen an Sicherheit, Datenschutz und Transparenz genügt; dass sie niemanden diskriminiert und weder Gesellschaft noch Umwelt schädigt.

Zu diesem Zweck unterteilt das Gesetz KI-Systeme in solche, die die menschliche Sicherheit in inakzeptabler Weise gefährden und deshalb verboten werden; solche, die ein hohes Risiko für die Sicherheit, die Gesundheit oder die Rechte natürlicher Personen darstellen – diese müssen hohen Transparenzkriterien genügen und über ihren ganzen Lebenszyklus überwacht und bewertet werden. KI-Systeme mit begrenztem Risiko müssen hingegen nur minimale Transparenzanforderungen erfüllen und die Nutzer darauf aufmerksam machen, dass sie mit einer KI interagieren.  

Social Scoring und Gesichtserkennung verboten

Nach dem Gesetzentwurf sollen KI-Anwendungen zum Social Scoring,d.h. zur Klassifizierung natürlicher Personen auf der Grundlage ihres sozialen Verhaltens oder ihrer Persönlichkeitsmerkmale, verboten werden. So auch KI- Anwendungen, die in die Privatsphäre eingreifen und diskriminieren, wie etwa biometrische Echtzeit-Fernidentifizierungssysteme (Gesichtserkennung).

Die EU-Abgeordneten haben dafür gesorgt, dass KI-Systeme, die die Gesundheit, die Sicherheit und die Grundrechte von Menschen oder die Umwelt erheblich gefährden, im Gesetz als Hochrisiko-Anwendungen eingestuft werden. Dazu gehören KI-Systeme, die zur Beeinflussung von Wählern und Wahlergebnissen sowie in Empfehlungssystemen von Social-Media-Plattformen eingesetzt werden.  

KI-Basismodelle in die Schranken weisen

Es hat viel Wirbel um sogenannte Basismodelle gegeben – Systeme, die von den großen Technologiekonzernen entwickelt und an so großen Datensätzen trainiert wurden, dass sie Fähigkeiten, die sie in einem Bereich erlernt haben, durch minimale Anpassungen auf andere Bereiche übertragen können. Die meisten sprachverarbeitenden Systeme gründen auf solchen Basismodellen – und die sind in die Kritik geraten, weil sie sich anscheinend diskriminierend verhalten: Sie stellen eher Männer als Frauen ein, bringen Muslime mit Gewalt in Verbindung, usw.

Deshalb will die EU Anbieter von Basismodellen dazu verpflichten, Risiken für Gesundheit, Sicherheit, Grundrechte von Menschen, für Umwelt, Demokratie und Rechtsstaatlichkeit abzuschätzen und sie zu mindern. Auch müssen sie laut Gesetzentwurf ihre Modelle in einer EU-Datenbank registrieren, bevor sie auf den EU-Markt kommen.  

Transparenzgebot für ChatGPT 

Generative KI-Systeme, die auf solchen Modellen beruhen – beispielsweise ChatGPT – müssen offenlegen, dass ihre Inhalte KI-generiert sind. Auch müssen die Anbieter dafür sorgen, dass die Systeme keine rechtswidrigen Inhalte erzeugen.

Das EU-Parlament will außerdem die Rechte von Bürgerinnen und Bürgern gegenüber KI stärken. Es soll die Möglichkeit geschaffen werden, Beschwerden über KI-Systeme einzureichen und Entscheidungen erklärt zu bekommen, die auf dem Einsatz hochriskanter KI-Systemen beruhen. Das EU-Parlament will außerdem ein Europäisches Amt für Künstliche Intelligenz einrichten, das die Umsetzung des KI-Regelwerks überwachen soll.  

Quelle: Europäisches Parlament


Autoren

{"uuid":"7b2a8f0b73bf4827ae0d2001cbf98b59","username":"-Redaktion@autorenprofil.at","firstname":" ","lastname":"Redaktion","emailAddress":"-Redaktion@autorenprofil.at","created":"2020-07-28T16:06:44.777Z","edited":"2023-12-05T08:43:48.584Z","fullname":" Redaktion","salutation":"","pretitle":"","posttitle":"","companyname":"","companylink":"http://compliance.lexisnexis.at/Insider/unternehmen/Sonstige/LexisNexisOesterreich.html","premium":false,"website":"www.lexisnexis.at","vita":"Die LexisNexis Österreich & Compliance Praxis-Redaktion versorgt Sie regelmäßig mit aktuellen News und Informationen aus der Compliance-Welt. Unser Ziel ist es, Ihre tägliche Arbeit bestmöglich zu unterstützen. Bitte lassen Sie uns jederzeit Ihr wertvolles Feedback zukommen.","linkedin":"https://www.linkedin.com/company/lexisnexis-%C3%B6sterreich/","facebook":"https://www.facebook.com/LexisNexisAT","jet_abo":"","open":true,"opencompany":"LexisNexis Österreich","openemail":"kundenservice@lexisnexis.at","profilephoto":{"uuid":"46037a30930a4f62b6bd4469943497d2","path":"/782_632_LN_Logo_RGB_Primary_Full-Color_Positive.jpg","fields":{"name":"782_632_LN_Logo_RGB_Primary_Full-Color_Positive.jpg","description":"LexisNexis Österreich"}},"path":"https://www.compliance-praxis.at/Insider/Menschen/Person.html?pid=7b2a8f0b73bf4827ae0d2001cbf98b59"}
782_632_LN_Logo_RGB_Primary_Full-Color_Positive.jpg

Redaktion

Die LexisNexis Österreich & Compliance Praxis-Redaktion versorgt Sie regelmäßig mit aktuellen News und Informationen aus der Compliance-Welt. Unser Ziel ist es, Ihre tägliche Arbeit bestmöglich zu ...

{"name":"KI nach europäischen Werten","contenttype":"text/html","templateName":"content-page","headmeta":"<meta charset=\"utf-8\">\n<meta http-equiv=\"X-UA-Compatible\" content=\"IE=edge\">\n<meta name=\"viewport\" content=\"width=device-width, initial-scale=1\">\n\n\n\n\n\n <title>KI nach europäischen Werten</title>\n \n\n <meta name=\"description\" content=\" Das Gesetz über die Künstliche Intelligenz, die die Europäische Kommission 2021 vorschlug, hat nun die parlamentarische Hürde genommen. In der EU entwickelte und eingesetzte KI soll die Rechte europäischer Bürger beachten. \"/>\n\n <meta property=\"og:image\" content=\"/Themen/Aktuelles_Meinung/Aktuell/20211004PHT14107_original.jpg\"/>\n <meta property=\"og:image:height\" content=\"1200\"/>\n <meta property=\"og:image:width\" content=\"1800\"/>\n <meta property=\"og:site_name\" content=\"CompliancePraxis\"/>\n <meta property=\"og:url\" content=\"/Themen/Aktuelles_Meinung/Aktuell/KI_nach_europaeischen_Werten.html\"/>\n <meta property=\"og:type\" content=\"website\"/>\n <meta property=\"og:locale\" content=\"de_DE\">\n <meta property=\"og:description\" content=\" Das Gesetz über die Künstliche Intelligenz, die die Europäische Kommission 2021 vorschlug, hat nun die parlamentarische Hürde genommen. In der EU entwickelte und eingesetzte KI soll die Rechte europäischer Bürger beachten. \"/>\n","title":"KI nach europäischen Werten","teaser":" Das Gesetz über die Künstliche Intelligenz, die die Europäische Kommission 2021 vorschlug, hat nun die parlamentarische Hürde genommen. In der EU entwickelte und eingesetzte KI soll die Rechte europäischer Bürger beachten. ","pagecontent":" <p>Im April 2021 hatte die Europäische Kommission das erste EU-Gesetz für Künstliche Intelligenz vorgeschlagen. Danach sollten KI-Systeme je nach dem Risiko, das sie für die Nutzer darstellen, analysiert, eingestuft und entsprechend ihrer Einstufung reguliert werden. Nun hat das Europäische Parlament seine Position zu dem Gesetz geklärt und einen entsprechenden Gesetzestext mit großer Mehrheit angenommen, auf dessen Grundlage Verhandlungen mit den Mitgliedstaaten über die endgültige Fassung des Gesetzes aufgenommen werden können.&nbsp;&nbsp;</p><h2><b>Auch KI muss Grundrechte achten</b></h2><p class=\"\">Das KI-Gesetz soll sicherstellen, dass die in der EU eingesetzte KI von Menschen&nbsp;beaufsichtigt wird; dass sie Anforderungen an Sicherheit, Datenschutz und Transparenz genügt; dass sie niemanden diskriminiert und weder Gesellschaft noch Umwelt schädigt. <span lang=\"DE\"></span></p><p class=\"\">Zu diesem Zweck unterteilt das Gesetz KI-Systeme in solche, die die menschliche Sicherheit in inakzeptabler Weise gefährden und deshalb verboten werden; solche, die ein hohes Risiko für die Sicherheit, die Gesundheit oder die Rechte natürlicher Personen darstellen – diese müssen hohen Transparenzkriterien genügen und über ihren ganzen Lebenszyklus überwacht und bewertet werden. KI-Systeme mit begrenztem Risiko müssen hingegen nur minimale Transparenzanforderungen erfüllen und die Nutzer darauf aufmerksam machen, dass sie mit einer KI interagieren.&nbsp;&nbsp;</p><h2><b>Social Scoring und Gesichtserkennung verboten</b></h2><p class=\"\">Nach dem Gesetzentwurf sollen KI-Anwendungen zum Social Scoring,d.h. zur Klassifizierung natürlicher Personen auf der Grundlage ihres sozialen Verhaltens oder ihrer Persönlichkeitsmerkmale, verboten werden. So auch KI- Anwendungen, die in die Privatsphäre eingreifen und diskriminieren, wie etwa biometrische Echtzeit-Fernidentifizierungssysteme (Gesichtserkennung).</p><p class=\"\">Die EU-Abgeordneten haben dafür gesorgt, dass KI-Systeme, die die Gesundheit, die Sicherheit und die Grundrechte von Menschen oder die Umwelt erheblich gefährden, im Gesetz als Hochrisiko-Anwendungen eingestuft werden. Dazu gehören KI-Systeme, die zur Beeinflussung von Wählern und Wahlergebnissen sowie in Empfehlungssystemen von Social-Media-Plattformen eingesetzt werden.&nbsp;&nbsp;</p><h2><b>KI-Basismodelle in die Schranken weisen</b></h2><p class=\"\">Es hat viel Wirbel um sogenannte Basismodelle gegeben – Systeme, die von den großen Technologiekonzernen entwickelt und an so großen Datensätzen trainiert wurden, dass sie Fähigkeiten, die sie in einem Bereich erlernt haben, durch minimale Anpassungen auf andere Bereiche übertragen können. Die meisten sprachverarbeitenden Systeme gründen auf solchen Basismodellen – und die sind in die Kritik geraten, weil sie sich anscheinend diskriminierend verhalten: Sie stellen eher Männer als Frauen ein, bringen Muslime mit Gewalt in Verbindung, usw.</p><p class=\"\">Deshalb will die EU Anbieter von Basismodellen dazu verpflichten, Risiken für Gesundheit, Sicherheit, Grundrechte von Menschen, für Umwelt, Demokratie und Rechtsstaatlichkeit abzuschätzen und sie zu mindern. Auch müssen sie laut Gesetzentwurf ihre Modelle in einer EU-Datenbank registrieren, bevor sie auf den EU-Markt kommen.&nbsp;&nbsp;</p><h2><b>Transparenzgebot für ChatGPT</b>&nbsp;</h2><p class=\"\">Generative KI-Systeme, die auf solchen Modellen beruhen – beispielsweise ChatGPT – müssen offenlegen, dass ihre Inhalte KI-generiert sind. Auch müssen die Anbieter dafür sorgen, dass die Systeme keine rechtswidrigen Inhalte erzeugen.</p><p class=\"\">Das EU-Parlament will außerdem die Rechte von Bürgerinnen und Bürgern gegenüber KI stärken. Es soll die Möglichkeit geschaffen werden, Beschwerden über KI-Systeme einzureichen und Entscheidungen erklärt zu bekommen, die auf dem Einsatz hochriskanter KI-Systemen beruhen. Das EU-Parlament will außerdem ein Europäisches Amt für Künstliche Intelligenz einrichten, das die Umsetzung des KI-Regelwerks überwachen soll.&nbsp;&nbsp;</p><p class=\"\">Quelle: Europäisches Parlament<span lang=\"DE\"></span></p><p class=\"\"><br></p> ","sidecolumn":null,"storiesmain":null,"storiesoverview":null,"headerimage":"","headertitle":"<h1 class=\"contentheader \">KI nach europäischen Werten</h1>","stoerercontainer":null,"stoerercontainer2":null,"stoererwerbebanner":"","insiderheads":null,"overviewunternehmenimage":null,"overviewunternehmentitle":null,"buttonviewall1":null,"buttonviewall2":null,"superelement":null,"topstory":null,"netzwerkpartnerlogoleiste":"","metadata":"<div class=\"info\"><eval>>partials/themes-startpage/newsauthors data=(renderNewsAuthors \"26:-Redaktion@autorenprofil.at\" userinfo)</eval>\n<br>18. Juni 2023</div>","footnotes":"<div class=\"footnote v-spacer footnote-editor-preview d-none\"></div>\n","eventsmain":null,"eventsoverview":null,"eventsoverviewjson":null,"event":"","eventdates":"","footer":"<footer class=\"d-flex flex-column flex-xl-row\">\n\t<span class=\"sr-only\">Footer</span>\n\t<ul class=\"nav footer-nav flex-row pb-4 pb-xl-0 w-100\" id=\"footernavigation\" role=\"navigation\">\n\t\t\t\t\t\t\t</ul>\n\t<div class=\"copyright flex-md-shrink-1 text-left text-md-right\">\n\t\t\t\t<img src=\"/static/compliance_praxis/files/images/LexisNexis.png\" alt=\"LexisNexis\">\n\t\t<p></p>\t</div>\n</footer>\n","footerglobal":"<eval>{cpConfigLoader \"global\" \"footer\"}</eval>","footerjson":null,"onetrust":null,"ogimagefallback":null,"ogimagefallbackheight":null,"ogimagefallbackwidth":null,"cpcouponlist":null,"taggedthemes":["IT Dienstleistungen","Richtlinien"],"taggedcategories":["Aktuelles & Meinung"],"taggedorganizers":[],"taggedexhibitors":[],"taggedlecturers":[],"taggedmoderators":[],"taggedparticipants":[],"taggedauthors":["26:-Redaktion@autorenprofil.at"],"taggedmagazine":[],"taggedmagazinepage":"","taggedadvertorial":[],"taggingcontainer":null,"authorsdetails":"<div><eval>>partials/content-page/authorsdetails</eval></div>","participantsdetails":null,"contactsdetails":null,"portalapp":"cpshop,cprelatedarticles,","sidecolumninsider":null,"sidecolumnthemen":null,"sidecolumnevents":null,"sidecolumnglobal":"\t<eval>{cpConfigLoader \"stoerer\" \"sidecolumnthemen\"}</eval>\n\t\t\t\t\t\t<eval>> partials/applications/cprelatedarticles applicationtag=\"cprelatedarticles\"</eval>\n\t\t\t","sidecolumntop":"<div class=\"row\"></div>","sidecolumnbottom":"<div class=\"row\"></div>","premium":null,"oecov":null,"textimage":null,"upcompanytaggedevents":null,"upcompanyadvertorialarticles":null,"personprofile":null,"cms_id":12036,"usermodule":null,"cpuseraccount":null,"meshroles":["anonymous"],"taggingusers":null,"magentoshopapp":"\n"}