Der Welt zuerst Die Verordnungen zum KI-Gesetz und zur sich rasch entwickelnden KI-Technologie wurden gestern, am 13. März, von den Mitgliedern des Europäischen Parlaments verabschiedet. Die Verordnung, die wurde von den Mitgliedstaaten nach Verhandlungen im Dezember vereinbart 2023, wurde schließlich von den Abgeordneten mit 523 Ja-Stimmen, 46 Nein-Stimmen und 49 Enthaltungen angenommen (Quelle). Die EU-Politiker haben die Genehmigung des HandlungKritiker warnen jedoch davor, dass die Gesetzgebung ein Zugeständnis an die Unternehmensinteressen darstelle. Ein EU-Politikanalyst erklärte, dass die Digitalpolitik als „Testfeld für repressive Überwachung einen eklatanten Angriff auf die Grundrechte aller Menschen darstellen“, wie die meisten von uns jetzt sowieso erwartet hätten.

Ein „risikobasierter Ansatz“

Die Vorschriften, die erwartet  Das Gesetz soll nach einigen letzten Formalitäten im Mai oder Juni in Kraft treten, wobei in den nächsten Jahren verschiedene Bestimmungen in Kraft treten werden. „wendet einen „risikobasierten Ansatz“ auf KI-Produkte und -Dienste an.“ tAssociated Press berichtet Am Mittwoch schrieben sie: „Die überwiegende Mehrheit der KI-Systeme dürfte ein geringes Risiko aufweisen, wie etwa Inhaltsempfehlungssysteme oder Spamfilter. Unternehmen können sich dafür entscheiden, freiwillige Anforderungen und Verhaltenskodizes zu befolgen. Für risikoreiche KI-Anwendungen, etwa in medizinischen Geräten oder kritischer Infrastruktur wie Wasser- oder Stromnetzen, gelten strengere Anforderungen wie die Verwendung hochwertiger Daten und die Bereitstellung klarer Informationen für die Nutzer.“

Einige KI-Anwendungen sind verboten, weil sie als inakzeptables Risiko gelten, wie etwa soziale Bewertungssysteme, die das Verhalten von Menschen steuern, bestimmte Arten von prädiktive Polizeiarbeitund Emotionserkennungssysteme in Schulen und am Arbeitsplatz. Weitere verbotene Anwendungen sind Polizei scannt Gesichter in der Öffentlichkeit Verwendung von KI-gestützten Fernsystemen zur „biometrischen Identifizierung“, außer bei schweren Verbrechen wie Entführung oder Terrorismus.

Während einige das Gesetz für seine „positiven, vernünftigen Richtlinien und Schutzmaßnahmen“ lobten, Gesetz über künstliche Intelligenz, hat viele andere Kritiker auf sich gezogen.

Versagen aus menschenrechtlicher Sicht

„Es lässt sich nicht leugnen, dass dies sowohl in der EU als auch weltweit ein historischer Moment ist: Die EU hat sich auf ein Gesetz zur Regelung künstlicher Intelligenz geeinigt. Es ist das erste seiner Art weltweit. Es ist ein lang erwartetes, hart umkämpftes und langwieriges Gesetz“, schrieb Laura Lazaro Cabrera, Beraterin und Direktorin des Equity and Data Program des Center for Democracy & Technology (CDT) Europe, am Mittwoch.

„Doch was den Schutz der Menschenrechte angeht – immerhin eines der wichtigsten Ziele von CDT Europe –, ist die Lage gemischt.“ argumentierte und dass das Gesetz „zum Maßstab für die KI-Regulierung weltweit werden wird, in einem Wettlauf gegen die Zeit, in dem sich die Gesetzgeber mit der rasanten Entwicklung einer Technologie auseinandersetzen, die weitreichende Auswirkungen auf unsere grundlegenden Menschenrechte hat.“

Das Gesetz sieht wichtige Einschränkungen für den Einsatz von KI durch die Strafverfolgungsbehörden vor. Dennoch gelang es den Gesetzgebern nicht, ein vollständiges Verbot der ungerichteten Gesichtserkennung durch die Strafverfolgungsbehörden durchzusetzen. Das CDT und andere Menschenrechtsaktivisten warnten, dass ein solcher Einsatz unannehmbar hohe Risiken für die Menschenrechte berge, insbesondere für marginalisierte und gefährdete Gemeinschaften, so Lazaro Cabrera.

Bedrohung des Protestrechts

Sie fügt hinzu: „Das KI-Gesetz birgt weiterhin ernsthafte Risiken für die Menschenrechte im Zusammenhang mit KI. So drohen die Ausnahmen des Gesetzes für die Gesichtserkennung, die Regel zu schlucken und flächendeckende Gesichtsscans durch die Polizei auf den Straßen der EU zu ermöglichen – eine ernsthafte Bedrohung beispielsweise für das Recht auf Protest….“

"Das Gesetz schafft zudem eine Ausnahmeregelung, die leicht ausgenutzt werden könnte, um die nationale Sicherheit zu gewährleisten. Zwar verbietet das Gesetz den Einsatz von Technologien zur Emotionserkennung, doch dieses Verbot gilt nur für Bildung und Arbeitsplatz. Es bleibt daher die Frage offen, warum das Gesetz nicht von Anfang an ein Verbot dieser Technologien vorsieht."  

Ein Sieg für Industrie und Polizei

Daniel Leufer, leitender Politikanalyst im Brüsseler Büro der Interessenvertretung Greifen Sie jetzt zu, namens die bahnbrechende KI des Blocks Gesetzgebung „Aus menschenrechtlicher Sicht ein Misserfolg und ein Sieg für Industrie und Polizei.“ Er warnte, dass die Gesetzgebung ein Zugeständnis an die Unternehmensinteressen darstelle und in Schlüsselbereichen zu kurz greife.

„Das neue KI-Gesetz ist voll von Zugeständnissen an die Lobbyarbeit der Industrie, Ausnahmen für die gefährlichsten KI-Anwendungen durch Strafverfolgungs- und Migrationsbehörden und Verboten, die so voller Schlupflöcher sind, dass sie einige der gefährlichsten KI-Anwendungen nicht wirklich verbieten“, so Leufer.

#AIAct Trotz der großen Ankündigungen, dass die EU die Lobbyarbeit überwunden und die „weltweit ersten umfassenden“ Regeln für KI verabschiedet habe, ist das KI-Gesetz aus Menschenrechtssicht ein Misserfolg und ein Sieg für Industrie und Polizei.

Lesen Sie mehr @accessnow's Meinung hier: https://t.co/KgWog9nHsn https://t.co/J27GWvWZMP

— Daniel Leufer (@djleufer) 13. März 2024

Access Now weist insbesondere darauf hin, dass die endgültige Fassung des KI-Gesetzes:

• Einige der gefährlichsten Anwendungen von KI werden nicht ordnungsgemäß verboten, einschließlich Systemen, die ermöglichen biometrische Massenüberwachung und prädiktive Polizeisysteme;
• Schafft eine eklatante Lücke durch Artikel 6(3) dass sich Entwickler von den Verpflichtungen für KI-Systeme mit hohem Risiko befreien können;
• Befreit Strafverfolgungs- und Migrationsbehörden von wichtigen Anforderungen an die öffentliche Transparenz wenn sie hochriskante KI verwenden, was bedeutet, dass sie weiterhin im Geheimen gefährliche Systeme einsetzen können;
• Erweitert die Ausnahmeregelung zur nationalen Sicherheit über das hinaus, was in den EU-Verträgen erlaubt ist, und ermöglicht es Regierungen, sich von den Verpflichtungen aus dem KI-Gesetz zu befreien, um Verfolgung von Fällen, die als relevant für die nationale Sicherheit erachtet werden;
• Schafft ein separates System für Menschen, die migrieren, Zuflucht suchen und/oder ohne Papiere leben.d, wodurch sie weit weniger Rechte als EU-Bürger haben und bei einer Verletzung dieser Rechte kaum Zugang zu Rechtsmitteln haben.

Laut Amnesty International räumt die EU den Interessen der Industrie und der Strafverfolgungsbehörden Priorität ein.

Mher Hakobyan, Advocacy-Berater von Amnesty International für künstliche Intelligenz sagte „Auch wenn die Verabschiedung der weltweit ersten Regeln für die Entwicklung und den Einsatz von KI-Technologien ein Meilenstein ist, ist es enttäuschend, dass die EU und ihre 27 Mitgliedstaaten beschlossen haben, den Interessen von Energiegewinnung mit einem Strafverfolgung Agenturen über den Schutz der Menschen und ihrer Menschenrechte“, 

Neben der Äußerung von Bedenken hinsichtlich der Auswirkungen des Gesetzes Migranten, Flüchtlinge und AsylsuchendeHakobyan betonte, dass „es nicht verbietet, rücksichtsloser Gebrauch mit einem Export drakonischer KI-Technologien"

„Stellt ein erhebliches Risiko für Menschen mit Behinderungen dar …“

Künstliche Intelligenz kann erhebliche Risiken für Menschen mit Behinderungen und andere marginalisierte Gruppen bergen, wenn sie nicht angemessen reguliert wird. Das KI-Gesetz berücksichtigt die Menschenrechte, allerdings nicht so umfassend wie erhofft. Wir fordern die Europäische Union nun auf, diese Lücke mit zukünftigen Initiativen zu schließen.

Yannis Vardakastanis, Präsident des Europäischen Behindertenforums, sagte In einer Erklärung heißt es: „Das KI-Gesetz berücksichtigt die Menschenrechte, allerdings nicht so umfassend, wie wir es uns erhofft hatten. Wir fordern die Europäische Union nun auf, diese Lücke mit zukünftigen Initiativen zu schließen.“

Schützen, nicht überwachen

Access Now und Amnesty sind Teil der ProtectNotSurveil Koalition, die freigegeben Eine gemeinsame Erklärung warnte, dass das KI-Gesetz „einen gefährlichen Präzedenzfall“ schaffe, insbesondere aufgrund der Ausnahmen für Strafverfolgungsbehörden, Einwanderungsbehörden und die nationale Sicherheit.

Weitere Mitglieder der Koalition sind EuroMed Rights, European Digital Rights und Statewatch, deren Geschäftsführer Chris Jones sagte In einer Erklärung heißt es: „Aus Sicht der Grundrechte weist es schwerwiegende Mängel auf und sollte nicht als Goldstandard für eine auf Rechten basierende KI-Regulierung betrachtet werden.“

Die Gesetzgebung sollte den Menschen und ihren Rechten Priorität einräumen

Die Aktivisten hoffen, dass politische Entscheidungsträger weltweit nun Lehren aus diesem Gesetzgebungsprozess ziehen. Sie sind der Meinung, dass die Gesetzgebung die Menschen respektieren und ihre Menschenrechte in den Vordergrund stellen sollte.

Hakobyan von Amnesty International betonte: „Länder außerhalb der EU sollten aus dem Versagen der EU bei der angemessenen Regulierung von KI-Technologien lernen und dürfen bei der Entwicklung von Regulierungen nicht dem Druck der Technologiebranche und der Strafverfolgungsbehörden nachgeben. Stattdessen sollten die Staaten eine robuste und verbindliche KI-Gesetzgebung erlassen, die den Menschen und ihren Rechten Priorität einräumt.“

Lazaro Cabrera betont „Bei der Umsetzung des KI-Gesetzes steht so viel auf dem Spiel, und wenn sich der Staub gelegt hat, stehen wir alle vor der schwierigen Aufgabe, ein komplexes, langwieriges und beispielloses Gesetz zu entschlüsseln. Eine enge Abstimmung mit Experten und der Zivilgesellschaft wird entscheidend sein, um sicherzustellen, dass die Auslegung und Anwendung des Gesetzes wirksam ist und mit den selbst formulierten Zielen des Gesetzes übereinstimmt: dem Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit.“

Karolina Iwańska vom Europäischen Zentrum für gemeinnütziges Recht reagiert Ähnlich äußerte sich der Autor: „Um es klar zu sagen: Es weist aus Sicht der Grundrechte gravierende Mängel auf und sollte nicht als Goldstandard für eine rechtebasierte KI-Regulierung angesehen werden. Dennoch werden wir an einer möglichst konsequenten Umsetzung arbeiten.“

Das EP billigte die #AIAct Heute. Um es klar zu sagen: Es weist aus Sicht der Grundrechte gravierende Mängel auf und sollte nicht als Goldstandard für eine rechtebasierte KI-Regulierung angesehen werden. Dennoch werden wir an einer möglichst konsequenten Umsetzung arbeiten. https://t.co/EzfBkF4dEM

— Karolina Iwańska ist @ka******@******cy.sozial (@ka_iwanska) 13. März 2024

Access Now erklärt: „Trotz der schwerwiegenden Mängel des AI Act wird Access Now mit Partnern aus der Zivilgesellschaft zusammenarbeiten, um eine möglichst konsequente Umsetzung des AI Act und der wenigen darin enthaltenen Instrumente zum Schutz der Rechte voranzutreiben und gleichzeitig den durch KI ermöglichten Missbrauch weiterhin zu überwachen und anzuprangern.“