Mit einer überwältigenden Mehrheit hat das EU-Parlament am Mittwoch für den AI Act gestimmt. 499 Abgeordnete (von 620) stimmten dafür. Die Gesichtserkennung im öffentlichen Raum zählt nun zu „verbotenen KI-Praktiken“.
Das EU-Parlament hat seine Position zur geplanten Regulierung von Künstlicher Intelligenz (KI/AI) am Mittwoch in Straßburg festgelegt. Die EU-Abgeordneten fordern teils eine Verschärfung des am Tisch liegenden Vorschlags der EU-Kommission. So soll die Verbotsliste u.a. um biometrische Kategorisierungssysteme anhand sensibler Merkmale sowie präventive Polizeisysteme erweitert werden. Nach der Einigung können die Verhandlungen mit den EU-Staaten beginnen.
Das geplante Gesetz folgt einem risikobasierten Ansatz: Die Regulierung richtet sich nach dem Grad des Risikos, das die KI erzeugen kann. Der Act verbietet KI-Systeme mit inakzeptablen Risikostufen. Dazu zählen Systeme, die zum Social Scoring (Einstufung von Menschen anhand ihres Sozialverhaltens oder persönlicher Merkmale) eingesetzt werden können.
Künftig verboten sind folgende KI-Systeme
KI-Vorhersage von Straftaten ebenfalls nicht erwünscht
Polizeibehörden, die mithilfe von Computern Menschen aufgrund noch nicht begangener Gewaltverbrechen festnehmen: Ein Szenario wie in der mit Tom Cruis verfilmten Novelle „The Minority Report“ des Science-Fiction-Autors Philip K. Dick soll den Europäern nach dem Willen einer großen Mehrheit im Europaparlament erspart bleiben. Die Abgeordneten stimmten am Mittwoch in Straßburg ihre Position für die Verhandlungen mit den Mitgliedstaaten über das EU-Gesetz zur Künstlichen Intelligenz (KI) ab. Weder die Erkennung von Geschlecht oder sexueller Ausrichtung noch die Vorhersage von Straftaten mithilfe derartiger Computerprogramme solle künftig in der Union erlaubt sein. Und auch ein seit mehreren Jahren in der Volksrepublik China zusehends flächendeckend eingesetztes technologisches Mittel zur digitalisierten Überwachung der Gesellschaft soll ausdrücklich verboten werden, nämlich die Auswertung von biometrischen Erkennungszeichen in Echtzeit. Vereinfachter gesagt gesagt geht es um das massenhafte Filmen und digitale Erfassung der Gesichter von Menschen im öffentlichen Raum.
Der CDU-Mandatar Axel Voss findet letzteres schlecht: „Es ist bedauerlich, dass die Mehrheit des Hauses auf einem vollständigen Verbot von biometrischen Erkennungssystemen beharrt. Damit verpassen wir eine wichtige Chance. KI kann richtig angewandt bei der Strafverfolgung zu deutlich mehr Sicherheit für die Bevölkerung führen.“
Der deutsche Europamandatar Patrick Breyer von der Piratenpartei, der zur Fraktion der Grünen zählt, allerdings widersprach dieser Annahme mit Verweis auf die wissenschaftliche Evidenz: „In keinem einzigen Fall konnte biometrische Echtzeit-Überwachung einen Terroranschlag verhindern“, teilte er in einer Aussendung mit. Zudem würden die bisher eingesetzten Systeme zur Gesichtserkennung in manchen Fällen bis zu 99 Prozent Fehlalarme auslösen.
Wählerbeeinflussung auf der Hochrisiko-Liste
KI-Systeme, die Wähler und Wahlergebnisse beeinflussen oder einen erheblichen Schaden für die Gesundheit, Sicherheit, Grundrechte oder die Umwelt der Menschen darstellen, sollen nach dem Wunsch der Abgeordneten auch auf der Hochrisiko-Liste stehen.
Im Kommissionsvorschlag sind maßgeschneiderte Regeln zur sinnvollen Nutzung von generativer KI wie ChatGPT enthalten. Um die KI-Innovation anzukurbeln, schlagen die Abgeordneten Ausnahmeregelungen für Forschungstätigkeiten sowie die Nutzung sogenannter KI-Reallabore („regulatory sandboxes“) vor.
Rasch zu einer klugen Regulierung
Digitalisierungsstaatssekretär Florian Tursky (ÖVP) zeigte sich erfreut über das Ergebnis. Des EU-Parlament „hat die Dringlichkeit einer schnellen Regulierung erkannt. Wichtig ist für Europa, rasch zu einer klugen Regulierung zu kommen, die Innovation ermöglicht, aber gleichzeitig Massenüberwachung oder Social Scoring mittels KI-Anwendungen untersagt“, Tursky in einer Aussendung.
„Wir unterstützen ein EU-Gesetz, das den Einsatz von KI so bald wie möglich regelt. Der Grundsatz dafür muss sein, dass wir die Chancen dieser neuen Technologie nutzen und deren Risiken nach Möglichkeit minimieren“, erklärten die ÖVP-Europaabgeordneten Barbara Thaler und Lukas Mandl in einer Aussendung.
Nach der Abstimmung sagte Mitberichterstatter Brando Benifei : „Alle Augen sind heute auf uns gerichtet. Während Big-Tech-Unternehmen wegen ihrer eigenen Kreationen Alarm schlagen, hat Europa eine konkrete Antwort auf die Risiken vorgeschlagen, die KI mit sich bringt.“
Stehen vor „einer technologischen Revolution“
„Das EU-KI-Gesetz ist dringend nötig, denn wir stehen am Beginn einer technologischen Revolution, die alle Lebensbereiche betrifft“, kommentierte SPÖ-EU-Delegationsleiter Andreas Schieder laut Aussendung. Der Einsatz von KI am Arbeitsplatz dürfe jedenfalls nicht ohne Einbeziehung von Gewerkschaften und Personalvertretungen erfolgen.
Nachdem die EU-Staaten und das EU-Parlament ihre Positionen festgelegt haben, können die Verhandlungen über den finalen Gesetzestext beginnen. Der Start der Gespräche ist noch unklar.
Künstlich erzeugte Bilder markieren
Die Verhandlungen mit dem Rat, also dem Gremium der nationalen Regierungen, begannen schon wenige Stunden nach der Abstimmung. Sie sind von der Hoffnung getragen, noch vor der Europawahl im Juni 2024 zum Abschluss zu kommen. Bis das Gesetz dann in Kraft tritt, würden weitere zwei bis drei Jahre vergehen. Unter anderem würde es eine Pflicht zur deutlichen Markierung von Fotos und anderen Inhalten bringen, die mithilfe KI erzeugt worden sind.
>>> EU-Parlament Presseaussendung
(GO und bagre)