Monat: März 2024

EU-Parlament macht Weg frei für KI-Gesetz

/ Christian Dauck

Das Europäische Parlament hat das nach eigenen Angaben weltweit erste, umfassende KI-Gesetz beschlossen. Es soll den Umgang mit der Technologie sicherer machen, etwa mit Auflagen für die Gesichtserkennung oder ChatGPT.

Die EU hofft wieder einmal auf den Brüssel-Effekt: Sie will Standards setzen, an denen sich der Rest der Welt ausrichtet. So lief es bei Datenschutz und Chemikalien. Jetzt will Europa Vorreiter werden bei der Regulierung von Künstlicher Intelligenz.

Technische Systeme, die menschliches Lernen nachahmen, entwickeln sich rasend schnell – mit allen Chancen und Risiken. Die EU regelt das künftig mit einem KI-Gesetz. Auf den Entwurf haben sich EU-Parlament und Mitgliedsstaaten im Dezember verständigt. Jetzt hat das Plenum in Straßburg mit breiter Mehrheit grünes Licht gegeben. 523 Abgeordnete votierten dafür, 46 dagegen, 49 enthielten sich.

Gesetz soll Künstliche Intelligenz stärker regulieren

Der zuständige Kommissar Thierry Breton bezeichnete die neuen Regeln als „historisch“. Nach seinen Angaben handelt es sich um das weltweit erste Gesetz, das Künstliche Intelligenz „ausgewogen“ reguliere. Zudem würde es vor „Auswüchsen durch Missbrauch schützen“, aber auch Innovationen voranbringen.

Die EU hat in einer jahrelangen Debatte um ein Gleichgewicht gerungen: Gesichtserkennung ist praktisch, um das Handy zu entsperren, aber sie ist gefährlich, wenn damit Fotos aus dem Netz gefischt werden, die in dubiosen Datenbanken landen. Das Gesetz soll vor möglichen Gefahren schützen, auch durch täuschend echt gefälschte Bilder oder Audiodateien. Gleichzeitig will die EU die enormen wirtschaftlichen Chancen der KI befördern.

„Es bleiben Bürokratie und Unklarheiten“

Nicht alle Abgeordneten sind mit der Balance restlos zufrieden. Der Christdemokrat Axel Voss erklärt: „Wir sollten auch nicht glauben, dass unsere Arbeit jetzt endet mit diesem Gesetz. Nein, ich glaube, sie beginnt erst. Wir müssen nämlich – anders als bei anderen Gesetzen – schneller Anpassungen an Probleme und Entwicklungen finden.“

Das Gesetz unterteilt grundsätzlich in KI-Systeme mit hohem Risiko, für die besondere Anforderungen gelten, und in Anwendungen mit geringem Gefahrenpotential mit wenigen Auflagen. Nutzerinnen und Nutzer müssen erkennen können, dass Inhalte KI-generiert sind.

Die Auflagen könnten vor allem kleineren Firmen – sogenannten KMU – Probleme machen, befürchtet die FDP-Abgeordnete Svenja Hahn: „Aber es bleiben Bürokratie und Unklarheiten, die für BigTech-Unternehmen leichter zu stemmen sind als für KMU. Da wird wichtig, dass die Kommission in der Umsetzung Klarheit schafft.“ Das Gesetz dürfe nicht zur Innovationsbremse werden.

Sicherheitsbehörden dürfen weiter Gesichtserkennung nutzen

Systeme, die Menschen aufgrund ihrer Hautfarbe, Religion oder sexuellen Orientierung in Kategorien einteilen, sind verboten. Das ungezielte Auslesen von Bildern aus dem Internet oder aus Überwachungskameras für Datenbanken ist ebenfalls nicht erlaubt. Ausnahmen gibt es für biometrische Identifizierungen im öffentlichen Raum in Echtzeit, etwa wenn die Polizei einen Anschlag verhindern will oder nach Opfern von Menschenhandel sucht.

Den Linken geht das zu weit. Sergey Lagodinsky von den Grünen räumt ein: „Dieses Gesetz ist schwächer als wir im Parlament wollten. Aber es ist viel besser, als gar keine Regulierung zu haben, als Zustände wie im Wilden Westen bei KI.“

Nun fehlt noch das Votum der EU-Staaten, das für Ende April erwartet wird. Dieses gilt aber als Formsache. Bis das Gesetz vollständig gilt, wird es noch zwei Jahre dauern.

Quelle: https://www.tagesschau.de/ausland/eu-parlament-ki-gesetz-100.html

Man darf gespannt sein wie die EU-Länder das KI-Gesetz Umsätzen werden. Die deutsche Bundesregierung kann das natürlich alles verbieten (Was dann hoffentlich unsere nächste
Bundesregierung wieder einkassiert) aber daran sind ja andere EU-Staten nicht gebunden. So kann natürlich eine härtere Umsetzung an den EU-Außengrenzen kommen.

Und das Gemeinsames Europäisches Asylsystem (GEAS) kommt ja auch noch, darüber wird das EU-Parlament auch bald abstimmen.

Schwere Straftaten

Die KI-Verordnung erlaubt biometrische Echtzeit-Identifikation auch dann, wenn nur die Annahme besteht, dass etwas Schlimmes passieren könnte. In der Verordnung steht hierzu: um eine „spezifische, erhebliche und unmittelbare“ Bedrohung für die physische Sicherheit einer Person zu verhindern (Artikel 5(1), (d)). Auch die Suche nach Verdächtigen bestimmter Straftaten ist demnach ein legitimer Grund für biometrische Echtzeit-Überwachung. Dazu zählen laut Kompromisstext etwa Mord, schwere Körperverletzung, Menschenhandel oder „Kinderpornografie“. Zuvor müsse allerdings eine zuständige Behörde den Einsatz der Technologie erlauben, das nennt man Richtervorbehalt.

Wenn die Überwachung nicht in Echtzeit passiert, sondern nachträglich („retrograd“). Denkbar wäre etwa, hierfür archivierte Aufnahmen von Überwachungskameras zu durchleuchten. In solchen Fällen dürfen Menschen biometrisch identifiziert werden, sobald sie einer Straftat verdächtigt sind. Für die erstmalige Identifizierung braucht es dem Text zufolge keine besondere Genehmigung.

Nationale Sicherheit

Etwa wenn die Polizei einen Anschlag verhindern will (Terrorismus)

Migration/Asyl

Die zumindest grundlegenden Einschränkungen für Gesichtserkennung im öffentlichen Raum gelten ausdrücklich nicht für Grenzkontrollen, da Grenzen laut Kompromisstext nicht Teil des „öffentlichen Raums“ seien.

Christian Dauck