Das neue KI-Gesetz

Das Europäische Parlament hat am 14. Juni 2023 mit eindeutiger Mehrheit eine neue Verordnung zur künstlichen Intelligenz, den AI Act, beschlossen. Die Verordnung soll frühestens 2026 in Kraft treten. Die Künstliche Intelligenz (KI) oder englisch Artificial Intelligence, kurz AI, erfasst immer mehr Bereiche des täglichen Lebens.

KI kann in vielen Bereichen nützlich sein und Unterstützung bieten. Gefahren bestehen jedoch in der Manipulation von außen und im Missbrauch des Datenschutzes.

Inhalte des neuen KI-Gesetzes

Der Fokus des neuen KI-Gesetzes liegt auf der wirksameren und stärkeren Regulierung von KI-Anwendungen. Häufig ist die Nutzung von KI datenbasiert, komplex und undurchsichtig. Gefahren bestehen bei

Achtung des Privatlebens
Schutz der persönlichen Daten
Wahrung der Grundrechte

Ein Europäisches Amt für Künstliche Intelligenz soll geschaffen werden, um die Umsetzung des Gesetzes zu überwachen.

KI-Systeme und ihre Risiken

Das Gesetz will KI-Systeme nach den Risiken ihrer Anwendungszwecke einstufen und sieht vier verschiedene Risiken vor:

risikoarme Systeme
begrenzt riskante Systeme
Hochrisiko-Systeme
Verbotene Systeme mit unannehmbarem Risiko

Anwendungen, die sich zur Unterdrückung von Menschen eignen, sollen verboten werden. Das betrifft auf biometrischen Daten basierende Überwachungssysteme wie Gesichtserkennung in Echtzeit, Social-Scoring-Systeme und automatisierte Erkennung von Emotionen.

Tipp: Strengere Transparenzanforderungen gelten künftig für ChatGPT und andere Chatbots. Inhalte, die mit KI erzeugt wurden, müssen entsprechend gekennzeichnet werden. Die Verantwortlichen müssen der Generierung rechtswidriger Inhalte vorbeugen.

Ethische Richtlinien für vertrauensvolle KI

Der AI Act ist nicht die erste Regelung für die Anwendung von Künstlicher Intelligenz. Bereits im Juni 2019 hat die EU ethische Richtlinien zur Definition von vertrauensvoller KI festgelegt. Anhand eines zehnseitigen Fragenkatalogs können Unternehmen prüfen, wie sie vertrauensvolle KI etablieren können.

Im Mittelpunkt stehen

Grundwerte
Sicherheit und Robustheit
Menschenzentriertheit
Transparenz
Qualität und Leistung
Minimierung von Ungleichheit und Vorurteilen
Nachhaltigkeit
soziale und ökonomische Faktoren

Einsatz von KI und Schutz der Grundrechte

Eine Reihe von KI-Systemen haben das Potenzial, Grund- und Menschenrechte zu verletzen. Um das zu vermeiden, müssen die Systeme sicher sein und die Grundrechte sowie die Werte der EU achten. Das neue Gesetz sieht auch klare Regelungen für die Rechtssicherheit bei der Investition in KI vor.

Für rechtskonforme KI-Anwendungen soll ein einheitlicher europäischer Binnenmarkt geschaffen werden. Weiterhin sollen die Durchsetzung des geltenden Rechtes und die Steuerungsmöglichkeiten des KI-Marktes gestärkt werden. Das neue Gesetz soll die Datenschutz-Grundverordnung (DSGVO) ergänzen. Es ist bindend für alle EU-Mitgliedsstaaten.

Vermeidung von Überregulierung

Verbandschef Achim Berg vom Digitalverband Bitkom spricht sich für das neue Gesetz aus, doch gleichzeitig warnt er vor einer Überregulierung. Als Hochrisiko-Anwendungen sollen nach seiner Ansicht nur Systeme eingestuft werden, die tatsächlich eine Gefahr darstellen. Er fordert auch eine klare Definition von Künstlicher Intelligenz, um nicht jegliche Software oder statistischen Systeme regulatorisch zu erfassen.

Gefahr von KI-Oasen außerhalb der EU

Das KI-Gesetz fordert von Unternehmen mit Sitz der EU, innerhalb des Rahmenwerks zu agieren. Die Gefahr der Entwicklung von KI-Oasen außerhalb der EU wird mit diesem Gesetz jedoch nicht unterdrückt. Da in Ländern außerhalb der EU die unethische Nutzung von KI nicht verboten ist, bleibt die Gefahr von Cyberkriminalität weiterhin bestehen.