EU AI Act 2024 : AI-Act der EU: Rechtlicher Rahmen für künstliche Intelligenz

Seit gut zwei Jahren arbeitet die Europäische Union an einer Regulierung Künstlicher Intelligenz (KI). Mit der Verabschiedung des "AI Act" im Europäischen Parlament kommt sie diesem Ziel näher. Die EU-Abgeordneten fordern teils eine Verschärfung des am Tisch liegenden Vorschlags der EU-Kommission. So soll die Verbotsliste u.a. um biometrische Kategorisierungssysteme anhand sensibler Merkmale sowie präventive Polizeisysteme erweitert werden. Nach der Einigung können die Verhandlungen mit den EU-Staaten beginnen.

>>> Sepp Hochreiter: „Ich möchte Open AI vom Markt fegen“

Das geplante Gesetz folgt einem risikobasierten Ansatz: Die Regulierung der Künstlichen Intelligenz richtet sich nach dem Grad des Risikos, das die KI erzeugen kann. Das KI-Gesetz verbietet KI-Systeme mit inakzeptablen Risikostufen. Dazu zählen Systeme, die zum Social Scoring (Einstufung von Menschen anhand ihres Sozialverhaltens oder persönlicher Merkmale) eingesetzt werden können. Grundsätzlich sollen KI-Anwendungen unterschiedlichen Risiko-Gruppen von "Minimal" bis "Inakzeptabel" zugeordnet werden. Je nach Einstufung müssen die Anbieter bestimmte Sicherheits- und Transparenz-Anforderungen erfüllen.

KI-Systeme, die Wähler und Wahlergebnisse beeinflussen oder einen erheblichen Schaden für die Gesundheit, Sicherheit, Grundrechte oder die Umwelt der Menschen darstellen, sollen nach dem Wunsch der Abgeordneten auch auf der Hochrisiko-Liste stehen.

Im Kommissionsvorschlag sind maßgeschneiderte Regeln zur sinnvollen Nutzung von generativer KI wie ChatGPT enthalten. Um die KI-Innovation anzukurbeln, schlagen die Abgeordneten Ausnahmeregelungen für Forschungstätigkeiten sowie die Nutzung sogenannter KI-Reallabore ("regulatory sandboxes") vor.

>>> Sepp Hochreiter: „Hinter den Kulissen passiert viel mehr“

Digitalisierungsstaatssekretär Florian Tursky (ÖVP) zeigte sich erfreut über das Ergebnis. Des EU-Parlament "hat die Dringlichkeit einer schnellen Regulierung erkannt. Wichtig ist für Europa, rasch zu einer klugen Regulierung zu kommen, die Innovation ermöglicht, aber gleichzeitig Massenüberwachung oder Social Scoring mittels KI-Anwendungen untersagt", Tursky in einer Aussendung.

"Wir unterstützen ein EU-Gesetz, das den Einsatz von KI so bald wie möglich regelt. Der Grundsatz dafür muss sein, dass wir die Chancen dieser neuen Technologie nutzen und deren Risiken nach Möglichkeit minimieren", erklärten die ÖVP-Europaabgeordneten Barbara Thaler und Lukas Mandl in einer Aussendung.

>>> Clemens Wasner: „Die EU ist kein Wettbewerber im KI-Bereich“

"Das EU-KI-Gesetz ist dringend nötig, denn wir stehen am Beginn einer technologischen Revolution, die alle Lebensbereiche betrifft", kommentierte SPÖ-EU-Delegationsleiter Andreas Schieder laut Aussendung. Der Einsatz von KI am Arbeitsplatz dürfe jedenfalls nicht ohne Einbeziehung von Gewerkschaften und Personalvertretungen erfolgen.

"Mit einem vernünftigen rechtlichen Rahmen können wir den Menschen die Angst vor dem vermeintlichen Schreckgespenst KI nehmen und gleichzeitig die vielen Potenziale der Künstlichen Intelligenz fördern", begrüßte NEOS-Europaabgeordnete Claudia Gamon die heutige Abstimmung. Der AI-Act schaffe europaweit gültige Standards, die die zukünftige Entwicklung von KI-Systemen entscheidend mitbestimmen werden.

>>> Federated Learning: Warum Modellbauer die besseren KI-Entwickler sind

Nachdem die EU-Staaten und das EU-Parlament ihre Positionen festgelegt haben, können die Verhandlungen über den finalen Gesetzestext beginnen. Der Start der Gespräche ist noch unklar.

Das EU-Gesetz über künstliche Intelligenz regelt verschiedene Aspekte im Zusammenhang mit künstlicher Intelligenz (KI). Es definiert, wie KI-Systeme eingesetzt werden können, insbesondere solche, die ein erhebliches Risiko für Gesundheit, Sicherheit, Grundrechte oder die Umwelt darstellen. Das Gesetz enthält Maßnahmen zur Identifizierung und Einstufung von KI-Anwendungen in verschiedene Risikostufen. Je nach Risikograd werden bestimmte Sicherheits- und Transparenzanforderungen festgelegt.

EU AI-Act: 4 Risikostufen der KI-Regulierung:

• Inakzeptables Risiko
• Hohes Risiko
• Begrenztes Risiko
• Minimales Risiko

Das KI-Gesetz ist weitreichend und gilt für alle, die ein Produkt oder eine Dienstleistung auf KI-Basis anbieten. Es deckt Anwendungen ab, die Inhalte, Vorhersagen und Empfehlungen liefern oder die Entscheidungsfindung der Nutzer beeinflussen. Dabei stehen nicht nur kommerzielle Angebote, sondern auch die Nutzung von KI im öffentlichen Sektor wie zum Beispiel bei der Strafverfolgung im Fokus. Der "AI Act" soll die Datenschutz-Grundverordnung (DSGVO) ergänzen.

>>> Wie künstliche Intelligenz die Gesellschaft verändert

Vor allem KI-Programme, die bei kritischer Infrastruktur, der Strafverfolgung oder in der Bildung zum Einsatz kommen, gelten als hoch riskant. Anders als "inakzeptable" Programme werden sie nicht verboten. Sie müssen aber hohe Auflagen erfüllen. In diese Gruppe fällt beispielsweise Software, die zur Überwachung eingesetzt wird oder Fotos und Videos täuschend echt manipulieren ("Deep Fake") kann.

>>> Maschinenbauunternehmer Hundsdörfer: „Haben in Europa Mindset-Problem“

Anbieter werden daher voraussichtlich sämtliche Aktivitäten ihrer KI protokollieren und diese Daten den Behörden zur Prüfung zu Verfügung stellen müssen. Das ist mit hohen Kosten verbunden.

GPAIS steht für General Purpose Artificial Intelligence Systems. Diese Gesetzes-Kategorie wurde für die recht neue Generative KI geschaffen. Programme wie ChatGPT können unter anderem anhand weniger Stichworte komplette Texte oder Bilder erstellen und in unterschiedlichen Anwendungsbereichen eingesetzt werden.

>>> Franz Weghofer, Magna Steyr: „Steigern mit AI konzernweit Effizienzen“

Derzeit diskutiert die Politik noch darüber, ob GPAIS als hoch riskant gewertet werden sollen und welche Konsequenzen dies für die Entwicklung von Produkten auf Basis dieser Technologie bedeuten würde. Der bisherige Gesetzentwurf liefert keine Richtlinien für Anforderungen, die Entwickler dieser Art von KI erfüllen müssen.

Bei einem Gesetzesverstoß drohen Strafen von bis zu 30 Millionen Euro oder sechs Prozent des weltweiten Gewinns - je nachdem, welcher Betrag höher ist. Im Falle des Softwarekonzerns Microsoft, dessen Beteiligung OpenAI ChatGPT entwickelt hat, könnte sich dies auf mehr als zehn Milliarden Dollar summieren.

>>> Künstliche Intelligenz: Wie RHI Magnesita seine AI-Fails feiert