AI Act der EU : Künstliche Intelligenz in der EU: Alles, was Sie über das neue Gesetz wissen müssen

Die viel diskutierte EU-Verordnung zur Regulierung Künstlicher Intelligenz (KI) tritt heute, am 1. August, in Kraft. Der AI-Act ("Artificial Intelligence Act") klassifiziert KI-Systeme in verschiedene Risikokategorien und reguliert sie entsprechend. Laut der Folgenabschätzung der EU-Kommission wird jedoch die große Mehrheit der Systeme in die niedrigste Risikokategorie fallen und somit keiner neuen Regulierung unterliegen.

>>> AI Act: So reguliert die EU in Zukunft Künstliche Intelligenz

Bestimmte Anwendungen, wie die biometrische Kategorisierung basierend auf sensiblen Merkmalen (zum Beispiel Hautfarbe, politische oder religiöse Ansichten) oder das wahllose Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras, sind verboten - allerdings gibt es Ausnahmen für Sicherheitsbehörden. Dieses Verbot tritt bereits im Februar 2025 in Kraft, während der Großteil der neuen Vorschriften ab August 2026 wirksam wird. Für KI-Systeme mit allgemeinem Verwendungszweck, wie zum Beispiel ChatGP, gelten besondere Regeln, die ab August 2025 in Kraft treten sollen.

Die sogenannte "Hoch-Risiko-KI" ist zwar zulässig, unterliegt jedoch strengen Vorschriften und muss behördlich genehmigt werden. Zu dieser Kategorie gehören unter anderem Systeme, die von Sicherheitsbehörden genutzt werden, oder solche, die in der Personalverwaltung zum Einsatz kommen. Eine weitere Kategorie umfasst Systeme, bei denen ein vorrangiges "Transparenz-Risiko" besteht. Hierbei geht es vor allem darum, sicherzustellen, dass bei Bildern oder Videos eindeutig erkennbar ist, dass sie mithilfe von KI erstellt wurden.

>>> AI-Forscher Johannes Brandstetter: “Skalier es”

Die Mitgliedsstaaten haben nun zwei Jahre Zeit, um die Vorgaben in nationales Recht zu überführen. Durch dieses Gesetz wird die Regulierung von KI in der Europäischen Union strenger und einheitlicher gestaltet. Es soll dazu beitragen, Grundrechte, Demokratie und Rechtsstaatlichkeit im Umgang mit dieser Technologie besser zu schützen.

Künstliche Intelligenz (KI) bezeichnet in der Regel Anwendungen, die auf maschinellem Lernen basieren. Dabei durchforstet eine Software große Datenmengen nach Mustern und zieht daraus Schlussfolgerungen. Auf diese Weise können menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität nachgeahmt werden. Maschinen sind dadurch in der Lage, ihre Umgebung wahrzunehmen und entsprechend darauf zu reagieren.

>>> Microsoft-Chef Erlach: KI kann den Grünen Veltliner retten

KI wird bereits in vielen Bereichen genutzt. So können diese Programme etwa Aufnahmen von Computertomografen schneller und präziser als Menschen auswerten. Selbstfahrende Autos nutzen KI, um das Verhalten anderer Verkehrsteilnehmer vorherzusagen. Auch Chatbots und automatische Playlists von Streaming-Diensten arbeiten mit Künstlicher Intelligenz.

Das Gesetz hat zum Ziel, die Nutzung von KI in der Europäischen Union sicherer zu gestalten. Es soll gewährleisten, dass KI-Systeme transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wesentlicher Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht ausschließlich von anderen Technologien.

Die Vorschriften des Gesetzes sehen vor, dass KI-Anwendungen in verschiedene Risikokategorien eingeteilt werden. Systeme, die als besonders risikoreich gelten, beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen, müssen strenge Anforderungen erfüllen. Anwendungen mit geringerem Risiko unterliegen weniger strikten Auflagen.

Zudem werden KI-Anwendungen, die gegen EU-Werte verstoßen, komplett verboten. Dazu zählt unter anderem das "Social Scoring", bei dem Bürger in China in Verhaltenskategorien eingeteilt werden.

Verbraucher sollen durch das Gesetz besser vor riskanten KI-Anwendungen geschützt werden. Gesichtserkennung im öffentlichen Raum, etwa durch Videoüberwachung an öffentlichen Plätzen, wird grundsätzlich untersagt sein. Auch die Erkennung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen wird durch das Gesetz in der EU nicht erlaubt.

>>> Machine Vision - die bunten Pläne der Industrie

Darüber hinaus müssen KI-Anwendungen transparenter gekennzeichnet werden, damit Verbraucher leichter erkennen können, bei welchen Programmen Künstliche Intelligenz eingesetzt wird. Privatpersonen, die Verstöße gegen die Vorschriften feststellen, können sich bei nationalen Behörden beschweren.

Zunächst ändert sich nicht allzu viel. Das KI-Gesetz soll nämlich schrittweise in Kraft treten. Einige Regelungen müssen zeitnah von den Mitgliedstaaten umgesetzt werden, wie etwa das Verbot von KI-Systemen, die "unannehmbare Risiken" darstellen. Dabei handelt es sich um Systeme, die als Bedrohung für Menschen angesehen werden. Das Verbot solcher Systeme gilt bereits nach einem halben Jahr.

>>> Was haben wir vom Hype um Künstliche Intelligenz?

Ein Verhaltenskodex für Anbieter von KI-Modellen soll bis April nächsten Jahres fertiggestellt werden, wie die EU-Kommission vor Inkrafttreten des Gesetzes mitteilte. Nach zwei Jahren müssen dann die meisten Punkte des Gesetzes vollständig umgesetzt sein. Hochriskante Systeme haben hingegen mehr Zeit, um die Anforderungen zu erfüllen. Die sie betreffenden Verpflichtungen gelten nach drei Jahren.

Bei Verstößen drohen empfindliche Strafen: Beim Einsatz verbotener Technologien können bis zu 35 Millionen Euro oder – im Falle von Unternehmen – bis zu sieben Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres fällig werden. Das genaue Strafmaß muss jedoch von den einzelnen Ländern innerhalb dieses Rahmens festgelegt werden, wie die Kommission mitteilte.

Bei anderen Verstößen gegen das Gesetz können Strafen von bis zu 15 Millionen Euro oder – im Falle von Unternehmen – bis zu drei Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängt werden.

Experten diskutieren häufig, ob das Gesetz die Entwicklung von KI fördern oder möglicherweise behindern könnte. Das hängt auch davon ab, wie die Regelungen letztlich in den einzelnen Ländern umgesetzt werden.

Zudem besteht die Möglichkeit, dass viele der Vorgaben angesichts der schnellen technischen Entwicklung von KI-Anwendungen und der schrittweisen Umsetzung der Regelungen bald veraltet sein könnten. Die Kommission hat mitgeteilt, dass sie jährlich prüfen wird, ob die Liste der "hochriskanten" Anwendungen überarbeitet oder erweitert werden muss.