Neuer Artificial Intelligence Act der EU : AI-Act der EU: Rechtlicher Rahmen für künstliche Intelligenz

Stuttgart, Deutschland - 14. April 2023: ChatGPT künstliche Intelligenz KI Chat GPT artificial intelligence AI mit Logo von OpenAI in Stuttgart, Deutschland. Artificial Intelligence Act der EU.

Seit gut zwei Jahren arbeitet die Europäische Union an einer Regulierung Künstlicher Intelligenz.

- © Markus Mainka - stock.adobe.com

Seit gut zwei Jahren arbeitet die Europäische Union an einer Regulierung Künstlicher Intelligenz (KI). Mit der Verabschiedung des "AI Act" im Europäischen Parlament kommt sie diesem Ziel näher. Die EU-Abgeordneten fordern teils eine Verschärfung des am Tisch liegenden Vorschlags der EU-Kommission. So soll die Verbotsliste u.a. um biometrische Kategorisierungssysteme anhand sensibler Merkmale sowie präventive Polizeisysteme erweitert werden. Nach der Einigung können die Verhandlungen mit den EU-Staaten beginnen.

>>> Sepp Hochreiter: „Ich möchte Open AI vom Markt fegen“

Das geplante Gesetz folgt einem risikobasierten Ansatz: Die Regulierung der Künstlichen Intelligenz richtet sich nach dem Grad des Risikos, das die KI erzeugen kann. Das KI-Gesetz verbietet KI-Systeme mit inakzeptablen Risikostufen. Dazu zählen Systeme, die zum Social Scoring (Einstufung von Menschen anhand ihres Sozialverhaltens oder persönlicher Merkmale) eingesetzt werden können. Grundsätzlich sollen KI-Anwendungen unterschiedlichen Risiko-Gruppen von "Minimal" bis "Inakzeptabel" zugeordnet werden. Je nach Einstufung müssen die Anbieter bestimmte Sicherheits- und Transparenz-Anforderungen erfüllen.

Nie mehr eine wichtige News aus der Industrie verpassen? Abonnieren Sie unser Daily Briefing: Was in der Industrie wichtig wird. Täglich um 7 Uhr in Ihrer Inbox. Hier geht’s zur Anmeldung!

Artificial Intelligence Act der EU: KI sollen in Zukunft in drei Risiko-Gruppen eingeteilt werden: Minimal, hoch und inakzeptabel.

- © Fotolia

EU KI-Gesetz: Regulierung für KI-Systeme im Fokus

KI-Systeme, die Wähler und Wahlergebnisse beeinflussen oder einen erheblichen Schaden für die Gesundheit, Sicherheit, Grundrechte oder die Umwelt der Menschen darstellen, sollen nach dem Wunsch der Abgeordneten auch auf der Hochrisiko-Liste stehen.

Im Kommissionsvorschlag sind maßgeschneiderte Regeln zur sinnvollen Nutzung von generativer KI wie ChatGPT enthalten. Um die KI-Innovation anzukurbeln, schlagen die Abgeordneten Ausnahmeregelungen für Forschungstätigkeiten sowie die Nutzung sogenannter KI-Reallabore ("regulatory sandboxes") vor.

>>> Sepp Hochreiter: „Hinter den Kulissen passiert viel mehr“

Digitalisierungsstaatssekretär Florian Tursky (ÖVP) zeigte sich erfreut über das Ergebnis. Des EU-Parlament "hat die Dringlichkeit einer schnellen Regulierung erkannt. Wichtig ist für Europa, rasch zu einer klugen Regulierung zu kommen, die Innovation ermöglicht, aber gleichzeitig Massenüberwachung oder Social Scoring mittels KI-Anwendungen untersagt", Tursky in einer Aussendung.

"Wir unterstützen ein EU-Gesetz, das den Einsatz von KI so bald wie möglich regelt. Der Grundsatz dafür muss sein, dass wir die Chancen dieser neuen Technologie nutzen und deren Risiken nach Möglichkeit minimieren", erklärten die ÖVP-Europaabgeordneten Barbara Thaler und Lukas Mandl in einer Aussendung.

>>> Clemens Wasner: „Die EU ist kein Wettbewerber im KI-Bereich“

"Das EU-KI-Gesetz ist dringend nötig, denn wir stehen am Beginn einer technologischen Revolution, die alle Lebensbereiche betrifft", kommentierte SPÖ-EU-Delegationsleiter Andreas Schieder laut Aussendung. Der Einsatz von KI am Arbeitsplatz dürfe jedenfalls nicht ohne Einbeziehung von Gewerkschaften und Personalvertretungen erfolgen.

"Mit einem vernünftigen rechtlichen Rahmen können wir den Menschen die Angst vor dem vermeintlichen Schreckgespenst KI nehmen und gleichzeitig die vielen Potenziale der Künstlichen Intelligenz fördern", begrüßte NEOS-Europaabgeordnete Claudia Gamon die heutige Abstimmung. Der AI-Act schaffe europaweit gültige Standards, die die zukünftige Entwicklung von KI-Systemen entscheidend mitbestimmen werden.

>>> Federated Learning: Warum Modellbauer die besseren KI-Entwickler sind

Nachdem die EU-Staaten und das EU-Parlament ihre Positionen festgelegt haben, können die Verhandlungen über den finalen Gesetzestext beginnen. Der Start der Gespräche ist noch unklar.

"Das EU-KI-Gesetz ist dringend nötig, denn wir stehen am Beginn einer technologischen Revolution, die alle Lebensbereiche betrifft".
SPÖ-EU-Delegationsleiter Andreas Schieder

Wann tritt der EU AI-Act in Kraft?

Am 14. Juni 2023 hat das Europäische Parlament seinen Standpunkt zum Gesetz und zur Verordnung über künstliche Intelligenz (KI) mit 499 Ja-Stimmen, 28 Nein-Stimmen und 93 Enthaltungen verabschiedet.

Wenn eine Einigung vor den Europawahlen im nächsten Jahr erzielt wird, könnte die KI-Verordnung im Jahr 2026 in Kraft treten. Bis dahin wird sich die künstliche Intelligenz weiter entwickeln. Dies legt nahe, dass die Europäische Union neue KI-Verordnungen erlassen könnte.

Sollte wie geplant bis zum Jahresende eine Einigung im Trilog erzielt werden, bleibt den betroffenen Firmen eine Frist von etwa 2 Jahren, um sich an die neuen Rahmenbedingungen anzupassen. Um diese Lücke zu überbrücken, will die EU große Technologiekonzerne und maßgebliche KI-Entwickler zu einer freiwilligen Selbstkontrolle verpflichten.

Sepp Hochreiter, Pionier der künstlichen Intelligenz, will mit seinem Algorithmus das renommierte ChatGPT-Turnier von Open AI vom Podium fegen. Wir haben uns angeschaut, wie er das anstellen will. Franz Weghofer, Smart Factory Magna Steyr, spricht im Interview darüber, wo KI in der Automobilindustrie bereits eingesetzt wird und an welchem Sprachmodell der Konzern arbeitet. Und wir bieten einen Blick auf die Themen und Diskussionen des zweiten Deep Dive des Branchenmagazins.

Welche Regelungen und Maßnahmen sind im KI-Gesetz der EU vorgesehen?

Das EU-Gesetz über künstliche Intelligenz regelt verschiedene Aspekte im Zusammenhang mit künstlicher Intelligenz (KI). Es definiert, wie KI-Systeme eingesetzt werden können, insbesondere solche, die ein erhebliches Risiko für Gesundheit, Sicherheit, Grundrechte oder die Umwelt darstellen. Das Gesetz enthält Maßnahmen zur Identifizierung und Einstufung von KI-Anwendungen in verschiedene Risikostufen. Je nach Risikograd werden bestimmte Sicherheits- und Transparenzanforderungen festgelegt.

EU AI-Act: 4 Risikostufen in der KI-Regulierung:

  • Inakzeptables Risiko
  • Hohes Risiko
  • Begrenztes Risiko
  • Minimales Risiko
KI-Verordnung der EU (AI Act). KI-Verordnung: EU-Gesetz zur Regulierung der künstlichen Intelligenz.
KI-Verordnung: EU-Gesetz zur Regulierung der künstlichen Intelligenz. - © 3dkombinat - stock.adobe.com

Was ist das Ziel der EU KI-Verordnung?

Das KI-Gesetz zielt auch darauf ab, KI-Innovationen zu fördern, indem es Ausnahmen für Forschungstätigkeiten und die Einrichtung von KI-Labors vorsieht. Diese "regulatorischen Sandkästen" sollen dazu dienen, neue KI-Technologien zu testen und zu entwickeln, wobei bestimmte rechtliche Anforderungen einzuhalten sind. Darüber hinaus wurden spezielle Kategorien von KI-Anwendungen, wie biometrische Kategorisierungssysteme und präventive Polizeisysteme, in die Hochrisikoliste aufgenommen. Für diese Anwendungen gelten besondere Regeln und Einschränkungen, um mögliche negative Auswirkungen zu minimieren.

Generell zielt das KI-Gesetz darauf ab, einen ausgewogenen Ansatz zwischen der Förderung von KI-Innovationen und dem Schutz von Individuen und der Gesellschaft zu schaffen.

Auf welche Bereiche erstreckt sich der EU AI-Act?

Das KI-Gesetz ist weitreichend und gilt für alle, die ein Produkt oder eine Dienstleistung auf KI-Basis anbieten. Es deckt Anwendungen ab, die Inhalte, Vorhersagen und Empfehlungen liefern oder die Entscheidungsfindung der Nutzer beeinflussen. Dabei stehen nicht nur kommerzielle Angebote, sondern auch die Nutzung von KI im öffentlichen Sektor wie zum Beispiel bei der Strafverfolgung im Fokus. Der "AI Act" soll die Datenschutz-Grundverordnung (DSGVO) ergänzen.

>>> Wie künstliche Intelligenz die Gesellschaft verändert

Was sind Hochrisiko-Anwendungen?

Vor allem KI-Programme, die bei kritischer Infrastruktur, der Strafverfolgung oder in der Bildung zum Einsatz kommen, gelten als hoch riskant. Anders als "inakzeptable" Programme werden sie nicht verboten. Sie müssen aber hohe Auflagen erfüllen. In diese Gruppe fällt beispielsweise Software, die zur Überwachung eingesetzt wird oder Fotos und Videos täuschend echt manipulieren ("Deep Fake") kann.

>>> Maschinenbauunternehmer Hundsdörfer: „Haben in Europa Mindset-Problem“

Anbieter werden daher voraussichtlich sämtliche Aktivitäten ihrer KI protokollieren und diese Daten den Behörden zur Prüfung zu Verfügung stellen müssen. Das ist mit hohen Kosten verbunden.

Künstliche Intelligenz Artificial intelligence rechner computer digital digitalisierung. regulierung der künstliche intelligenz.
Neue EU-KI-Verordnung und deren Folgen für die Industrie in Österreich. - © APA

Was ist "GPAIS"?

GPAIS steht für General Purpose Artificial Intelligence Systems. Diese Gesetzes-Kategorie wurde für die recht neue Generative KI geschaffen. Programme wie ChatGPT können unter anderem anhand weniger Stichworte komplette Texte oder Bilder erstellen und in unterschiedlichen Anwendungsbereichen eingesetzt werden.

>>> Franz Weghofer, Magna Steyr: „Steigern mit AI konzernweit Effizienzen“

Derzeit diskutiert die Politik noch darüber, ob GPAIS als hoch riskant gewertet werden sollen und welche Konsequenzen dies für die Entwicklung von Produkten auf Basis dieser Technologie bedeuten würde. Der bisherige Gesetzentwurf liefert keine Richtlinien für Anforderungen, die Entwickler dieser Art von KI erfüllen müssen.

Welche Strafen sieht der AI-Act vor?

Bei einem Gesetzesverstoß drohen Strafen von bis zu 30 Millionen Euro oder sechs Prozent des weltweiten Gewinns - je nachdem, welcher Betrag höher ist. Im Falle des Softwarekonzerns Microsoft, dessen Beteiligung OpenAI ChatGPT entwickelt hat, könnte sich dies auf mehr als zehn Milliarden Dollar summieren.

>>> Künstliche Intelligenz: Wie RHI Magnesita seine AI-Fails feiert