AI : EU regelt Algorithmen für Datenverarbeitung

Auch wenn uns das selbst oft gar nicht bewusst ist: Europa wird um seine Regeln, wenn es um Datenschutz, Verbraucherschutz und Schutz gegen üble Nachrede im Netz geht, weltweit beneidet. Die EU-Datenschutzgrundverordnung (DSGVO) wird zum Beispiel, die hierzulande oft als Bürokratiemonster wahrgenommen. Allerdings ist DSGVO mittlerweile Vorbild für Initiativen in den USA, wo selbst große Digitalkonzerne wie Amazon höhere Datenschutzstandards vom Gesetzgeber fordern.

Mit dem Gesetz über digitale Dienste, dem sogenannten Digital Services Act (DSA), das im Vorjahr verabschiedet wurde und das 2024 in Kraft tritt – und dem Gesetz über Künstliche Intelligenz, dem Artificial Intelligence Act (AIA) sollen weitere globale Standards im Bereich Datenqualität, Transparenz und Rechenschaftspflichten im Missbrauchsfalle gesetzt werden.

Doch um Gesetze zu machen muss man zuerst verstehen, wie jene Algorithmen eigentlich funktionieren, die unser digitales Verhalten steuern. Eine Forschungsstelle, die vergangene Woche eröffnet hat, soll hier Wissen sammeln.

Die Europäische Union will die Blackbox undurchsichtiger Softwareentscheidungen im Internet öffnen und Algorithmen und ihre gesellschaftlichen Auswirkungen analysieren und besser verstehen. Dazu wurde im spanischen Sevilla das Europäische Zentrum für Algorithmen-Transparenz (ECAT) eröffnet.

„Digitalen Plattformen und Suchmaschinen müssen besondere Sorgfaltspflichten erfüllen, die Risiken begrenzt zulassen. Jetzt haben wir die Möglichkeit, uns diese Algorithmen dieser Plattform anzuschauen. Dafür haben wir jetzt also ein Zentrum aufgebaut“, sagt Johannes Bahrke, Sprecher der EU-Kommission für die digitale Wirtschaft.

Wie arbeiten die Empfehlungssysteme? Was für Algorithmen liegen ihnen zugrunde? Auf welcher Grundlage lernen die Systeme Künstlicher Intelligenz? Und: Welche gesellschaftlichen Auswirkungen haben diese Algorithmen?

Rund 30 Mitarbeiterinnen und Mitarbeiter bei ECAT, darunter Datenwissenschaftler, Experten für künstliche Intelligenz und Sozialwissenschaftler, haben das Ziel, das zu untersuchen und die EU-Kommission bei der Umsetzung neuer Regeln über digitale Dienste zu unterstützen.

„Ich würde drei Punkte hervorheben. Der erste ist das Geschäftsmodell, sozusagen: Wie verdient man online Geld? Zweitens, wie verhalten sich die Nutzer? Das heißt, wie bleiben die Nutzer möglichst lange auf der Plattform? Drittens, wie funktioniert der Algorithmus technisch? Diese drei Komponenten müssen wir verstehen, um zu erkennen, ob die Plattformen ihren Verpflichtungen nachkommen. Falls sie das nicht tun, haben wir die Möglichkeit, dagegen vorzugehen", sagt Johannes Bahrke, Sprecher der EU-Kommission für digitale Wirtschaft.

Algorithmen haben einen großen Einfluss auf unsere Gesellschaft. „Algorithmen sind aus unserem Leben nicht mehr wegzudenken", sagt Mikel Landabaso vom Europäischen Forschungszentrum. KI ist seit langem maßgeblich dafür verantwortlich, wie wir das Internet erleben: Welche Produkte werden uns vorgeschlagen? Welcher Post wird uns angezeigt? Welche Ergebnisse erscheinen bei unserer Suche? Und die Aufgabe ist nicht nur sozusagen einzelne Algorithmen anzuschauen, sondern auch grundsätzlich Wissen voranzutreiben.

„Die 30 Mitarbeiter des Zentrums überprüfen ständig alle Algorithmen aller Plattformen. Es gibt technische Werkzeuge, mit denen man prüfen kann, wie das System funktioniert, d.h. Systeme, Empfehlungen, Funktionen, technische Aspekte. So kann man Tools entwickeln, die das überprüfen“, sagt Johannes Bahrke, Sprecher der EU-Kommission für Digitale Wirtschaft.

Algorithmen bestimmen so wesentlich die Wahrnehmung der Welt und werden so immer ausgefeilter. Einigen bereitet das große Sorgen. Sie warnen davor, dass die selbstlernenden Programme unkontrollierbar werden könnten. ECAT wird der EU-Kommission internes technisches und wissenschaftliches Fachwissen zur Verfügung stellen. Damit soll überprüft werden, ob die verwendeten algorithmischen Systeme die Anforderungen des DSA in Bezug auf Risikomanagement, Risikominderung und Transparenz erfüllen. Dazu gehört unter anderem die Durchführung von technischen Analysen und Bewertungen von Algorithmen.

Darüber hinaus werden sich die Experten mit der Frage beschäftigen, was mit zukünftigen Entwicklungen geschehen soll, die auf Algorithmen und KI basieren. Wie soll mit Themen wie ChatGPT, selbstfahrenden Autos, automatischen Programmen zur Personalrekrutierung oder zur Bewertung der Kreditwürdigkeit umgegangen werden? All dieses Wissen soll letztlich in ein neues Regelwerk fließen: Der sogenannten Artificial Intelligence Act.

Dieser wird derzeit in Brüssel verhandelt und soll den Einsatz von Künstlicher Intelligenz (KI im Umgang mit Kundendaten) regeln. Definierte Hochrisiko-Bereiche, wie etwa die Echtzeit-Fernidentifikation mit Videokameras durch KI, die Bewertung von Kreditwürdigkeit, die gesundheitliche Risikobewertung oder die Preisgestaltung verschiedener Produkte sollen so reglementiert werden.

Möchten Sie mehr über den European Chips Act und seine Auswirkung auf die Entwicklung der künstlichen Intelligenz in der EU erfahren? Schauen Sie sich das neue Interview auf unserem YouTube-Kanal an! Verpassen Sie diese exklusiven Einblicke nicht und bleiben Sie auf dem neuesten Stand der Entwicklungen in der IT-Branche.