©Adobe Stock

EU AI Act: Zentrale Inhalte und Anforderungen im Überblick

Der EU AI Act ist in aller Munde, dabei wissen viele nicht, was er ist, wen er betrifft und welche Konsequenzen er hat.  

Der folgende Beitrag erklärt, was Sie darüber wissen müssen – einfach und kompakt.  

 

Was ist der AI Act?

Der AI Act wurde als erste umfassende KI-Regulierung der EU im Juli 2024 vorgestellt. Seit August 2024 ist diese Regulierung mit gestaffelten Übergangsfristen in Kraft getreten. Somit gelten schrittweise mehr Regelungen.  

Der AI Act unterteilt KI-Systeme basierend auf der zugrundeliegenden Technologie und dem Anwendungskontext in vier Stufen 

  • Minimales Risiko (z. B. KI-Spamfilter) 
  • Begrenztes Risiko (z. B. KI-Chatbots im Kundenservice) 
  • Hohes Risiko (z. B. KI-Systeme zur Bewerberauswahl) 
  • Nicht annehmbares Risiko (z. B. KI-Systeme zur sozialen Bewertung)  

KI-Systeme mit nicht annehmbarem Risiko sind seit Februar 2025 in der EU verboten. Grundsätzlich gilt:  Je höher das Risiko, desto strenger die Anforderungen und Verpflichtungen.

 

Warum wird der AI Act benötigt?

Seit geraumer Zeit wird vermehrt KI eingesetzt. Mittlerweile hat sie auch in unseren Arbeitsalltag Einzug gehalten. Fehlende rechtliche Rahmenbedingungen führten dabei zu Unsicherheit, da viele Fragen offen blieben. So zum Beispiel, was erlaubt ist und wer die Verantwortung für Schäden übernimmt, die bei fehlerhaftem Einsatz entstehen können.  

Der AI Act dient zur Klärung solcher Fragen und soll Anbietern, Betreibern und Nutzer:innen von KI mehr Sicherheit geben 

Zudem soll er dazu beitragen, Innovation zu fördern sowie die Gesundheit, Sicherheit und Grundrechte zu schützen. 

 

Wer ist von dem AI Act betroffen?

Der AI Act hat zwei Hauptzielgruppen:  

  • KI-Anbieter, die KI-Systeme in der EU entwickeln oder in der EU in Verkehr bringen 
  • KI-Betreiber, die KI-Systeme im eigenen Betrieb einsetzen 

Obwohl der EU AI Act sich primär an Unternehmen richtet, betrifft er auch Mitarbeiter:innen indirekt. Durch ihr verantwortungsbewusstes Handeln können sie ihr Unternehmen vor Schäden und Sanktionen schützen.

 

Notwendigkeit von KI-Kompetenz 

Nach Artikel 4 des EU AI Acts gilt für Arbeitgeber bereits seit Februar 2025 die Pflicht zur Sicherstellung ausreichender KI-Kompetenz bei Mitarbeitenden. Sowohl das Nutzerprofil, bestehend aus Kenntnissen und Erfahrungen, als auch der jeweilige Anwendungskontext, einschließlich des eingesetzten KI-Systems, müssen in den Maßnahmen berücksichtigt werden. 

Die Bundesnetzagentur veröffentlichte im Juni 2025 ein Hinweispapier das drei Stufen zur Strukturierung von Maßnahmen vorstellt. Dabei stellen die Stufen eine Orientierung, keine Verpflichtung dar: 

  1. Schaffung eines grundlegenden Verständnisses von Daten und KI in der Organisation 
  1. Aufbau fortgeschrittener KI-Kompetenzen 
  1. Rollenspezifische Trainings mit individuellen Schwerpunkten 

Neben möglichen Haftungsrisiken können auch weitere Sanktionen im Rahmen des AI Acts erfolgen.  Unternehmen sollten daher frühzeitig Maßnahmen zur Entwicklung von KI-Kompetenz ergreifen. 

 

Möchten Sie mehr erfahren? Diese Quellen bieten Ihnen weitere Informationen: 

Autorin

Michelle Jörgens

AWSi