Rechtliche Rahmenbedingungen und Compliance für den Einsatz von Künstlicher Intelligenz
Der Einsatz von KI bringt rechtliche Herausforderungen und Compliance-Anforderungen mit sich; Unternehmen müssen sicherstellen, dass ihre KI-Systeme nicht nur effektiv, sondern auch rechtlich einwandfrei sind. Im Zentrum steht dabei der EU AI Act, das erste umfassende KI-Gesetz weltweit. Dieses Modul erklärt seine Systematik, die wichtigsten Pflichten für Betreiber und den zeitlichen Rahmen und ordnet weitere relevante Gesetze ein.

Der EU AI Act im Überblick
Der EU AI Act (Verordnung (EU) 2024/1689) verfolgt einen risikobasierten Ansatz: Je höher das Risiko einer KI-Anwendung für Menschen, desto strenger die Anforderungen. Das Gesetz gilt seit dem 1. August 2024 und wird schrittweise anwendbar.
Wer trägt welche Rolle?
- Anbieter (Provider): entwickelt ein KI-System (oder lässt es entwickeln) und bringt es unter eigenem Namen auf den Markt. Anbieter tragen die meisten Pflichten.
- Betreiber (Deployer): setzt ein KI-System im Rahmen seiner beruflichen Tätigkeit ein. Die meisten Unternehmen – und Teilnehmenden dieser Schulung – sind Betreiber.
Wichtig: Wer ein fremdes KI-System wesentlich verändert oder unter eigenem Namen weitervertreibt, kann rechtlich selbst zum Anbieter mit entsprechend höheren Pflichten werden.
Die vier Risikoklassen
- Verbotene Praktiken (inakzeptables Risiko): u. a. Social Scoring durch Behörden, bestimmte manipulative KI, das Ableiten von Emotionen am Arbeitsplatz und in Bildungseinrichtungen (enge Ausnahmen für Medizin und Sicherheit) sowie bestimmte biometrische Kategorisierung. Diese Verbote gelten bereits.
- Hochrisiko-KI: Systeme in besonders sensiblen Bereichen (Personalauswahl und -verwaltung, Kreditwürdigkeitsprüfung, kritische Infrastruktur, Bildung). Nicht verboten, aber streng reguliert.
- Begrenztes Risiko (Transparenzpflichten): Systeme wie Chatbots oder generative KI, bei denen vor allem Offenlegungspflichten gelten.
- Minimales Risiko: die große Mehrheit der Anwendungen (z. B. Spamfilter) – keine besonderen Pflichten.
Pflichten für Betreiber von Hochrisiko-KI
Da die meisten Unternehmen Betreiber sind, sind vor allem diese Pflichten relevant. Betreiber von Hochrisiko-KI-Systemen müssen unter anderem:
- das System gemäß der Gebrauchsanweisung des Anbieters verwenden;
- eine menschliche Aufsicht durch geeignete, kompetente Personen sicherstellen;
- den Betrieb überwachen und bei Anzeichen für Risiken oder schwerwiegenden Vorfällen reagieren und melden;
- die automatisch erzeugten Protokolle (Logs) aufbewahren, soweit sie darüber Kontrolle haben;
- sicherstellen, dass die Eingabedaten für den Zweck geeignet und relevant sind (Modul 2);
- betroffene Personen sowie – am Arbeitsplatz – die Beschäftigten und ihre Vertretungen vor der Inbetriebnahme informieren (Modul 7);
- soweit einschlägig, eine Datenschutz-Folgenabschätzung nach der DSGVO durchführen (Modul 4).
Transparenzpflichten
Unabhängig von der Hochrisiko-Einstufung gelten für viele KI-Systeme Transparenzpflichten: Chatbots und Sprachassistenten müssen als KI erkennbar sein; KI-generierte oder manipulierte Inhalte (einschließlich Deepfakes) müssen unter bestimmten Voraussetzungen gekennzeichnet werden; über Emotionserkennung und biometrische Kategorisierung ist zu informieren. Für die meisten Unternehmen sind dies die praktisch wichtigsten Berührungspunkte mit dem AI Act, weil sie Marketing, Kommunikation und Kundenservice unmittelbar betreffen.
KI-Kompetenz als Pflicht (Art. 4)
Der AI Act verpflichtet Anbieter und Betreiber, für ein ausreichendes Maß an KI-Kompetenz bei ihren Mitarbeitenden zu sorgen – also das Wissen, KI-Systeme sachkundig einzusetzen, ihre Chancen und Risiken einzuschätzen und mögliche Schäden zu erkennen. Diese Schulung ist Teil der Erfüllung genau dieser Pflicht.
Zeitlicher Rahmen
Der AI Act wird gestaffelt anwendbar. Die wichtigsten Stichtage:
- 1. August 2024: Inkrafttreten der Verordnung.
- 2. Februar 2025: Die Verbote (inakzeptables Risiko) und die Pflicht zur KI-Kompetenz (Art. 4) gelten.
- 2. August 2025: Pflichten für Anbieter von GPAI-Modellen sowie Teile der Governance- und Sanktionsregelungen gelten.
- 2. August 2026: Die Transparenzpflichten (Chatbots, Kennzeichnung von KI-Inhalten) werden anwendbar; für die technische, maschinenlesbare Markierung gilt eine Übergangsfrist bis Dezember 2026.
- 2. Dezember 2027: Pflichten für eigenständige Hochrisiko-Systeme (Anhang III, z. B. Personalwesen) – durch die Gesetzesänderung „Digital Omnibus” von ursprünglich August 2026 verschoben.
- 2. August 2028: Pflichten für Hochrisiko-KI, die in regulierte Produkte eingebettet ist (Anhang I).
Wichtig einzuordnen: Die Verschiebung der Hochrisiko-Fristen verschafft mehr Zeit, hebt die Pflichten aber nicht auf; Verbote und Transparenzpflichten sind nicht betroffen. Da die Rechtslage in Bewegung ist, sollten die konkreten Fristen bei Bedarf gegen den aktuellen Stand geprüft werden.
Sanktionen
Verstöße gegen den AI Act können empfindliche Bußgelder nach sich ziehen: bei verbotenen Praktiken bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes, bei Verstößen gegen andere Pflichten (z. B. Hochrisiko- oder Transparenzpflichten) bis zu 15 Mio. Euro oder 3 %, je nachdem, welcher Betrag höher ist.
Weitere relevante Gesetze
Je nach Anwendung sind weitere Regelwerke zu beachten: Datenschutz (DSGVO, BDSG; Modul 4), Arbeitsrecht und Mitbestimmung (Modul 7), Antidiskriminierungsrecht (AGG; Modul 6), Urheberrecht (bei Trainingsdaten und KI-generierten Inhalten), Produktsicherheit und Haftung (GPSR seit Dezember 2024; die überarbeitete EU-Produkthaftungsrichtlinie erfasst künftig ausdrücklich auch Software und KI) sowie Wettbewerbsrecht (UWG bei irreführender Werbung).
Best Practices für Compliance im KI-Einsatz
- KI-Bestandsaufnahme: überblicken, welche KI-Systeme eingesetzt werden, und sie den Risikoklassen zuordnen.
- Verantwortlichkeiten festlegen: klare Zuständigkeiten für Auswahl, Freigabe und Aufsicht.
- Interne KI-Richtlinie: regeln, welche Werkzeuge wie genutzt werden dürfen (Modul 7 und 9).
- Schulung und menschliche Aufsicht: regelmäßige Schulungen (Art. 4); KI-gestützte Entscheidungen von kompetenten Personen prüfen lassen.
- Dokumentation und Beratung: Einsatz und Freigaben nachvollziehbar festhalten; bei Unsicherheit – besonders bei Hochrisiko-Systemen – Beratung hinzuziehen.
- Kontinuierliche Überprüfung: Maßnahmen an neue rechtliche Entwicklungen anpassen.
Fazit
Der rechtliche Rahmen lässt sich für Betreiber auf wenige Kernpunkte bringen: die Risikoklasse eines Systems verstehen, die Transparenzpflichten einhalten, bei Hochrisiko-Systemen für menschliche Aufsicht, Information der Betroffenen und Dokumentation sorgen und die KI-Kompetenz der Mitarbeitenden sicherstellen. Der EU AI Act wirkt dabei stets mit Datenschutz-, Arbeits- und Antidiskriminierungsrecht zusammen.