Lernthema 5 von 10

Verbotene KI-Anwendungen – was nicht erlaubt ist

Aus der Schulung Künstliche Intelligenz und Compliance

Nicht jede Form von KI-Anwendungen ist erlaubt. Der EU AI Act verbietet bestimmte Anwendungen vollständig – etwa Social Scoring, bei dem Menschen aufgrund ihrer Verhaltensweise bewertet werden, oder biometrische Überwachung in Echtzeit. Auch Systeme, die Emotionen am Arbeitsplatz auslesen oder Mitarbeitende manipulativ beeinflussen sollen, sind untersagt.Unternehmen müssen deshalb genau analysieren, wozu ihre eingesetzten Tools in der Lage sind – und ob diese Funktionen rechtlich zulässig sind.

Diese sogenannten „unvertretbaren Risiken“ betreffen den Kernbereich der Persönlichkeitsrechte. Werden sie dennoch eingesetzt, drohen hohe Bußgelder und Reputationsschäden.

Besonders problematisch ist, dass viele KI-Anwendungen nicht auf den ersten Blick als verbotene Systeme erkennbar sind – sie sind häufig Teil größerer Softwarelösungen und werden erst im Betrieb auffällig. Dies kann beispielsweise bei Kameras oder Analyse-Tools vorkommen.

Verbotene KI-Anwendungen – was nicht erlaubt ist

Unternehmen sollten daher interne Prüfprozesse etablieren, um alle Funktionen eingesetzter KI-Anwendungen systematisch zu evaluieren. Eine regelmäßige Schulung der Fachabteilungen hilft dabei, potenziell kritische Funktionen frühzeitig zu identifizieren und richtig einzuordnen. Letztlich geht es nicht nur um gesetzliche Verbote – sondern auch um ethisches Handeln und die Wahrung des Vertrauens von Mitarbeitenden, Kund:innen und Öffentlichkeit.

Um verbotene Funktionen zu identifizieren, reicht es oft nicht aus, sich nur auf die Selbstauskunft von Anbieter:innen zu verlassen. Viele KI-Tools verfügen über umfassendere Analysefunktionen, als auf den ersten Blick ersichtlich ist – etwa zur Gesichtserkennung oder Verhaltensbeobachtung. Unternehmen sollten daher technische Prüfverfahren entwickeln oder externe Expertise einholen, um solche versteckten Features zu erkennen. Eine systematische Bewertung hilft auch dabei, rechtliche Grauzonen zu vermeiden – denn der EU AI Act verbietet nicht nur bestimmte Einsatzzwecke, sondern auch manipulative Systeme, die nicht auf den ersten Blick erkennbar sind. Letztlich geht es darum, KI so einzusetzen, dass sie Menschen unterstützt – aber niemals kontrolliert, täuscht oder unter Druck setzt.