Lernthema 8 von 10

Herausforderungen und Risiken beim Einsatz von Künstlicher Intelligenz

Aus der Schulung KI-Schulung – Künstliche Intelligenz im Arbeitsalltag

Herausforderungen und Risiken beim Einsatz von Künstlicher Intelligenz

Der Einsatz von KI bietet viele Vorteile, bringt aber auch Herausforderungen und Risiken auf zwei Ebenen mit sich: organisatorische Fragen bei der Einführung und, besonders wichtig für alle Mitarbeitenden, Risiken bei der täglichen Nutzung.

Die Risikoklassen des EU AI Act als Ausgangspunkt

Der AI Act ordnet jedes System einer Risikoklasse zu (verboten, hoch, begrenzt mit Transparenzpflichten oder minimal; Modul 5). Die wichtigste Frage im Alltag lautet deshalb: In welche Klasse fällt das System, das ich einsetze? Aus der Antwort ergeben sich die geltenden Pflichten und Vorsichtsmaßnahmen. Unabhängig von der rechtlichen Einstufung können die folgenden praktischen Risiken auftreten.

Nutzungsrisiken im Arbeitsalltag

Diese Risiken entstehen bei der alltäglichen Nutzung von KI-Werkzeugen, insbesondere generativer KI, und betreffen jede Mitarbeiterin und jeden Mitarbeiter unmittelbar.

  • Falsche Ergebnisse (Halluzinationen): Generative KI kann überzeugend klingende, aber falsche oder frei erfundene Informationen erzeugen (erfundene Quellen, Zahlen oder Zitate). Ergebnisse sind vor der Verwendung zu prüfen.
  • Übermäßiges Vertrauen (Automation Bias): Weil KI kompetent wirkt, besteht die Gefahr, ihre Ergebnisse ungeprüft zu übernehmen. Kritische Distanz und eine abschließende menschliche Bewertung sind entscheidend.
  • Datenabfluss über Eingaben: Vertrauliche oder personenbezogene Daten können über KI-Tools das Unternehmen verlassen, gespeichert oder zum Training verwendet werden. Sensible Daten gehören nicht in nicht freigegebene Werkzeuge (Modul 4).
  • Manipulierte Eingaben (Prompt Injection): KI-Systeme, die Texte, E-Mails, Dokumente oder Webseiten verarbeiten, können durch versteckte Anweisungen manipuliert werden – Vorsicht besonders, wenn Werkzeuge automatisch auf externe Inhalte zugreifen.
  • Schatten-KI: Die eigenmächtige Nutzung nicht freigegebener Werkzeuge entzieht sich jeder Kontrolle und bündelt mehrere Risiken. Es sollten nur freigegebene Tools verwendet werden (Modul 4 und 7).
  • Urheberrecht und geistiges Eigentum: KI-generierte Inhalte können urheberrechtlich geschützte Elemente enthalten, bei geschäftlicher Nutzung ist Vorsicht geboten.
  • Missbrauch durch Dritte (Deepfakes und Social Engineering): KI erleichtert überzeugende Fälschungen von Stimmen, Bildern und Videos sowie täuschend echte Betrugsversuche (z. B. gefälschte Anrufe vermeintlicher Vorgesetzter). Ein gesundes Misstrauen bei ungewöhnlichen Aufforderungen ist wichtig.
  • Abhängigkeit von Anbietern und Modellen: KI-Dienste können sich ändern, teurer werden oder ausfallen und sich ohne Vorwarnung anders verhalten. Wichtige Prozesse sollten nicht ungeprüft von einem einzigen Dienst abhängen.

Weitere Herausforderungen bei Einführung und Betrieb

Neben den Nutzungsrisiken kommen weitere Herausforderungen hinzu:

  • Technisch: Sicherung der Datenqualität (Modul 2), Integration in bestehende Systeme und Skalierbarkeit.
  • Ethisch-gesellschaftlich: vor allem Bias und Diskriminierung (Modul 6 und 7), Transparenz und der Schutz personenbezogener Daten (Modul 4).
  • Rechtlich: Einhaltung von AI Act, Datenschutz-, Arbeits- und Antidiskriminierungsrecht sowie Haftung – für Schäden durch fehlerhafte Produkte (einschließlich Software und KI) greifen die Regeln der Produkthaftung (Modul 5). Die Verantwortung für die Nutzung von KI-Ergebnissen bleibt beim Menschen.
  • Wirtschaftlich: Kosten für Einführung und Betrieb sowie ein oft schwer messbarer Return on Investment.

Best Practices zur Bewältigung der Risiken

Zur Beherrschung der Risiken bewährt: KI-Ergebnisse kritisch prüfen, nur freigegebene Werkzeuge nutzen und keine sensiblen Daten eingeben, die Datenqualität sichern, klare interne Regeln und regelmäßige Schulungen etablieren, wichtige Entscheidungen unter menschliche Aufsicht stellen, die rechtliche Compliance laufend überprüfen und Kosten wie Nutzen im Blick behalten.

Fazit

Der Einsatz von KI bringt Herausforderungen auf zwei Ebenen: organisatorische Fragen bei der Einführung und ganz konkrete Risiken bei der täglichen Nutzung. Gerade Letztere – falsche Ergebnisse, Datenabfluss, übermäßiges Vertrauen oder Manipulation – betreffen alle Mitarbeitenden unmittelbar. Wer sie kennt, KI-Ergebnisse prüft, nur freigegebene Werkzeuge nutzt und im Zweifel nachfragt, trägt wesentlich dazu bei, die Risiken zu beherrschen.