Datenschutz und Datensicherheit im Kontext von Künstlicher Intelligenz

Datenschutz und Datensicherheit sind zentrale Aspekte beim KI-Einsatz. Angesichts der großen Datenmengen, die KI-Systeme verarbeiten, ist es unerlässlich, dass Unternehmen strenge Datenschutz-Richtlinien und Sicherheitsmaßnahmen einhalten. Dieses Modul behandelt die wichtigsten Datenschutzregeln, das Verhältnis zum EU AI Act und die praktisch wichtigste Alltagsfrage: Was darf ich in ein KI-Werkzeug eingeben?
EU-Datenschutz-Grundverordnung (DSGVO)
Die DSGVO regelt den Schutz personenbezogener Daten in der EU und legt fest, wie Unternehmen sie verarbeiten dürfen. Ihre wichtigsten Grundsätze sind:
- Rechtmäßigkeit, Treu und Glauben, Transparenz: Die Verarbeitung muss rechtmäßig und transparent erfolgen.
- Zweckbindung: Daten nur für festgelegte, eindeutige und legitime Zwecke erheben.
- Datenminimierung: nur die für den Zweck erforderlichen Daten erheben.
- Richtigkeit: Daten müssen korrekt und aktuell sein.
- Speicherbegrenzung: Daten nur so lange speichern wie nötig.
- Integrität und Vertraulichkeit: Schutz durch technische und organisatorische Maßnahmen (TOM).
- Rechenschaftspflicht: Die Einhaltung muss nachweisbar sein.
Besondere Beachtung verdient: Für jede Verarbeitung personenbezogener Daten braucht es eine Rechtsgrundlage. Die DSGVO kennt mehrere gleichrangige (z. B. Vertrag, berechtigtes Interesse, rechtliche Verpflichtung, Einwilligung). Die Einwilligung ist nur eine davon und im Beschäftigungs- und Geschäftskontext oft nicht die praktikabelste Wahl, weil sie freiwillig und jederzeit widerrufbar sein muss.
Das Verhältnis von DSGVO und EU AI Act
Beim KI-Einsatz greifen beide Regelwerke parallel und unabhängig voneinander:
- Die DSGVO schützt personenbezogene Daten immer, wenn solche verarbeitet werden, unabhängig von der Risikoklasse des Systems.
- Der EU AI Act regelt KI-Systeme nach ihrem Risiko und gilt teilweise auch dann, wenn gar keine personenbezogenen Daten verarbeitet werden.
Entscheidend: Das eine ersetzt nicht das andere. Ein KI-System kann nach dem AI Act zulässig sein und trotzdem eine eigene datenschutzrechtliche Rechtsgrundlage benötigen. Bei Hochrisiko-Systemen verzahnen sich beide: Betreiber müssen unter Umständen eine Datenschutz-Folgenabschätzung durchführen und dafür die Informationen des Anbieters nutzen.
Datensicherheit
Datensicherheit schützt Daten vor unbefugtem Zugriff, Verlust oder Beschädigung. Wichtige technische und organisatorische Maßnahmen sind:
- Verschlüsselung: bei der Übertragung und im Ruhezustand.
- Zugriffskontrollen: Beschränkung auf autorisierte Personen mit starker Authentifizierung.
- Sicherheitsrichtlinien: klare Richtlinien und Verfahren entwickeln und durchsetzen.
- Schulung und Sensibilisierung: Mitarbeitende regelmäßig schulen.
- Überwachung und Audits: Einhaltung prüfen und Schwachstellen identifizieren.
Datenschutz bei der täglichen KI-Nutzung
Die praktisch wichtigste Frage lautet: Was darf ich in ein KI-Werkzeug eingeben?
- Keine sensiblen Daten in öffentliche KI-Tools: Personenbezogene Daten (Namen, Kundendaten, Bewerberunterlagen, Gesundheitsdaten) und Geschäftsgeheimnisse gehören nicht ungeprüft in frei zugängliche Dienste. Einmal eingegebene Daten können gespeichert, weiterverarbeitet oder zum Training verwendet werden.
- Auftragsverarbeitung klären: Bei geschäftlicher Nutzung ist meist ein Auftragsverarbeitungsvertrag (AVV) mit dem Anbieter erforderlich.
- Drittlandübermittlung beachten: Viele Anbieter verarbeiten Daten außerhalb der EU (z. B. in den USA); das unterliegt zusätzlichen Anforderungen der DSGVO.
- Freigegebene Werkzeuge verwenden: Im Zweifel nur die vom Unternehmen freigegebenen KI-Werkzeuge und -Konten nutzen. „Schatten-KI” ist ein erhebliches Datenschutz- und Sicherheitsrisiko (Modul 7 und 8).
Best Practices für Datenschutz und Datensicherheit
- Anonymisierung und Pseudonymisierung: wo möglich. Achtung: pseudonymisierte Daten, bei denen ein Rückschluss auf Personen möglich bleibt, gelten weiterhin als personenbezogen.
- Datenminimierung: nur die für den Zweck erforderlichen Daten verarbeiten.
- Transparenz und Rechtsgrundlage: Betroffene informieren; eine geeignete Rechtsgrundlage sicherstellen (nicht zwingend eine Einwilligung).
- Risikobewertung und Datenlöschung: Risiken regelmäßig bewerten; Daten sicher löschen, wenn sie nicht mehr benötigt werden.
- Incident Response: klarer Plan für Datenschutzverletzungen inkl. Meldung an Aufsichtsbehörden und Betroffene.
Grundsätze wie „Privacy by Design” und „Security by Design” berücksichtigen Datenschutz von Anfang an; die Maßnahmen sollten laufend an neue Bedrohungen angepasst werden.
Herausforderungen und Lösungsansätze
KI-spezifische Herausforderungen sind die hohe Datenkomplexität, ethische Fragen (Diskriminierung, Vorurteile in Algorithmen) und neue Angriffsformen, etwa der unbeabsichtigte Abfluss vertraulicher Daten über Eingaben oder gezielte Manipulationen von KI-Systemen (vertieft in Modul 8). Lösungsansätze sind, Datenschutz und Sicherheit von Anfang an mitzudenken, mit Aufsichtsbehörden und Fachleuten zusammenzuarbeiten sowie die Maßnahmen kontinuierlich zu überwachen und anzupassen.
Weitere relevante Gesetze
Neben der DSGVO sind je nach Fall weitere Regelwerke relevant: das Gesetz gegen den unlauteren Wettbewerb (UWG), das TDDDG und das Telekommunikationsgesetz (TKG), das Bundesdatenschutzgesetz (BDSG), der Standard ISO/IEC 27001 für Informationssicherheitsmanagement sowie der EU AI Act (Modul 5).
Fazit
Datenschutz und Datensicherheit sind zentrale Aspekte beim KI-Einsatz. Unternehmen müssen strenge Datenschutz-Richtlinien und Sicherheitsmaßnahmen einhalten, um rechtliche Anforderungen zu erfüllen und das Vertrauen der Kund:innen sowie der Mitarbeitenden zu gewinnen. Für die tägliche Arbeit ist die wichtigste Regel jedoch einfach: Im Zweifel keine personenbezogenen oder vertraulichen Daten in nicht freigegebene KI-Werkzeuge eingeben.