KI*Talk: Navigieren in der KI-Welt - rechtssicher & praxisorientiert
KI & Datenschutz - Rechtssicherheit bei KI-VO und DSGVO, 5.12.2024
KERNAUSSAGEN:
Rahmen der KI-VO und DSGVO:
- Die KI-Verordnung (KI-VO) ergänzt die DSGVO, ohne sie zu verdrängen.
- Nationale Marktaufsichtsbehörden überwachen die Einhaltung der KI-VO, inklusive Konformitätsbewertungsstellen und Innovationsförderung.
Hochrisiko-KI-Systeme:
- Besonders kritisch sind biometrische und hochriskante Anwendungen in Strafverfolgung, Justiz, Grenzmanagement und demokratischen Prozessen.
- Strenge Vorschriften für Datennutzung und Compliance, oft unter Bezug auf die DSGVO.
Rechtmäßigkeit und Transparenz:
- KI-Systeme müssen transparente Verarbeitungsprozesse gewährleisten.
- Datenverarbeitung muss nach Treu und Glauben erfolgen, ohne nachteilige oder diskriminierende Effekte.
Datenschutzrechtliche Pflichten:
- Berechtigte Interessen als mögliche Rechtsgrundlage für Datenerhebung und -verarbeitung.
- Einsatz von Maßnahmen wie Anonymisierung und Datenminimierung zur Sicherung von Datenschutzstandards.
Automatisierte Entscheidungsfindung:
- Art. 22 DSGVO verbietet Entscheidungen ohne menschliches Eingreifen, es sei denn, es gibt spezifische Ausnahmen (z. B. Einwilligung).
- Menschliche Aufsicht bleibt auch bei Hochrisiko-KI unerlässlich.
Herausforderungen bei generativer KI:
- Datenrichtigkeit und Integrität sind bei generativen KI-Systemen problematisch, da Ergebnisse oft auf Wahrscheinlichkeiten basieren.
- Beispiele: Beschwerden gegen OpenAI wegen falscher Datenausgaben und mangelnder Transparenz.
Betroffenenrechte:
- Sicherstellung von Auskunfts-, Lösch- und Berichtigungsrechten auch bei KI-gestützten Systemen.
- Rechte der Betroffenen auf menschliche Intervention bei automatisierten Prozessen.
Praktische Beispiele und Konsequenzen:
- Einsatzgebiete wie HR-Entscheidungen, Kundenservice-Chatbots und automatisierte Vertragsabschlüsse illustrieren die Herausforderungen.
- Informationspflichten zur Entscheidungslogik und Schutz der Betroffenenrechte sind zentral.
