KI*Talk: Navigieren in der KI-Welt - rechtssicher & praxisorientiert

EU AI-Act - So stellen Sie Ihr Unternehmen zukunftssicher auf, 21.11.2024

KERNAUSSAGEN:

Allgemeines zur KI-Verordnung (EU AI Act)

• Harmonisierung: EU-weit geltende Vorschriften für Entwicklung, Einsatz und Nutzung von KI.
• Risikobasierter Ansatz:
  • Inakzeptables Risiko: Verbotene Anwendungen wie Social Scoring oder manipulative KI.
  • Hohes Risiko: Anwendungen mit potenziellen Gefahren für Gesundheit, Sicherheit oder Grundrechte. (z. B. Kreditbewertung, Arbeitsrecht)
  • Geringes und minimales Risiko: Transparenzanforderungen. (z. B. Kennzeichnung von Chatbots)

Definition von KI

• Veränderung des KI-Begriffs im Verordnungsentwurf: Von Software-basierten Techniken hin zu autonomen maschinengestützten Systemen.
• Ziel: Klare Rahmenbedingungen für KI-Systeme, die physische oder virtuelle Umgebungen beeinflussen können.

Anforderungen und Regulierung

• Hochrisiko-KI: Risikomanagementsysteme
  • Menschliche Aufsicht und Cybersicherheitsanforderungen
  • Meldepflichten bei Fehlfunktionen
• Transparenz: Kennzeichnung von KI-Systemen und Offenlegung manipulierter Inhalte. (z. B. Deepfakes)
• Arbeitsrecht: Hochrisiko-KI bei Überwachung und Bewertung von Arbeitskräften.

Sanktionen

• Bußgelder je nach Verstoß: Bis zu 7 % des weltweiten Jahresumsatzes bei Einsatz verbotener KI.
• Geringere Strafsätze für KMUs.

Übergangsfristen

• Staffelung der Einführung: Verbotene Anwendungen: 6 Monate nach Verlautbarung
• Hochrisiko-Anforderungen: 36 Monate

Verbindung zu DSGVO

• Vergleich: DSGVO schützt personenbezogene Daten, während die KI-Verordnung gesellschaftliche Risiken minimiert.
• Konfliktpunkte: Datenverarbeitung, Korrekturmöglichkeiten und Transparenz bei generativen KI-Systemen. (z. B. ChatGPT)