Datenschutz und IT-SicherheitLesezeit: 3 Min

Wer muss seine Mitarbeiter schulen?

Die neue EU-KI-Verordnung (KI-VO oder auch AI Act) wird bereits phasenweise eingeführt. Ab dem 2.8.2026 ist die KI-VO allgemein gültig. Eine Ausnahme bilden dabei die Vorschriften zur Produktsicherheit. Diese sind ab dem 2.8.2027 zu erfüllen.

Bereits seit Februar 2025 müssen die in der neuen Verordnung genannten Verbote und Schulungspflichten für Betreiber und Anbieter umgesetzt werden. Wir möchten in diesem Artikel noch einmal die wichtigsten Begriffe für Unternehmen dazu klären.

Was ist die KI-VO?

Die KI-Verordnung (KI-VO oder auch engl. AI Act) wurde durch den Rat der Europäischen Union verabschiedet und dieser tritt wie schon gesagt in unterschiedlichen Phasen in Kraft. Die KI-VO ist das erste umfassende Gesetz, welches den Umgang bei der Nutzung von KI regelt. Dabei geht es darum, dass Betroffene bei einer möglichen Verarbeitung ihrer personenbezogenen Daten, vor neuen Gefahren geschützt werden können.

Bestimmte KI-Verarbeitungen werden auch verboten. Nach Art. 5 KI-VO sind zum Beispiel folgende Praktiken verbotene Praktiken im KI-Bereich:

  • Programme/Systeme die mit unterschwelligen Beeinflussungen oder absichtlich manipulative Techniken arbeiten
  • Ausnutzug der Schutzbedürftigkeit von Betroffenen
  • Schlechterstellung durch Beurteilung von sozialem Verhalten, bestimmten persönlichen Eigenschaften oder Persönlichkeitsmerkmalen
  • Ableitung von Emotionen eines Betroffenen am Arbeitsplatz oder auch in Bildungseinrichtungen
  • in sensiblen Bereichen: biometrische Kategorisierungen
  • durch ein ungezieltes Auslesen von Bildern von Gesichtern erfolgtes Anlegen von Datenbanken zur Gesichtserkennung
  • Risikobewertung zur Vorhersage künftiger Straftaten, wenn diese ausschließlich auf Grundlage des Profilings einer natürlichen Person oder durch die Bewertung derer persönlichen Merkmale und Eigenschaften erfolgen
  • Verwendung biometrischer Echtzeit-Fernidetitfizierungssysteme zu Strafverfolgungszwecken – hierbei gibt es Ausnahmen, wie zum Beispiel die Abwendung einer konkreten, erheblichen und unmittelbaren Gefahr

BLOG-TIPP: DIE BEDEUTUNG VON MITARBEITERSCHULUNGEN IN DER IT- UND CYBERSICHERHEIT FÜR DEN DATENSCHUTZ

KI-VO Anbieter und Betreiber in der Pflicht

Die KI-VO unterscheidet zwischen Anbietern und Betreibern von KI-Systemen. Aber was bedeuten diese beiden Begriffe eigentlich für Unternehmen und Organisationen? Sie sind in Artikel 3 der KI-VO näher definiert.

Ein Anbieter ist dabei derjenige, der ein KI-System oder ein KI-Modell entwickelt oder entwickeln lässt und es unter dem eigenen Namen oder der Handelsmarke in Betriebt nimmt oder in Verkehr bringt. Wichtig zu beachten dabei ist, dass es egal ist, ob dies entgeltlich oder unentgeltlich geschieht.

Ein Betreiber ist jemand, der ein KI-System verwendet, und zwar in eigener Verantwortung und im Rahmen einer beruflichen Tätigkeit. Ausgenommen davon sind private Nutzer.

KI-Kompetenz für Anbieter und Betreiber

Laut KI-VO gilt bereits seit dem 2.2.2025 sowohl für Anbieter und Betreiber von KI-Systemen eine Pflicht dafür zu sorgen, dass Mitarbeiter – also alle Mitarbeiter – die KI-Systeme betreiben oder nutzen, über ein sogenanntes „ausreichendes Maß an KI-Kompetenz verfügen.“ Was genau ein ausreichendes Maß an KI-Kompetenz ist, wird dort nicht weiter definiert.

Feststeht allerdings, dass die Anbieter und Betreiber von KI-Systemen sicherstellen müssen, dass alle Mitarbeiter, die KI-Systeme nutzen, entsprechend angemessen im Umgang damit geschult werden.

BLOG-TIPP: AI ACT: KI IM UNTERNEHMEN NUTZEN – WAS BEDEUTET DAS FÜR DEN DATENSCHUTZ?

Schulungen bei der Nutzung von KI prüfen

Wenn ein Unternehmen sich also dazu entscheidet, KI-Software und Lösungen einzusetzen, muss es die Mitarbeiter auch bei der entsprechenden Nutzung schulen, um die entsprechende Kompetenz nach KI-VO umzusetzen.

Wir von Datenschutzberater.NRW schulen Sie gerne im Bereich KI-VO, um die Vorgaben der KI-Verordnung und dem Datenschutz umzusetzen.

Das Team von Datenschutzberater.NRW bietet Organisationen unterschiedlicher Art Beratung im Datenschutz an. Mit unseren Fachleuten aus dem Bereich Datenschutz, IT und Steuerrecht erstellen wir Ihnen gerne ein individuelles Angebot für eine Datenschutz-Erstberatung, die Betreuung durch einen externen Datenschutzbeauftragten und entwickeln ein für Sie passendes Konzept. Nehmen Sie einfach Kontakt zu uns auf.

Wir betreuen Mandanten bundesweit. Lesen Sie mehr zu unserem individuellen Angebot. Dieser Artikel dient zur allgemeinen Erstinformation, ersetzt keine fachliche und individuelle Beratung und erhebt keinen Anspruch auf Vollständigkeit. Wenn Sie sich unsicher sind, ob Sie den Datenschutz ausreichend umsetzen, dann lassen Sie sich von uns professionell beraten.

KI-VO Schulungspflicht – Datenschutz umsetzen
Markiert in:         
Anfrage