KI-Kompetenz in Unternehmen: Anforderungen gemäß Artikel 4 des AI Act
Sicherstellung der ausreichenden KI-Kompetenz
Der Artikel 4 des AI Act fordert von Unternehmen, die KI-Systeme entwickeln, betreiben oder anwenden, sicherzustellen, dass alle Mitarbeitenden, die mit diesen Systemen befasst sind, über ein „ausreichendes Maß an KI-Kompetenz“ verfügen. Diese Anforderung betrifft nicht nur die technischen Aspekte der KI-Nutzung, sondern auch die Fähigkeit, rechtliche Vorgaben einzuhalten und Risiken zu erkennen.
Laut Artikel 4 AI Act müssen Unternehmen:
- Schulungen und Weiterbildungen anbieten, um sicherzustellen, dass alle relevanten Mitarbeitenden die notwendigen Fähigkeiten im Umgang mit KI-Systemen erwerben.
- Ein Verständnis für die technischen Elemente der KI-Systeme sicherstellen, einschließlich der korrekten Anwendung und der Interpretation der KI-Ergebnisse.
- Die Einhaltung des AI Acts durch entsprechende Schulungen und die Förderung von Kompetenzen gewährleisten, um rechtliche Anforderungen zu erfüllen und Risiken zu minimieren.
Wann ist die KI-Kompetenz „ausreichend“?
Eine der zentralen Fragen, die sich aus Artikel 4 ergibt, ist, wann die KI-Kompetenz in einem Unternehmen als „ausreichend“ angesehen wird. Hier gibt es keine pauschale Antwort, da dies stark von mehreren Faktoren abhängt, darunter:
- Vorkenntnisse und Erfahrungen der Mitarbeitenden: Je nach Ausbildungsstand und Berufserfahrung kann der Umfang der notwendigen Schulungen variieren.
- Kontext der KI-Nutzung: Die Art der verwendeten KI-Systeme und der spezifische Anwendungsfall beeinflussen, welche Kompetenzen erforderlich sind.
- Personengruppen und Aufgabenbereiche: Mitarbeitende, die direkt mit der Entwicklung oder dem Betrieb von KI-Systemen befasst sind, benötigen tiefere technische und rechtliche Kenntnisse als jene, die KI-Systeme nur peripher nutzen.
Definition der KI-Kompetenz
- Erwägungsgrund 20 der KI-VO hebt hervor, dass die KI-Kompetenz im Unternehmen so ausgestaltet sein muss, dass sie ein Verständnis für die Anwendung technischer Elemente während der Entwicklungsphase eines KI-Systems umfasst. Dies schließt die korrekte Nutzung der KI und die Interpretation der Systemergebnisse mit ein.
- Artikel 3 Nr. 56 der KI-VO definiert die KI-Kompetenz als die Kenntnisse, Fähigkeiten und das Verständnis, die erforderlich sind, um sicherzustellen, dass KI-Systeme verantwortungsvoll und im Einklang mit den rechtlichen Rahmenbedingungen entwickelt, eingesetzt und überwacht werden.
Der Gesetzgeber betont, dass die KI-Kompetenz entlang der gesamten Wertschöpfungskette aufgebaut werden muss. Dies bedeutet, dass nicht nur Techniker und Entwickler geschult werden sollten, sondern auch alle anderen Akteure, die in irgendeiner Form mit den KI-Systemen interagieren oder Entscheidungen über deren Nutzung treffen.
2. Die Datenschutz-Grundverordnung (DSGVO) und ihre Bedeutung für KI
Neben dem AI Act spielt die Datenschutz-Grundverordnung (DSGVO) eine zentrale Rolle im rechtlichen Rahmen für den Einsatz von KI in der EU. Die DSGVO regelt den Schutz personenbezogener Daten und hat auch erhebliche Auswirkungen auf den Betrieb von KI-Systemen, insbesondere wenn diese automatisierte Entscheidungen treffen oder Profile von Personen erstellen.
Artikel 22 der DSGVO: Automatisierte Entscheidungen und Profiling
Ein besonders relevanter Aspekt der DSGVO für KI ist Artikel 22, der sich mit automatisierten Entscheidungen und Profiling beschäftigt. Wenn KI-Systeme Entscheidungen treffen, die rechtliche oder ähnlich erhebliche Auswirkungen auf eine betroffene Person haben (z. B. bei der Kreditvergabe oder bei Bewerbungsverfahren), müssen bestimmte Schutzmaßnahmen ergriffen werden.
Diese Schutzmaßnahmen umfassen:
- Einwilligung der betroffenen Personen: Unternehmen müssen die ausdrückliche Einwilligung der betroffenen Personen einholen, bevor sie automatisierte Entscheidungen oder Profiling durchführen dürfen.
- Recht auf menschliches Eingreifen: Betroffene Personen haben das Recht, eine menschliche Überprüfung der automatisierten Entscheidung zu verlangen.
- Transparenz und Informationspflichten: Unternehmen müssen die betroffenen Personen transparent darüber informieren, dass eine automatisierte Entscheidung getroffen wurde, und erklären, wie diese Entscheidung zustande gekommen ist.
3. Ergänzende Regelungen im Bundesdatenschutzgesetz (BDSG)
Das Bundesdatenschutzgesetz (BDSG) ergänzt die DSGVO auf nationaler Ebene in Deutschland. Es enthält spezifische Bestimmungen für den Umgang mit personenbezogenen Daten im Arbeitsverhältnis, die besonders im Zusammenhang mit dem Einsatz von KI relevant sind.
- Arbeitnehmerdatenschutz: Das BDSG stellt sicher, dass der Einsatz von KI-Systemen zur Überwachung oder Bewertung von Mitarbeitenden nur unter strengen Bedingungen erlaubt ist. Arbeitgeber müssen beispielsweise den Betriebsrat einbeziehen, wenn KI-Systeme zur Leistungsbewertung oder Überwachung eingesetzt werden.
- Verarbeitung sensibler Daten: Wenn KI-Systeme sensible personenbezogene Daten (wie etwa Gesundheitsdaten) verarbeiten, gelten besonders strenge Datenschutzvorgaben. Unternehmen müssen sicherstellen, dass diese Daten nur in Übereinstimmung mit den rechtlichen Vorschriften und mit entsprechenden Schutzmaßnahmen verarbeitet werden.
4. Das Digitale-Dienste-Gesetz (DSA) und seine Relevanz für KI
Das Digitale-Dienste-Gesetz (Digital Services Act, DSA) wurde ebenfalls 2024 verabschiedet und reguliert digitale Plattformen und Dienste, die automatisierte Systeme, einschließlich KI, nutzen. Es richtet sich insbesondere an große Online-Plattformen und stellt sicher, dass Transparenzpflichten und Schutzmaßnahmen zum Schutz der Nutzerrechte eingehalten werden.
- Transparenz automatisierter Systeme: Plattformen müssen offenlegen, wenn KI-Systeme zur Moderation oder Empfehlung von Inhalten genutzt werden, und den Nutzern die Möglichkeit bieten, diese Systeme zu verstehen und deren Einfluss auf ihre Nutzererfahrung einzuschränken.
- Schutz vor algorithmischer Diskriminierung: Das DSA betont die Notwendigkeit, sicherzustellen, dass automatisierte Systeme nicht diskriminierend eingesetzt werden und dass sie keine negativen Auswirkungen auf die Grundrechte der Nutzer haben.

Wie schaffen Unternehmen eine ausreichende KI-Kompetenz?
Um den Anforderungen des AI Acts und der KI-VO gerecht zu werden, müssen Unternehmen systematisch interne Strukturen schaffen, um die notwendige KI-Kompetenz aufzubauen und zu pflegen. Hier sind einige empfohlene Schritte:
- Umfassende Schulungsprogramme: Unternehmen sollten Schulungsprogramme entwickeln, die sowohl die technischen als auch die rechtlichen Aspekte der KI-Nutzung abdecken. Diese Schulungen sollten regelmäßig aktualisiert werden, um den sich entwickelnden rechtlichen und technologischen Rahmenbedingungen Rechnung zu tragen.
- Zentrale Koordinationsstelle für KI: In größeren Unternehmen kann es sinnvoll sein, eine zentrale Position wie einen KI-Beauftragten einzurichten, der die verschiedenen Abteilungen hinsichtlich KI-Themen berät und Schulungen koordiniert.
- Integration von interdisziplinären Teams: Da die KI-Kompetenz sowohl technische als auch rechtliche Kenntnisse umfasst, sollten Unternehmen interdisziplinäre Teams bilden, die Experten aus den Bereichen Technologie, Recht und Ethik zusammenbringen.
- Regelmäßige Überprüfung und Weiterentwicklung: Die Anforderungen an KI-Systeme und ihre korrekte Nutzung entwickeln sich ständig weiter. Unternehmen sollten daher ihre internen Kompetenzen und Schulungsprogramme regelmäßig evaluieren und an neue Herausforderungen anpassen.
Fazit
Die Anforderungen an Unternehmen im Hinblick auf KI-Kompetenz sind im AI Act und der KI-Verordnung klar definiert. Artikel 4 des AI Act stellt sicher, dass Unternehmen nicht nur technisches Know-how aufbauen, sondern auch rechtliche und ethische Vorgaben einhalten. Der Schwerpunkt auf Schulungen, interdisziplinäre Zusammenarbeit und die Schaffung zentraler Verantwortlichkeiten wie eines KI-Beauftragten sind zentrale Maßnahmen, um diese Anforderungen zu erfüllen. Mit einer gut strukturierten Strategie können Unternehmen ihre Mitarbeitenden auf die Herausforderungen des KI-Einsatzes vorbereiten und gleichzeitig die Einhaltung der Vorschriften sicherstellen.
Wenn Ihr Unternehmen Künstliche Intelligenz einsetzt oder plant, dies zu tun, ist es wichtig, jetzt die Weichen zu stellen, um die notwendige KI-Kompetenz zu entwickeln und so den Anforderungen des AI Acts und der KI-Verordnung gerecht zu werden.
Sie sehen gerade einen Platzhalterinhalt von Standard. Um auf den eigentlichen Inhalt zuzugreifen, klicken Sie auf den Button unten. Bitte beachten Sie, dass dabei Daten an Drittanbieter weitergegeben werden.
Weitere Informationen