Rechtskonformer Einsatz von KI im Unternehmen: Herausforderungen, Chancen und Pflichten
KI ist längst in der Realität angekommen. Bereits das einleitende Video dieses Vortrags wurde mithilfe von KI erstellt – basierend auf realen Bild- und Sprachdaten. Dies veranschaulicht eindrucksvoll, welches Potenzial KI bereits heute bietet. Zugleich wirft diese Nutzung eine Vielzahl an Fragen auf: Datenschutz, Urheberrecht, Compliance sowie arbeits- und betriebsverfassungsrechtliche Aspekte müssen berücksichtigt werden.
KI ist kein Zukunftsthema mehr
Die Nutzung von KI wächst rasant. Laut Statistischem Bundesamt ist ihr Einsatz im Unternehmenskontext allein im vergangenen Jahr um 8 % gestiegen. Diese Zahl bildet das tatsächliche Ausmaß jedoch kaum ab, da ein erheblicher Teil durch sogenannte Schatten-IT erfolgt – also KI-Anwendungen, die Mitarbeitende ohne zentrale Steuerung oder Unternehmensstrategie nutzen. Tools wie ChatGPT oder Claude werden vielerorts bereits eingesetzt, ohne dass Geschäftsführungen davon wissen oder eine übergreifende Strategie etabliert haben. Dies ist rechtlich riskant: Wird eine nicht standardisierte Software verwendet, haftet im Ernstfall das Unternehmen.
Verantwortung beginnt bei der Führung
Die Einführung von KI muss strukturiert erfolgen. Unternehmen sind in der Pflicht, Mitarbeitende frühzeitig zu informieren, zu qualifizieren und rechtlich abzusichern. Eine Künstliche Intelligenz sollte nicht ohne Schulung eingeführt werden. Der EU AI Act verpflichtet Unternehmen beim Einsatz von KI sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kompetenz verfügen. Dies kann nur durch Schulungen erfolgen und ist daher nicht nur gute Praxis, sondern wird durch den EU AI Act verbindlich gefordert. Fehlende Sensibilisierung kann zu schwerwiegenden Konsequenzen führen – bis hin zu Sanktionen von bis zu 7 % des Jahresumsatzes.
Fünf zentrale Rechtsrahmen für den Einsatz Künstlicher Intelligenz
1. Der EU AI Act definiert klare Verbote für bestimmte KI-Anwendungen – insbesondere zur Wahrung von Persönlichkeitsrechten. Verboten sind unter anderem:
-
- Social Scoring
- Biometrische Fernidentifikation in Echtzeit
- Emotionserkennung am Arbeitsplatz
- Manipulative oder täuschende Systeme
Unternehmen müssen sorgfältig prüfen, ob etwa bei der Videoüberwachung öffentlicher Bereiche oder bei zielgruppenspezifischer Werbung unbeabsichtigt gegen diese Vorgaben verstoßen wird.
2. Beim Urheberrecht stehen zwei Fragen im Vordergrund:
-
- Mit welchen (urheberrechtlich geschützten) Daten wurde die Künstliche Intelligenz trainiert?
- Welche Nutzungsrechte bestehen am KI-Output?
Die Verwendung von Inhalten, deren Nutzung nicht vertraglich geregelt wurde – etwa Texte ehemaliger Mitarbeitender oder Materialien externer Agenturen – kann Urheberrechtsverletzungen darstellen. Auch der Output einer Künstlichen Intelligenz ist nicht automatisch frei verwendbar. Unternehmen müssen die Nutzungsbedingungen der eingesetzten Tools genau prüfen und sicherstellen, dass Mitarbeitende entsprechend informiert sind.
3. Bei der Einführung von KI-Systemen ist in der Regel der Betriebsrat laut Betriebsverfassungsgesetz zu beteiligen – insbesondere, wenn Überwachungsfunktionen oder personenbezogene Auswertungen durch die eingesetzten KI-Systeme möglich sind. Tools zur Personalplanung, Leistungsbewertung oder technischen Überwachung sind grundsätzlich mitbestimmungspflichtig. Frühzeitige Einbindung des Betriebsrats vermeidet Verzögerungen oder Rückabwicklungen geplanter Maßnahmen.
4. Der Einsatz von KI darf nach geltendem Arbeitsrecht nicht dazu führen, dass Mitarbeitende ihre arbeitsvertraglich geschuldeten Leistungen nicht mehr persönlich erbringen. Wird etwa ein Pressetext durch KI generiert, obwohl der Mitarbeitende für genau diese Aufgabe eingestellt wurde, kann dies arbeitsrechtlich problematisch sein. Arbeitgeber wie auch Arbeitnehmer sollten sicherstellen, dass der Einsatz von KI durch entsprechende vertragliche Regelungen legitimiert ist.
5. Durch Art. 6 der Datenschutz-Grundverordnung (DSGVO) bedarf die Verarbeitung personenbezogener Daten durch KI einer klaren Rechtsgrundlage – etwa Einwilligung, Vertrag, gesetzliche Grundlage oder berechtigtes Interesse. Dabei ist stets abzuwägen, ob das Interesse des Unternehmens die Rechte der betroffenen Person überwiegt. Auch bei automatisierten Entscheidungen – etwa durch KI in der Personalplanung – ist besondere Sorgfalt geboten. Unternehmen müssen:
-
- eine Risikofolgenabschätzung durchführen
- Auftragsverarbeitungsverträge (AVV) oder Standardvertragsklauseln (SCC) abschließen
- Mitarbeitende transparent über die Datenverarbeitung informieren
- sicherstellen, dass auch Betriebsgeheimnisse geschützt bleiben
Verantwortungsvoll handeln – strategisch einführen
Die Einführung von Künstlicher Intelligenz im Unternehmen ist kein Experimentierfeld, sondern ein komplexer Veränderungsprozess mit rechtlichen, technischen und kulturellen Implikationen. Die Grundlage für einen erfolgreichen Einsatz sind:
- klare Unternehmensrichtlinien
- frühzeitige Einbindung aller relevanten Stellen (Betriebsrat, IT, Datenschutz, Fachabteilungen)
- Schulung und Qualifizierung der Mitarbeitenden.
KI wird die Arbeitswelt tiefgreifend verändern. Um davon zu profitieren und gleichzeitig rechtliche Risiken zu vermeiden, ist ein verantwortungsvoller und strategischer Umgang unerlässlich.
Rechte, Risiken und Verantwortlichkeiten
Die Einführung von Künstlicher Intelligenz (KI) im Unternehmen erfordert eine sorgfältige Planung und eine umfassende Bewertung der datenschutzrechtlichen und organisatorischen Auswirkungen. Es ist entscheidend, genau zu dokumentieren, welche Rechte und Daten durch welche Stellen verarbeitet werden – und mit welchen potenziellen Risiken dies für Mitarbeitende, externe Dienstleister oder Lieferanten verbunden sein kann.
Unternehmen tragen eine klare Aufklärungspflicht: Betroffene Personen müssen transparent über die Art der Datenverarbeitung informiert werden und die Möglichkeit erhalten, dieser zu widersprechen. Besonders kritisch ist dabei, dass einmal in ein KI-System eingespeiste Informationen in der Regel nicht ohne Weiteres entfernt werden können. Diese Tatsache stellt ein grundlegendes Problem dar, über das Unternehmen sich im Klaren sein müssen.
Die Datenverarbeitung ist im Verzeichnis der Verarbeitungstätigkeiten (VVT) zu dokumentieren. Zudem sind technische und organisatorische Maßnahmen zu definieren, unter denen der KI-Einsatz erfolgen darf. Idealerweise wird dieser Prozess durch Mitarbeiterschulungen begleitet. Nur wenn Mitarbeitende verstehen, wie KI im Unternehmen eingesetzt wird, können sie die Systeme sinnvoll und verantwortungsvoll nutzen – zum Vorteil aller Beteiligten.
Klare Strukturen statt Insellösungen
Die Einführung von Künstlicher Intelligenz sollte stets strukturiert erfolgen. Es ist essenziell, alle relevanten internen Stellen frühzeitig einzubinden – vom Betriebsrat über das Qualitätsmanagement und die IT-Abteilung bis hin zu den Fachabteilungen. Kommunizieren Sie von Anfang an klar: Was ist das Ziel des KI-Einsatzes? Welche Vorteile entstehen möglicherweise auch für den einzelnen Mitarbeitenden?
Von isolierten Einzelprojekten ohne strategischen Rahmen ist abzuraten. Stattdessen sollte eine unternehmensweite Richtlinie definiert werden, die festlegt, wie der Einsatz von KI-Anwendungen im Einklang mit den Unternehmenszielen erfolgen soll. So können Mitarbeitende ihre Ideen und Tools an diesen Leitlinien ausrichten.
Rechtliche Unsicherheiten bestehen – das ist unbestritten. Zu den wichtigsten rechtlichen Grundlagen gehören der kommende EU AI Act, das Arbeitsrecht, das Betriebsverfassungsgesetz, die Datenschutz-Grundverordnung (DSGVO) sowie das Urheberrecht. Diese Aspekte müssen sorgfältig abgewogen werden, um Chancen und Risiken in ein ausgewogenes Verhältnis zu bringen.
Klar ist: Langfristig wird sich kein Unternehmen dem Thema KI entziehen können. Der Einsatz von sogenannten Schatten-IT-Lösungen zeigt, dass der Bedarf bereits besteht. Umso wichtiger ist es, proaktiv Maßnahmen zu ergreifen und klare Rahmenbedingungen zu schaffen.
Pflicht seit dem 2. Februar: Sicherstellung der KI-Kompetenz
Seit dem 2. Februar ist es verpflichtend, dass die Mitarbeitenden über ein ausreichendes Maß an KI-Kompetenz verfügen. Ein elementarer Bestandteil zur Sicherstellung der KI-Kompetenz im Umgang mit KI-Anwendungen besteht darin, die Mitarbeitenden zu schulen und zu qualifizieren. Sensibilisierung, Fortbildung und Kompetenzaufbau sind die zentralen Instrumente, um den Wandel erfolgreich zu gestalten – sowohl im Sinne des Unternehmens als auch zum Schutz der Mitarbeitenden.
Gerne unterstützen wir Sie, sollten Sie weitere Informationen zu diesem Thema wünschen oder Ihre Mitarbeiter zum Thema KI schulen wollen!