Einsatz künstlicher Intelligenz – wie viel Transparenz ist Pflicht?

1. Stand heute zum Einsatz Künstlicher Intelligenz

Aktuell gibt es keine ausdrückliche gesetzliche Pflicht, fachlich geprüfte Texte, Berichte oder Präsentationen, die durch Einsatz Künstlicher Intelligenz erstellt wurden, als „KI‑erstellt“ zu kennzeichnen. Weder die Datenschutz‑Grundverordnung (DSGVO) noch das Bundesdatenschutzgesetz (BDSG) verlangen einen solchen Hinweis, solange eine natürliche Person den KI‑Output eigenverantwortlich prüft, freigibt und die dabei eingesetzten Prozesse ordnungsgemäß dokumentiert.

Diese Rechenschafts‑ und Dokumentationspflicht folgt aus Artikel 5 Absatz 2 DSGVO. In ihrer „Orientierungshilfe KI & Datenschutz“ vom Mai 2024 empfiehlt die Datenschutzkonferenz zwar, intern genau festzuhalten, welche Tools genutzt werden, welche Daten hineinfließen und welche Prüfschritte stattfinden – eine Kennzeichnung nach außen fordert die Aufsicht jedoch nicht.

2. Der Blick nach vorn – was der EU‑AI‑Act 2026 bringt

Ab dem 2. August 2026 gelten die Transparenzvorgaben des EU‑AI‑Acts. Kernstück ist Artikel 50, der in vier Konstellationen eine Kennzeichnung vorschreibt. Erstens muss für Nutzerinnen und Nutzer unmissverständlich erkennbar sein, wenn sie mit einem Chatbot oder Avatar interagieren. Zweitens müssen synthetische Audio‑, Video‑, Bild‑ und Textinhalte, die ohne nennenswerte menschliche Kontrolle veröffentlicht werden, maschinen‑ und menschenlesbar markiert sein – etwa per Wasserzeichen oder Metadaten‑Tag. Drittens verlangt der Gesetzgeber eine Offenlegung, sobald Deepfakes oder künstlich veränderte Aufnahmen verbreitet werden. Viertens sind Betroffene zu informieren, wenn Systeme Emotionen oder biometrische Merkmale analysieren. Für klassisch erstellte Geschäftsdokumente, Newsletter oder Verträge hingegen bleibt alles wie gehabt: Wer den Entwurf eigenhändig prüft und verantwortet, braucht – selbst nach dem AI‑Act – kein externes Label.

3. Gehört der Einsatz Künstlicher Intelligenz in die AGB?

Juristisch zwingend ist ein Hinweis in den Allgemeinen Geschäftsbedingungen (AGB) nicht. Weder das Bürgerliche Gesetzbuch (BGB) noch datenschutzrechtliche Vorschriften fordern, dass Sie Ihre Kundinnen und Kunden gesondert auf digitale Assistenzsysteme hinweisen. Gleichwohl kann eine kurze, verständlich formulierte Klausel einen Vertrauensvorsprung schaffen und spätere Anpassungen an die AI‑Act‑Pflichten erleichtern. Entscheidend ist, dass die Formulierung transparent bleibt und keinen versteckten Haftungsausschluss enthält, der an § 307 BGB scheitern könnte.

Eine kompakte Formulierung könnte beispielsweise lauten:

„Zur Effizienz‑ und Qualitätssicherung setzen wir punktuell Software auf Basis künstlicher Intelligenz ein, beispielsweise für Recherche‑ oder Texterstellungsprozesse. Sämtliche Ergebnisse werden vor ihrer Verwendung von qualifiziertem Personal geprüft; automatisierte Einzelfallentscheidungen im Sinne von Artikel 22 DSGVO finden nicht statt.“

Sollten personenbezogene Daten an externe KI‑Dienste übermittelt werden, empfiehlt es sich, die Klausel um einen Satz zu Auftragsverarbeitung und etwaigen Drittstaatentransfers zu ergänzen.

4. Praktische Empfehlungen zum Einsatz Künstlicher Intelligenz

Unabhängig davon, ob Sie eine AGB‑Klausel aufnehmen, sollten Sie schon heute ein übersichtliches Register über alle genutzten KI‑Tools führen: Welchem Zweck dienen sie, mit welchen Daten werden sie gefüttert und welcher Freigabeprozess stellt die Qualität sicher? Legen Sie außerdem eine verbindliche Prüfroutine fest, etwa ein Vier‑Augen‑Prinzip, um Halluzinationen oder sachliche Fehler auszuschließen. Wer bereits jetzt Inhalte ungeprüft automatisiert veröffentlicht, sollte bis 2026 ein transparentes Label‑System planen. Schließlich empfiehlt es sich, das Team zu schulen und ausdrücklich darauf hinzuweisen, dass sensible Daten nicht unbedacht in öffentliche Chatbots eingegeben werden dürfen.

Fazit

Bis auf Weiteres gilt: Fachlich geprüfte KI‑Ergebnisse müssen weder als solche gekennzeichnet noch in den AGB explizit erwähnt werden. Mit dem EU‑AI‑Act rücken jedoch bestimmte Szenarien in den Fokus, bei denen ein Label unvermeidbar wird – insbesondere interaktive Chatbots und unverändert veröffentlichte synthetische Medien. Wer heute seine Dokumentation sauber führt und durch eine transparente AGB‑Klausel Vertrauen schafft, geht gut vorbereitet in die nächste Regulierungsrunde.

Wünschen Sie sich weitere Informationen oder eine individuelle Beratung? Dann kontaktieren Sie uns!