KI im Unternehmen rechtssicher einsetzen

Künstliche Intelligenz kann Texte entwerfen, Supportanfragen sortieren, Verträge durchsuchen oder Bewerbungen vorprüfen. Rechtlich sind das sehr unterschiedliche Einsätze. Wer KI im Unternehmen rechtssicher einsetzen möchte, sollte deshalb nicht nur das Tool, sondern den konkreten Zweck, die Datenflüsse, die eigene Rolle und die spätere Verwendung des Ergebnisses prüfen.

Eine Freigabe genügt selten für alle Zwecke: Dasselbe Grundmodell kann bei internen Textentwürfen geringe, bei Bewerberauswahl oder Leistungsbewertung dagegen deutlich höhere Risiken haben.

Stand: 21. August 2026. Der EU AI Act gilt stufenweise und wurde zuletzt durch die Verordnung (EU) 2026/1744 geändert. Daneben bleiben unter anderem DSGVO, Arbeits-, Urheber-, Geschäftsgeheimnis- und Vertragsrecht anwendbar. Die Einordnung hängt von Zweck, Funktionen und Einsatzbedingungen ab.

AI Act 2026: Welche Pflichten gelten bereits?

Die KI-Verordnung (EU) 2024/1689 in der konsolidierten Fassung ist seit dem 1. August 2024 in Kraft. Ihre Vorschriften werden jedoch zu unterschiedlichen Zeitpunkten anwendbar. Die Digital-Omnibus-Verordnung (EU) 2026/1744 hat insbesondere den Hochrisiko-Zeitplan und Art. 4 zur KI-Kompetenz geändert.

Zeitpunkt	Wesentliche Stufe
2. Februar 2025	Definitionen, allgemeine Vorschriften, die ursprünglichen Verbote des Art. 5 und die Pflicht zu Maßnahmen für KI-Kompetenz wurden anwendbar.
2. August 2025	Governance-Regeln und Pflichten für Anbieter von General-Purpose-AI-Modellen (GPAI) wurden grundsätzlich anwendbar. Für ältere Modelle bestehen Übergangsregeln.
27. Juli 2026	Die Änderungsverordnung 2026/1744 trat in Kraft. Sie änderte unter anderem Art. 4 und verschob die Hochrisiko-Pflichten.
2. August 2026	Der AI Act wurde im Übrigen weitgehend anwendbar. Insbesondere gelten die Transparenzpflichten des Art. 50; das Aufsichts- und Durchsetzungsregime ist angelaufen.
2. Dezember 2026	Neue Verbote zu bestimmten nicht einvernehmlichen intimen KI-Inhalten und Darstellungen sexuellen Kindesmissbrauchs werden anwendbar. Für bestimmte schon vor dem 2. August 2026 in Verkehr gebrachte Systeme endet zudem die Übergangsfrist zur technischen Inhaltsmarkierung.
2. Dezember 2027	Die Hochrisiko-Regeln für Systeme nach Art. 6 Abs. 2 und Anhang III werden grundsätzlich anwendbar.
2. August 2028	Die Hochrisiko-Regeln für KI als Produkt oder Sicherheitskomponente nach Art. 6 Abs. 1 und Anhang I werden grundsätzlich anwendbar.

Die späteren Hochrisiko-Termine sind kein allgemeiner Aufschub. Verbote, KI-Kompetenz, Transparenzanforderungen und andere Gesetze gelten schon heute; auch künftige Hochrisiko-Systeme sollten wegen des nötigen Vorlaufs früh vorbereitet werden.

Zuerst die eigene Rolle bestimmen

Der AI Act verteilt Pflichten entlang der Wertschöpfungskette. Eine pauschale Aussage, der Kunde eines KI-Tools trage stets die gesamte Verantwortung, ist ebenso ungenau wie die Annahme, allein der Hersteller sei zuständig.

Anbieter ist insbesondere, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt.
Betreiber ist ein Unternehmen regelmäßig dann, wenn es ein KI-System in eigener Verantwortung beruflich einsetzt.
Daneben kennt die Verordnung unter anderem Importeure, Händler, Bevollmächtigte und Produkthersteller.

Wer einen allgemein verfügbaren KI-Dienst für Textentwürfe nutzt, ist häufig Betreiber. Durch ein Angebot unter eigener Marke, eine wesentliche Veränderung oder bestimmte Zweckänderungen können jedoch Anbieterpflichten entstehen. Maßgeblich ist der tatsächliche Einsatz, nicht nur die Vertragsbezeichnung. Verträge sollten die gesetzlich verteilten Informations- und Mitwirkungspflichten abbilden.

Risikoklasse und konkreten Zweck einordnen

Nicht jedes KI-Tool ist „hochriskant“. Für die Einordnung kommt es besonders auf den vorgesehenen Zweck an.

Verbotene KI-Praktiken

Bereits anwendbar sind unter anderem Verbote bestimmter manipulativer oder täuschender Praktiken, bestimmter Formen des Social Scoring, des ungezielten Auslesens von Internet- oder Videoaufnahmen zum Aufbau von Gesichtserkennungsdatenbanken sowie der Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, soweit keine eng begrenzte Ausnahme greift. Die genaue Verbotsliste und ihre Voraussetzungen stehen in Art. 5; nicht jede unerwünschte oder unfaire Nutzung erfüllt automatisch einen Verbotstatbestand.

Die 2026 neu ergänzten Verbote bestimmter nicht einvernehmlicher intimer KI-Darstellungen und Darstellungen sexuellen Kindesmissbrauchs gelten nach der Übergangsregel erst ab dem 2. Dezember 2026.

Hochrisiko-Systeme

Zwei Wege führen in die Hochrisiko-Kategorie:

KI ist Produkt oder Sicherheitskomponente eines regulierten Produkts aus Anhang I und benötigt eine dort vorgesehene Drittstellen-Konformitätsbewertung.
Das System dient einem in Anhang III genannten sensiblen Zweck, etwa bestimmten Entscheidungen in Beschäftigung, Bildung, Kreditwürdigkeit, kritischer Infrastruktur oder bei wesentlichen Dienstleistungen.

Nicht jedes HR-Tool und nicht jede Software in einem regulierten Produkt fällt automatisch darunter. Ein Tool, das Stellenanzeigen sprachlich glättet, ist anders einzuordnen als ein System, das Bewerber bewertet. Zweckbestimmung und Art. 6 sind entscheidend; die entsprechenden Pflichten gelten grundsätzlich ab 2. Dezember 2027 beziehungsweise 2. August 2028.

Systeme mit besonderen Transparenzpflichten

Art. 50 gilt seit dem 2. August 2026. Die Pflichten unterscheiden zwischen Anbietern und Betreibern:

Anbieter direkt interagierender Systeme müssen grundsätzlich dafür sorgen, dass Menschen erkennen, wenn sie mit KI statt mit einem Menschen kommunizieren, sofern dies nicht ohnehin offensichtlich ist.
Anbieter generativer Systeme müssen bestimmte synthetische Inhalte technisch maschinenlesbar markieren, soweit keine Ausnahme greift.
Betreiber müssen Personen über eingesetzte Emotions- oder biometrische Kategorisierungssysteme informieren.
Betreiber müssen von ihnen eingesetzte Deepfakes grundsätzlich als künstlich erzeugt oder manipuliert offenlegen.
Bei KI-generierten oder manipulierten Texten zu Angelegenheiten von öffentlichem Interesse kann eine Offenlegungspflicht bestehen; eine gesetzliche Ausnahme berücksichtigt eine echte menschliche Prüfung oder redaktionelle Kontrolle mit redaktioneller Verantwortung.

Damit muss nicht jeder KI-unterstützte interne Entwurf oder Marketingtext pauschal gekennzeichnet werden. Inhalt, Veröffentlichungszweck, menschliche Bearbeitung und die konkrete Rolle des Unternehmens sind entscheidend.

GPAI ist ein eigenes Regelungsfeld

Pflichten für General-Purpose-AI-Modelle richten sich vor allem an deren Anbieter. Dazu gehören grundsätzlich technische Dokumentation, Informationen für nachgelagerte Anbieter, eine Strategie zur Einhaltung des EU-Urheberrechts und eine öffentliche Zusammenfassung der Trainingsinhalte. Für Modelle mit systemischem Risiko gelten zusätzliche Anforderungen.

Ein Unternehmen wird nicht allein dadurch zum GPAI-Modellanbieter, dass Beschäftigte einen Chatbot nutzen. Wer ein Modell selbst anbietet oder als nachgelagerter Anbieter in ein eigenes KI-System integriert, muss seine Rolle genauer prüfen. Der freiwillige GPAI-Verhaltenskodex kann Modellanbietern als Instrument zum Nachweis der Pflichterfüllung dienen, ersetzt aber nicht die individuelle Einordnung.

KI-Kompetenz: Schulung bleibt eine aktuelle Pflicht

Art. 4 ist seit dem 2. Februar 2025 anwendbar. In der seit Juli 2026 geltenden Fassung müssen Anbieter und Betreiber Maßnahmen ergreifen, welche die Entwicklung von KI-Kompetenz bei Beschäftigten und weiteren für sie handelnden Personen unterstützen. Zu berücksichtigen sind Vorkenntnisse, Erfahrung, Ausbildung, Einsatzkontext und die betroffenen Personengruppen. Ein bestimmtes Kompetenzniveau jeder einzelnen Person muss nicht garantiert werden.

Die Vorschrift verlangt weder ein bestimmtes Zertifikat noch für jedes Unternehmen dasselbe Seminar. Praktisch sinnvoll ist ein rollenbezogenes Konzept:

Basisschulung zu Fehlern, Halluzinationen, Datenschutz und vertraulichen Informationen für alle Nutzer;
vertiefte Schulung für Freigabeverantwortliche, Entwicklung, Datenschutz, Informationssicherheit und Einkauf;
fallbezogene Regeln für sensible Bereiche wie Personal, Gesundheit, Finanzen oder Kundenkommunikation;
dokumentierte Wiederholung, wenn sich Tool, Zweck oder Risikolage wesentlich ändern.

Die Maßnahmen sollten zum tatsächlichen Einsatz passen; Art. 4 verlangt aber keine Erfolgsgarantie für das Verhalten jedes Mitarbeiters.

DSGVO: Nicht das Tool, sondern der Datenfluss entscheidet

Der AI Act ersetzt die DSGVO nicht. Sobald personenbezogene Daten verarbeitet werden, sollten Unternehmen den Datenfluss vom Prompt bis zur Löschung nachvollziehen:

Welche Daten werden eingegeben oder automatisch abgerufen?
An welche Anbieter, Unterauftragnehmer und Standorte werden sie übertragen?
Wie lange werden Eingaben, Ausgaben und Protokolle gespeichert?
Nutzt der Anbieter Inhalte für eigene Zwecke oder zum Modelltraining?
Wer erhält die Ergebnisse und wofür werden sie weiterverwendet?

Danach sind insbesondere Rechtsgrundlage, Zweckbindung, Datenminimierung, Transparenz, Betroffenenrechte, Sicherheit und mögliche Drittlandtransfers zu prüfen. Ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO kann erforderlich sein, wenn der Dienstleister weisungsgebunden verarbeitet. Verwendet er Daten für eigene Zwecke, kann die Rollenverteilung anders ausfallen; ein standardmäßig angebotener „AVV“ beantwortet diese Frage nicht automatisch.

Bei voraussichtlich hohem Risiko kann eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich sein. Art. 22 ist zusätzlich bei ausschließlich automatisierten Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung zu prüfen; eine nur formale menschliche Bestätigung genügt nicht zwingend.

Mehr zu Rechtsgrundlagen, Auftragsverarbeitung und Betroffenenrechten finden Sie unter Datenschutzrecht.

KI im Beschäftigungsverhältnis und Beteiligung des Betriebsrats

Bewerber- und Beschäftigtendaten verdienen besondere Vorsicht. Neben DSGVO und § 26 BDSG können Diskriminierungsrisiken, arbeitsrechtliche Informationspflichten und Mitbestimmungsrechte eine Rolle spielen. § 87 Abs. 1 Nr. 6 BetrVG sieht Mitbestimmung bei Einführung und Anwendung technischer Einrichtungen vor, die dazu bestimmt sind, Verhalten oder Leistung von Arbeitnehmern zu überwachen. Ob ein konkreter KI-Einsatz darunter fällt oder weitere Beteiligungsrechte auslöst, hängt von seinen Funktionen ab.

Der Betriebsrat sollte daher frühzeitig einbezogen werden, wenn ein System beispielsweise Leistung auswertet, Kommunikation analysiert, Schichten zuteilt oder Personalentscheidungen vorbereitet. Auch eine datenschutzrechtlich mögliche Verarbeitung ist nicht automatisch mitbestimmungsfrei. Umgekehrt ist nicht jedes allgemeine Schreibwerkzeug allein wegen seiner KI-Funktion mitbestimmungspflichtig.

Für Emotionserkennung am Arbeitsplatz gilt zusätzlich das bereits anwendbare Verbot des AI Act, soweit nicht eine dort vorgesehene medizinische oder sicherheitsbezogene Ausnahme einschlägig ist.

Urheberrecht und Geschäftsgeheimnisse schützen

Bei generativer KI sind Eingabe und Ausgabe getrennt zu prüfen. Prompts oder hochgeladene Dokumente können urheberrechtlich geschützte Inhalte, personenbezogene Daten oder Geschäftsgeheimnisse enthalten. Vor dem Upload ist zu klären, ob die Nutzung erlaubt ist und ob Anbieterbedingungen, technische Einstellungen und Vertraulichkeitszusagen den Schutz tatsächlich sichern.

Ausgaben können geschützte Bestandteile Dritter übernehmen. Zugleich ist ein rein maschinell erzeugtes Ergebnis nicht allein wegen seines Aufwands automatisch ein urheberrechtlich geschütztes Werk; für den Schutz kommt es auf eine menschliche persönliche geistige Schöpfung an. Bei umfangreicher menschlicher Gestaltung kann die Bewertung anders ausfallen. Eine Ähnlichkeits-, Quellen- oder Lizenzprüfung bleibt bei wichtigen Veröffentlichungen sinnvoll.

Geschäftsgeheimnisse setzen nach dem Geschäftsgeheimnisgesetz angemessene Geheimhaltungsmaßnahmen voraus. Freie Consumer-Konten, ungeprüfte Trainingsnutzung oder breite interne Zugriffe können dazu im Widerspruch stehen. Vertraulichkeitsklassen und klare Upload-Verbote sind deshalb nicht nur IT-Regeln. Einen Überblick bietet die Seite Urheberrecht.

Verträge mit KI-Anbietern: Verantwortung sinnvoll verteilen

Ein Vertrag sollte zum tatsächlichen Daten- und Leistungsmodell passen. Relevante Punkte sind insbesondere:

Leistungsbeschreibung, vorgesehener Zweck und zugesagte Modellversionen;
Rollen nach AI Act und DSGVO sowie erforderliche Dokumentation;
Nutzung von Eingaben und Ausgaben für Training oder andere Eigenzwecke;
Speicherfristen, Löschung, Unterauftragnehmer und Drittlandtransfers;
Vertraulichkeit, Informationssicherheit und Meldung von Vorfällen;
Nutzungsrechte an Eingaben und Ausgaben sowie Umgang mit Ansprüchen Dritter;
Qualitätsgrenzen, menschliche Kontrolle, Support und Änderungsinformationen;
Audit-, Auskunfts-, Exit- und Datenexportmöglichkeiten.

Haftungs- oder Freistellungsklauseln verteilen Risiken zwischen den Vertragsparteien, machen einen rechtswidrigen Einsatz aber nicht rechtmäßig. Ein Fehlerhinweis ersetzt nicht die erforderliche Prüfung; zugleich bleibt der Anbieter für seine eigenen Pflichten verantwortlich.

Shadow AI kontrollieren, ohne sinnvolle Nutzung zu verhindern

Wenn keine freigegebenen Werkzeuge vorhanden sind, nutzen Beschäftigte möglicherweise private Konten oder nicht geprüfte Dienste. Dadurch fehlen Transparenz über Datenflüsse, Verträge und gespeicherte Inhalte. Ein bloßes Totalverbot löst das organisatorische Problem nicht zwingend.

Eine praktikable KI-Richtlinie sollte festlegen:

zugelassene Tools, Konten und Anwendungsfälle;
verbotene oder genehmigungspflichtige Daten und Zwecke;
Anforderungen an Faktenprüfung, menschliche Freigabe und Kennzeichnung;
Dokumentation bei wichtigen Entscheidungen;
Ansprechpartner, Freigabeweg und Meldung von Fehlern oder Datenabflüssen;
Folgen bei neuen Funktionen, Modellen oder Schnittstellen.

Technische Kontrollen sollten verhältnismäßig ausgestaltet und mit Datenschutz, Informationssicherheit sowie gegebenenfalls dem Betriebsrat abgestimmt werden.

Checkliste: KI im Unternehmen in acht Schritten einführen

KI-Inventar erstellen: Tools, Modelle, Schnittstellen, Nutzer, Zwecke, Datenarten und Verantwortliche erfassen.
Rolle bestimmen: Für jeden Einsatz Anbieter-, Betreiber- oder weitere Rollen nach AI Act und DSGVO dokumentieren.
Risiko klassifizieren: Verbote, Art. 50, GPAI-Bezug und mögliche Hochrisiko-Einstufung getrennt prüfen.
Datenfluss bewerten: Rechtsgrundlage, Speicherorte, Training, Empfänger, Drittlandtransfer und Löschung klären.
Anbieter prüfen: Dokumentation, Sicherheit, Vertragsbedingungen, Änderungen und Exit bewerten.
Freigabe festlegen: Sensible Anwendungen vor dem Start durch die zuständigen Funktionen prüfen lassen.
Menschen befähigen: Rollenbezogene KI-Kompetenz, Richtlinie und echte Kontrollmöglichkeiten schaffen.
Überwachen: Fehler, Vorfälle, Beschwerden, Modelländerungen und neue Zwecke erfassen und neu bewerten.

Ein zentrales Register mit verantwortlicher Person und nächstem Prüftermin verhindert, dass ein freigegebener Test unbemerkt zu einem produktiven Entscheidungssystem wird.

Häufige Fragen zum rechtssicheren KI-Einsatz

Ist ChatGPT oder ein anderer Textgenerator automatisch Hochrisiko-KI?

Nein. Entscheidend ist der konkrete vorgesehene Zweck. Ein allgemeiner Schreibassistent ist regelmäßig anders zu bewerten als ein System, das Bewerber auswählt oder die Kreditwürdigkeit natürlicher Personen bewertet. Weitere Gesetze gelten unabhängig von der Hochrisiko-Einstufung.

Ist eine schriftliche KI-Richtlinie gesetzlich immer vorgeschrieben?

Der AI Act schreibt nicht jedem Unternehmen pauschal ein Dokument mit dem Titel „KI-Richtlinie“ vor. Eine dokumentierte Regelung hilft jedoch, KI-Kompetenz, Freigaben, Datenschutz, Informationssicherheit und Kontrollen nachvollziehbar umzusetzen.

Darf ich Kundendaten eingeben, wenn der Anbieter einen AV-Vertrag anbietet?

Nicht allein deshalb. Zusätzlich sind Zweck, Rechtsgrundlage, erforderlicher Datenumfang, technische Einstellungen, Training, Unterauftragnehmer, Transfers, Löschung und Sicherheit zu prüfen.

Muss jeder KI-generierte Text gekennzeichnet werden?

Nein. Art. 50 enthält konkrete, rollen- und inhaltsbezogene Pflichten. Besonders relevant sind direkte KI-Interaktion, Deepfakes und bestimmte Texte zu Angelegenheiten von öffentlichem Interesse. Daneben können andere Transparenz- oder Irreführungsregeln greifen.

Fazit

Ein rechtssicherer KI-Einsatz beginnt mit einem vollständigen Inventar und einer zweckbezogenen Prüfung. Unternehmen sollten Rollen, Risikoklasse, Datenflüsse und Verträge vor der Freigabe klären, Beschäftigte passend qualifizieren und das System während des Betriebs überwachen. Dabei liegt die Verantwortung nicht pauschal nur bei einer Partei: Anbieter, Betreiber und weitere Akteure müssen ihre jeweiligen Pflichten erfüllen und verlässliche Schnittstellen schaffen.