Vor dem Einsatz von KI-Werkzeugen sind zwei Fragen getrennt zu klären: ob die Verarbeitung der Daten nach DSGVO zulässig ist, und was der Anbieter vertraglich mit den Eingaben macht. Kundendaten, Bewerbungsunterlagen, Gesundheitsdaten und Zugangsdaten gehören in kein Eingabefeld. Seit Februar 2025 verlangt Artikel 4 der EU-KI-Verordnung zudem Maßnahmen zur KI-Kompetenz der Belegschaft.
KI & Tools
KI-Werkzeuge im Unternehmen: Was du eingeben darfst
Das Wichtigste in Kürze
- Der Praxistest: Würdest du diesen Text einem externen Dienstleister ohne Vertraulichkeitsvereinbarung schicken?
- Ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO ist je Anbieter und Tarif zu prüfen, nicht zu unterstellen.
- Artikel 4 der KI-Verordnung verpflichtet seit dem 2. Februar 2025 auch Betreiber – also jedes einsetzende Unternehmen.
- Das größere Risiko sind die Ausgaben: erfundene Quellen, die ungeprüft veröffentlicht werden.
Die Frage, die zu spät gestellt wird
In den meisten Unternehmen sind KI-Werkzeuge längst im Einsatz, bevor jemand geklärt hat, was hineingegeben werden darf. Das ist verständlich – der Nutzen ist sofort spürbar, die Frage nach den Daten nicht.
Sie wird dann meist zum falschen Zeitpunkt gestellt: wenn ein Kundenvertrag im kostenlosen Zugang gelandet ist.
Hinweis vorweg: fachliche Einordnung, keine Rechtsberatung. Für die verbindliche Bewertung gehört der Fall zu einer Anwältin oder einem Anwalt.
Zwei Fragen, die getrennt gehören
| Frage 1 | Frage 2 | |
|---|---|---|
| Worum es geht | Darf ich diese Daten überhaupt verarbeiten lassen? | Was macht der Anbieter damit? |
| Geregelt durch | DSGVO – Rechtsgrundlage, Zweckbindung | Vertrag mit dem Anbieter |
| Prüfen bei | Jeder Eingabe mit Personenbezug | Einmal je Werkzeug und Tarif |
Die zweite Frage wird meist zuerst gestellt und die erste gar nicht. Dabei ist die erste die härtere: Auch ein Anbieter mit tadellosem Vertrag ändert nichts daran, dass du für die Verarbeitung eine Grundlage brauchst.
Die Ampel für den Alltag
Eine Einteilung, die sich in der Praxis bewährt hat, weil sie ohne juristische Vorbildung anwendbar ist:
| Grün – unkritisch | Gelb – nur mit geprüftem Zugang | Rot – nicht hineingeben |
|---|---|---|
| Eigene Blogtexte | Interne Konzepte, Angebote | Kundendaten, Namen, Kontaktdaten |
| Öffentliche Leistungsbeschreibungen | Anonymisierte Projektzahlen | Bewerbungsunterlagen, Personalakten |
| Allgemeine Fachfragen | Code aus eigenen Projekten | Gesundheits- und andere besondere Daten |
| Veröffentlichte Zahlen | Entwürfe für Verträge ohne Namen | Zugangsdaten, Schlüssel, Token |
| Texte umformulieren, die du selbst verfasst hast | Interne Auswertungen | Fremde vertrauliche Unterlagen |
Die rechte Spalte ist keine Ermessensfrage. Zugangsdaten gehören auch dann nicht in ein Eingabefeld, wenn der Anbieter noch so vertrauenswürdig ist – das ist eine Frage der Betriebssicherheit, nicht des Datenschutzes.
Der Praxistest für die mittlere Spalte: Würdest du diesen Text einem externen Dienstleister ohne Vertraulichkeitsvereinbarung schicken? Wenn nein, gehört er nicht in einen ungeprüften Zugang.
Was vor dem Einsatz geklärt sein sollte
- Auftragsverarbeitungsvertrag. Sobald personenbezogene Daten verarbeitet werden, braucht es eine Vereinbarung nach Art. 28 DSGVO. Die Geschäftskundenzugänge der großen Anbieter bieten so etwas üblicherweise an – das ist je Anbieter und Tarif zu prüfen, nicht zu unterstellen.
- Nutzung der Eingaben zum Training. Kostenlose und private Zugänge unterscheiden sich hier deutlich von Geschäftskundenangeboten. Diese Einstellung gehört geprüft und dokumentiert.
- Verarbeitungsort. Bei Übermittlung in Drittländer muss die Grundlage benannt werden.
- Eintrag ins Verarbeitungsverzeichnis. Wird regelmäßig vergessen und ist bei einer Prüfung das Erste, wonach gefragt wird.
- Eine schriftliche Regel für die Belegschaft. Eine Seite reicht, siehe unten.
Die Pflicht, die kaum jemand kennt
Über den Datenschutz hinaus gibt es seit dem 2. Februar 2025 eine Vorgabe aus der EU-KI-Verordnung, die in der Diskussion fast völlig untergeht.
Artikel 4 verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen zu ergreifen, um die KI-Kompetenz ihres Personals und anderer Personen zu fördern, die die Systeme bedienen – abgestimmt auf deren technisches Wissen und den konkreten Einsatzzusammenhang.
Betreiber ist dabei jedes Unternehmen, das solche Werkzeuge einsetzt. Die Vorschrift verlangt kein bestimmtes Kompetenzniveau, sondern angemessene Bemühungen – also etwa eine interne Schulung, eine dokumentierte Einweisung oder eine schriftliche Handreichung.
Die zweite Vorschrift aus derselben Verordnung, Artikel 50 zur Transparenz, gilt seit August 2026 und betrifft vor allem veröffentlichte Inhalte. Siehe KI-Kennzeichnung nach dem AI Act.
Eine Regel, die auf eine Seite passt
Was in der Praxis funktioniert, ist kein Richtliniendokument, sondern eine knappe Handreichung, die jeder liest:
KI-Werkzeuge bei uns
Erlaubt: [Werkzeug] im Zugang über das Firmenkonto.
Nicht erlaubt: private Zugänge für dienstliche Inhalte.Niemals eingeben: Kundendaten, Namen, Bewerbungsunterlagen, Gesundheitsdaten, Zugangsdaten, fremde vertrauliche Unterlagen.
Vor dem Einfügen fragen: Würde ich das einem externen Dienstleister ohne Vertraulichkeitsvereinbarung schicken?
Immer: Ergebnisse prüfen, bevor sie nach außen gehen. Zahlen und Quellen an der Primärquelle nachsehen. Die Verantwortung bleibt bei der Person, die es verwendet.
Ansprechpartner bei Unsicherheit: [Name]
Eine Seite, die jeder gelesen hat und die dokumentiert ist, erfüllt den Zweck besser als ein zwanzigseitiges Dokument im Intranet.
Der Fehler, der teurer ist als alle Datenschutzfragen
Bei aller Sorgfalt um Eingaben wird das größere Risiko oft übersehen: die Ausgaben.
Sprachmodelle erzeugen plausibel klingende Quellen, die es nie gegeben hat – korrekt formatierte Studientitel, real existierende Institute, passende Jahreszahlen. Wer das ungeprüft veröffentlicht, haftet dafür unabhängig davon, wer den Text getippt hat.
Dasselbe gilt für Rechts- und Fachaussagen. Ein Modell kennt keine Verantwortung. Mehr dazu unter KI-Texte und Google und KI-Tools im SEO.
Fazit
Die Frage ist nicht, ob KI-Werkzeuge eingesetzt werden – das geschieht ohnehin. Die Frage ist, ob geklärt ist, was hineingegeben werden darf, bevor jemand es herausfinden muss.
Der Aufwand dafür ist überschaubar: einen geprüften Geschäftszugang statt privater Konten, ein Auftragsverarbeitungsvertrag, ein Eintrag im Verarbeitungsverzeichnis und eine Seite Regeln, die jeder gelesen hat. Letzteres erfüllt nebenbei die KI-Kompetenzpflicht aus Artikel 4, die seit Februar 2025 gilt und die kaum jemand auf dem Schirm hat.
Häufige Fragen
Ohne geprüften Geschäftszugang, Auftragsverarbeitungsvertrag und Rechtsgrundlage nach DSGVO nicht. Namen, Kontaktdaten und Vertragsinhalte gehören nicht in ein ungeprüftes Eingabefeld – unabhängig davon, wie vertrauenswürdig der Anbieter wirkt. Keine Rechtsberatung.
Sobald personenbezogene Daten verarbeitet werden, ja – nach Art. 28 DSGVO. Die Geschäftskundenzugänge der großen Anbieter bieten so etwas üblicherweise an, das ist aber je Anbieter und Tarif zu prüfen und nicht zu unterstellen.
Seit dem 2. Februar 2025 müssen Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu fördern, abgestimmt auf dessen Vorwissen und den Einsatzzusammenhang. Ein bestimmtes Niveau wird nicht verlangt, wohl aber angemessene Bemühungen.
Das unterscheidet sich deutlich zwischen kostenlosen, privaten und geschäftlichen Zugängen. Die Einstellung gehört vor dem Einsatz geprüft und dokumentiert – am besten als Teil der internen Regel, welcher Zugang dienstlich zu verwenden ist.
Quellen
- EU AI Act, Artikel 4: KI-Kompetenz (abgerufen am 23.09.2026)
- EU AI Act, Artikel 50: Transparenzpflichten (abgerufen am 23.09.2026)
- Art. 28 DSGVO – Auftragsverarbeiter (abgerufen am 23.09.2026)
Lass uns dreißig Minuten über deine Sichtbarkeit sprechen
Kostenlos, unverbindlich, und mit einer ehrlichen Einschätzung - auch wenn die lautet, dass du mich gerade nicht brauchst.
Erstgespräch vereinbaren