KI & Recht7 Min. Lesezeit

KI im Betrieb: Was darf in ChatGPT und Co., und wer behält die Kontrolle?

Welche Daten in KI-Werkzeuge dürfen, welche nicht, wer Ergebnisse prüft und was die KI-Verordnung bei der KI-Kompetenz verlangt. Mit Regel auf einer Seite.

Blick von oben auf eine Werkbank aus hellem Holz: Zwei Hände tippen auf einem aufgeklappten Laptop, daneben liegen Stechbeitel, Schraubzwinge, Hobel, ein Notizbuch mit handschriftlichen Notizen und eine Skizze.

Ein Mitarbeiter kopiert abends die Beschwerde eines Kunden in ein KI-Werkzeug und schreibt dazu: „Mach das freundlicher.“ Mit Name, Adresse und der Rechnungsnummer. Ein anderer lässt sich aus dem Leistungsverzeichnis eines Auftraggebers eine Zusammenfassung schreiben. Beide meinen es gut. Beide nutzen ihr privates Konto auf dem eigenen Handy. Und niemand im Betrieb weiß davon.

Dieser Artikel ist für kleine Betriebe aus Handwerk, Bau und Dienstleistung, für Hausverwaltungen und für Selbstständige, die KI nutzen oder nutzen wollen. Es geht nicht darum, welches Werkzeug am meisten kann. Es geht darum, was hineindarf, wer die Ergebnisse prüft und was du dafür festhalten solltest.

Kurz gesagt

  • Erst Zweck und Zugang klären: Wofür wird KI genutzt, mit welchem Konto, und werden die Eingaben zum Training verwendet? Laut DSK sind Anwendungen vorzuziehen, die das nicht tun.
  • Personenbezogene Daten bleiben draußen, solange nichts anderes geklärt ist. Namen löschen reicht laut DSK oft nicht, weil der Bezug aus dem Zusammenhang erkennbar bleibt.
  • Ein Mensch prüft und entscheidet: KI liefert Entwürfe. Was rausgeht oder entschieden wird, liest und verantwortet jemand aus dem Betrieb.
  • KI-Kompetenz ist Pflicht, auch im kleinen Betrieb: Laut Art. 4 KI-Verordnung musst du Maßnahmen ergreifen. Ein Zertifikat ist laut Bundesnetzagentur nicht vorgeschrieben.
  • Eine Seite reicht oft: erlaubte Werkzeuge, verbotene Inhalte, wer prüft, wen man fragt. Schriftlich, mit Datum.

Zuerst: Wofür, mit welchem Zugang, mit welchen Einstellungen?

Die Datenschutzkonferenz (DSK), also die Runde der deutschen Datenschutzaufsichtsbehörden, hat 2024 eine Orientierungshilfe zu KI und Datenschutz veröffentlicht. Sie richtet sich ausdrücklich an Betriebe und Behörden, die KI einsetzen. Daraus lassen sich vier Fragen ableiten, die du vor allem anderen klärst.

Wofür? Laut DSK sollst du vorher festlegen, für welche Aufgaben die KI genutzt wird. Zum Beispiel: Texte für die Website entwerfen, allgemeine Mails glätten, Leistungsbeschreibungen aus Stichpunkten formulieren. Nicht: „für alles, was anfällt“.

Mit welchem Konto? Laut DSK sollen Arbeitgeber für die berufliche Nutzung Geräte und Konten bereitstellen. Beschäftigte sollen nicht mit privaten Accounts arbeiten müssen, weil sonst Profile zu einzelnen Personen entstehen können. Wenn eine E-Mail-Adresse verlangt wird, empfiehlt die DSK eine Funktionsadresse des Betriebs.

Wird mit deinen Eingaben trainiert? Laut DSK ist zu prüfen, ob Ein- und Ausgaben zum Training verwendet werden und ob du das ausschließen kannst. Anwendungen, die das nicht tun, seien vorzuziehen. Bei vielen Anbietern hängt das vom Tarif und von den Einstellungen ab. Schau also nach, statt es anzunehmen. Die DSK empfiehlt außerdem, bei betrieblichen Konten gleich beim Einrichten das Training abzuschalten und den Verlauf nicht über die Sitzung hinaus zu speichern, wo das möglich ist.

Wer ist der Anbieter? Wenn du ein KI-Werkzeug als Cloud-Dienst nutzt und dabei personenbezogene Daten verarbeitest, besteht laut DSK häufig ein Verhältnis der Auftragsverarbeitung. Dann brauchst du einen Vertrag nach Art. 28 DSGVO mit dem Anbieter. Die DSK weist auch darauf hin, dass bei solchen Diensten oft Daten in Länder außerhalb der EU gehen. Das musst du prüfen, bevor Kundendaten hineinkommen.

Klingt nach viel. Für die meisten kleinen Betriebe ist die einfachste Lösung trotzdem klar: ein betriebliches Konto, Training aus, und keine personenbezogenen Daten hinein.

Was hineindarf und was nicht

Eine Ampel hilft im Alltag mehr als ein langer Text. Hier ein Vorschlag, den du an deinen Betrieb anpasst.

Grün, darf rein:

  • Stichpunkte zu einer Leistung ohne Bezug zu einem Kunden, etwa „Altbelag entfernen, Untergrund prüfen, Fliesen verlegen“
  • allgemeine Texte für Website, Aushang oder Social-Media-Beiträge
  • Fragen zu Formulierungen, Gliederung, Rechtschreibung
  • Übersetzung allgemeiner Hinweise, zum Beispiel einer Hausordnung

Gelb, nur nach Rücksprache:

  • Texte, in denen du Namen durch Platzhalter ersetzt hast. Laut DSK reicht es regelmäßig nicht, Namen und Anschriften zu entfernen, weil sich der Bezug zu einer Person oft aus dem Zusammenhang ergibt. Eine Beschwerde über „den Wasserschaden in der Dachwohnung am Montag“ ist in einem kleinen Ort schnell zuzuordnen.
  • Unterlagen von Auftraggebern, etwa Leistungsverzeichnisse oder Pläne. Prüf vorher, ob du sie weitergeben darfst.

Rot, bleibt draußen:

  • Namen, Adressen, Telefonnummern, E-Mails von Kunden, Mietern oder Beschäftigten
  • Fotos aus Wohnungen oder mit Personen darauf
  • Gesundheitsdaten, zum Beispiel eine Krankmeldung. Laut DSK gehören sie zu den besonderen Kategorien nach Art. 9 DSGVO, deren Verarbeitung grundsätzlich verboten ist und nur ausnahmsweise erlaubt.
  • Personalsachen wie Abmahnungen, Zeugnisse oder Bewerbungen
  • Zugangsdaten und Passwörter
  • deine Kalkulation, Einkaufspreise und Konditionen

Zum letzten Punkt: Laut § 2 GeschGehG ist eine Information nur dann als Geschäftsgeheimnis geschützt, wenn du den Umständen nach angemessene Maßnahmen zur Geheimhaltung triffst. Wer seine Kalkulation ohne Prüfung in einen offenen KI-Dienst kopiert, sollte wenigstens wissen, was der Anbieter damit macht.

Wer behält die Kontrolle?

Ein Mensch prüft jedes Ergebnis. Laut DSK stellen Anbieter von Sprachmodellen häufig selbst klar, dass die erzeugten Texte keinen Anspruch auf Richtigkeit haben. Ergebnisse mit Bezug zu Personen müssen laut DSK vor der Weiterverarbeitung überprüft werden. Für dich heißt das: Kein KI-Text geht ungelesen an einen Kunden. Zahlen, Fristen, Preise und Zusagen prüfst du immer selbst.

Ein Mensch entscheidet. Laut DSK dürfen nach Art. 22 DSGVO Entscheidungen mit Rechtswirkung grundsätzlich nur von Menschen getroffen werden. Die DSK nennt als Beispiel eine KI, die Bewerbungen auswertet und selbstständig zu Gesprächen einlädt. Das sei ein Verstoß. Und laut DSK reicht es nicht, wenn ein Mensch nur formal beteiligt ist und den Vorschlag aus Zeitdruck einfach übernimmt. Wer entscheidet, muss wirklich entscheiden können.

Eine Person ist zuständig. Leg fest, wer im Betrieb Fragen zur KI beantwortet und neue Werkzeuge freigibt. Im kleinen Betrieb ist das oft der Inhaber selbst. Wenn ihr einen Datenschutzbeauftragten oder einen Betriebsrat habt, empfiehlt die DSK, beide früh einzubinden.

KI-Kompetenz: was Art. 4 KI-Verordnung verlangt

Laut Art. 4 der EU-KI-Verordnung müssen Betreiber von KI-Systemen Maßnahmen ergreifen, die die KI-Kompetenz ihres Personals fördern. Betreiber ist, wer KI im Betrieb nutzt, also auch der Malerbetrieb mit einem KI-Werkzeug für Texte. Die Vorschrift wurde 2026 geändert. In der aktuellen Fassung heißt es ausdrücklich, dass kein bestimmtes Niveau an KI-Kompetenz garantiert werden muss.

Laut Bundesnetzagentur gilt die Pflicht unabhängig von Branche und Größe des Betriebs. Ein bestimmtes Format schreibt die Verordnung nicht vor, und eine Zertifizierungspflicht gibt es laut Bundesnetzagentur nicht. Die Maßnahmen können intern oder extern stattfinden. Die Bundesnetzagentur empfiehlt, sie zu dokumentieren: welche Maßnahme, welcher Inhalt, wie lange und wer teilgenommen hat.

Für einen kleinen Betrieb kann das so aussehen: Du gehst die KI-Regel in einer Teambesprechung durch, zeigst an zwei Beispielen, wo KI Fehler macht, und notierst Datum und Teilnehmer. Was die KI-Verordnung sonst noch verlangt, etwa bei Chatbots auf der Website, steht im Artikel KI-Verordnung: Was kleine Unternehmen wissen müssen.

Hinweis: Dieser Artikel gibt einen Überblick und ersetzt keine Rechtsberatung. Stand: November 2026.

Deine KI-Regel auf einer Seite

Laut DSK sollten Betriebe klare interne Regeln erteilen und dokumentieren, ob, wofür und mit welchem Werkzeug KI genutzt werden darf. Konkrete Beispiele für Erlaubtes und Verbotenes empfiehlt sie ausdrücklich. Diese Punkte gehören auf deine Seite:

  • Erlaubte Werkzeuge: Name des Werkzeugs und welcher Zugang, nur betriebliche Konten
  • Einstellungen: Training mit Eingaben aus, Verlauf nach Möglichkeit aus
  • Wofür: zwei bis fünf erlaubte Aufgaben mit Beispiel
  • Was nie hineinkommt: die rote Liste von oben
  • Prüfen: Jeder KI-Text wird vor dem Versand gelesen, Zahlen und Zusagen werden immer geprüft
  • Entscheiden: KI entscheidet nichts über Kunden, Mieter oder Beschäftigte
  • Ansprechpartner: wer Fragen beantwortet und neue Werkzeuge freigibt
  • Datum und Unterschrift: und wann ihr die Regel wieder anseht

Schritt für Schritt in einer Woche

  1. Bestand aufnehmen: Wer nutzt welches Werkzeug wofür, mit welchem Konto? Ohne Vorwurf fragen, sonst bekommst du keine ehrlichen Antworten.
  2. Vorhandenes prüfen: Hast du schon Microsoft 365 oder eine Branchensoftware mit KI-Funktionen? Dann schau dort zuerst nach den Datenschutzregeln, bevor du etwas Neues einführst.
  3. Ein Werkzeug auswählen: betriebliches Konto einrichten, Training und Verlauf in den Einstellungen prüfen, bei personenbezogenen Daten den Vertrag zur Auftragsverarbeitung klären.
  4. Regel schreiben: die Seite von oben, in deinen Worten.
  5. Mit dem Team durchgehen: kurz, mit Beispielen aus eurem Alltag. Datum und Teilnehmer notieren.
  6. Nach ein paar Wochen nachfragen: Wo hakt es, was fehlt in der Regel? Anpassen.

Und wenn du merkst, dass KI in deinem Betrieb gerade gar nicht gebraucht wird: auch gut. Dann schreib das in die Regel. Dann ist wenigstens klar, dass private Konten für Betriebsdaten tabu sind.

Wie wir helfen können

Wir schauen mit dir zuerst, wofür KI in deinem Betrieb wirklich hilft und was du schon hast, zum Beispiel in Microsoft 365. Wenn eine einfache Regel und die richtigen Einstellungen reichen, sagen wir dir das. Im Bereich Künstliche Intelligenz beraten wir dich bei der Auswahl passender Werkzeuge, beim Aufsetzen betrieblicher Zugänge und beim Formulieren deiner KI-Regel. Beim Datenschutz und beim verantwortungsvollen KI-Einsatz unterstützen wir dich, eine Rechtsberatung ersetzen wir nicht. Wenn KI danach in Abläufe eingebunden werden soll, etwa für Entwürfe aus Anfragen, findest du mehr im Bereich Automatisierung.

Im kostenlosen Erstgespräch schauen wir gemeinsam, welcher Schritt bei dir zuerst sinnvoll ist. Wir melden uns zeitnah bei dir, so wie du es dir wünschst: per E-Mail oder telefonisch.

#Künstliche Intelligenz#Datenschutz#KI-Verordnung#KI-Richtlinie#Handwerk

Quellen & weiterführende Links

  1. Datenschutzkonferenz (DSK): Orientierungshilfe Künstliche Intelligenz und Datenschutz, Version 1.0 vom 6. Mai 2024 datenschutzkonferenz-online.de
  2. KI-Verordnung, Art. 4: KI-Kompetenz (AI Act Service Desk der EU-Kommission) ai-act-service-desk.ec.europa.eu
  3. Bundesnetzagentur: KI-Kompetenz nach Art. 4 KI-Verordnung bundesnetzagentur.de
  4. § 2 GeschGehG: Begriffsbestimmungen (Gesetze im Internet) gesetze-im-internet.de