Die KI bekommt nur den einen Schritt
Nehmen wir eine Anfrage über Ihr Kontaktformular. Die KI liest den Text der Anfrage und schreibt einen Antwortentwurf. Umsatzhistorie, Preise oder Notizen aus dem Außendienst braucht sie dafür nicht, also bekommt sie sie nicht. Die Datenschutzkonferenz rät, schon bei der Eingabe auf personenbezogene Daten zu achten. Name und Anschrift zu löschen reicht dafür oft nicht, schreibt sie.
Verkaufen Sie an Kliniken oder Labore, gilt dasselbe. Die KI sieht die Anfrage des Einkaufs. Achten Sie darauf, dass sie keine Service-Tickets mit Patienten- oder Probendaten bekommt; dort muss vorher jemand aussortieren.
Für Ansprechpartner in Kundenfirmen stützen sich Unternehmen meist auf das berechtigte Interesse nach Art. 6 Abs. 1 lit. f DSGVO. Lit. b greift, wenn die Person selbst Vertragspartei ist, etwa ein Einzelunternehmer. Welche Grundlage bei Ihnen trägt, klärt Ihr Datenschutzbeauftragter.
Wo die Daten liegen
Nutzen Sie die KI eines Anbieters in der Cloud, ist dieser Anbieter nach Einschätzung der Datenschutzkonferenz häufig Auftragsverarbeiter. Dann brauchen Sie mit ihm einen Vertrag nach Art. 28 Abs. 3 DSGVO.
- Microsoft 365: Für Kunden mit Sitz in der EU gilt die EU-Datengrenze. Copilot ist laut Microsoft ein Dienst innerhalb dieser Grenze, und Eingaben und Antworten trainieren keine Basismodelle. Achtung: Modelle von Anthropic in Copilot sind derzeit von der EU-Datengrenze ausgenommen. Ihre IT entscheidet, ob sie genutzt werden.
- Google Workspace: Ab Business Standard wählt Ihre IT die Region Europa für gespeicherte Daten. Auch die Verarbeitung in dieser Region gibt es nur in Frontline Plus, Enterprise Plus und Enterprise Essentials Plus.
- Lokales Modell: Läuft die KI auf Ihrem eigenen Server, sind Sie in der Regel allein verantwortlich. Die Datenschutzkonferenz hält solche geschlossenen Systeme für vorzugswürdig. Ein Rechenzentrum in Deutschland ist der Weg dazwischen, mit eigenem Vertrag. Das ist auch der Weg, wenn Sie kein Microsoft 365 haben, sondern Exchange im eigenen Haus.
- Eigene KI im CRM: HubSpot, Dynamics und Brevo haben eigene KI-Funktionen. Für sie gelten dieselben drei Fragen: Wo wird verarbeitet, gilt der Vertrag zur Auftragsverarbeitung auch für die KI, welche Daten bekommt sie. Die Antworten stehen in der Dokumentation des Anbieters, und sie ändern sich. Wir prüfen sie im Check für Ihr System.
Was die KI-Verordnung der EU verlangt
Seit dem 2. Februar 2025 gilt Art. 4 der KI-Verordnung. Wer KI einsetzt, sorgt nach besten Kräften dafür, dass seine Leute genug darüber wissen. Ein Zertifikat ist nach Auskunft der EU-Kommission nicht nötig, eine interne Aufzeichnung der Schulung reicht. Die Behörden prüfen das ab dem 2. August 2026.
Als Hochrisiko nennt die Verordnung unter anderem Systeme, die Beschäftigte überwachen oder ihre Leistung bewerten. Ein Assistent, der Antwortentwürfe schreibt, gehört nach unserer Einschätzung nicht dazu. Wertet er aber einzelne Mitarbeitende aus, kann das anders aussehen.
Art. 50 verlangt, dass Menschen erfahren, wenn sie direkt mit einer KI sprechen, etwa mit einem Chatbot. Eine Mail, die Ihr Innendienst prüft und selbst abschickt, ist nach unserer Einschätzung kein solcher Fall.
Was der Betriebsrat mitbestimmt
Zwei Paragrafen im Betriebsverfassungsgesetz zählen hier. Nach § 90 Abs. 1 Nr. 3 BetrVG unterrichten Sie den Betriebsrat rechtzeitig, wenn Sie Arbeitsabläufe mit KI planen, und legen die Unterlagen vor. Danach beraten Sie die Folgen für die Arbeit mit ihm. Nach § 87 Abs. 1 Nr. 6 bestimmt er mit bei technischen Einrichtungen, die Verhalten oder Leistung der Beschäftigten überwachen sollen. Ein CRM, das festhält, wer welche Anfrage wann beantwortet, fällt in der Praxis oft darunter. Das ist unsere Einschätzung, keine Auskunft im Einzelfall.
Die Datenschutzkonferenz empfiehlt eine Betriebsvereinbarung. Darin stehen vier Dinge:
- der Zweck, etwa Antwortentwürfe für Anfragen
- die Daten, die die KI sieht
- die Auswertungen, die es gibt, nur für Teams
- das Verbot, einzelne Personen über das System zu kontrollieren
So fangen Sie an
Holen Sie Ihren Datenschutzbeauftragten und den Betriebsrat an den Tisch, bevor ein Werkzeug läuft. Ob eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO nötig ist, entscheidet der Datenschutzbeauftragte: Sie ist Pflicht, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen hat. Bei einem Entwurfsassistenten, der nur den Text einer Anfrage sieht, ist das nach unserer Einschätzung selten der Fall, bei Auswertungen über Beschäftigte eher. Die Datenschutzkonferenz rät, beide früh einzubinden. Ihre IT gibt das Werkzeug frei, mit Vertrag und Einstellung der Datenregion. Die KI schreibt Entwürfe, verschickt aber nichts selbst. Ein Mensch liest gegen und schickt ab. Damit bleibt jede Entscheidung bei Ihren Leuten, und das verlangt die DSGVO bei Entscheidungen mit Rechtswirkung ohnehin.
Was wir dazu anbieten
Im Check klären wir in zwei Wochen, welche KI zu Ihren Werkzeugen passt, welche Daten sie sieht und was Ihr Betriebsrat vorab braucht.
Quellen
- Art. 6 Abs. 1 lit. b und f DSGVO, Rechtsgrundlagen Vertrag und berechtigtes Interesse; Art. 28 Abs. 1 und 3 DSGVO, Vertrag mit Auftragsverarbeiter; Art. 35 Abs. 1 DSGVO, Datenschutz-Folgenabschätzung bei voraussichtlich hohem Risiko · https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=CELEX:32016R0679
- Datenschutzkonferenz, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ vom 6. Mai 2024: Abschnitt 1.6 menschliche Letztentscheidung nach Art. 22 DSGVO, 1.7 geschlossene Systeme vorzugswürdig, 1.12 Datenschutzbeauftragte und Beschäftigtenvertretung einbinden, 2.1 Cloud-Anbieter häufig Auftragsverarbeiter mit Vereinbarung nach Art. 28 Abs. 3, eigene Server allein verantwortlich, 2.2 Betriebsvereinbarung, 3.1 Entfernen von Name und Anschrift reicht oft nicht · https://www.datenschutzkonferenz-online.de/media/oh/20240506_DSK_Orientierungshilfe_KI_und_Datenschutz.pdf
- § 87 Abs. 1 Nr. 6 BetrVG, Mitbestimmung bei technischen Einrichtungen zur Überwachung von Verhalten oder Leistung · https://www.gesetze-im-internet.de/betrvg/__87.html
- § 90 Abs. 1 Nr. 3 und Abs. 2 BetrVG, Unterrichtung über Arbeitsabläufe einschließlich Künstlicher Intelligenz und Beratung · https://www.gesetze-im-internet.de/betrvg/__90.html
- KI-Verordnung (EU) 2024/1689: Art. 4 KI-Kompetenz, Erwägungsgrund 57 Hochrisiko bei Beschäftigung, Überwachung und Bewertung, Art. 50 Abs. 1 Hinweis bei direkter Interaktion · https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=CELEX:32024R1689
- EU-Kommission, AI Literacy Q&A: Art. 4 gilt seit 2. Februar 2025, kein Zertifikat nötig, interne Aufzeichnung reicht, Aufsicht ab 2. August 2026 · https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers
- Microsoft, EU-Datengrenze für Microsoft 365 bei Registrierung in EU oder EFTA · https://learn.microsoft.com/de-de/privacy/eudb/eu-data-boundary-learn
- Microsoft, Copilot ist für EU-Kunden ein Dienst der EU-Datengrenze, Prompts trainieren keine Basismodelle, Anthropic-Modelle derzeit ausgenommen · https://learn.microsoft.com/de-de/copilot/microsoft-365/microsoft-365-copilot-privacy
- Google, Datenregionen Europa ab Business Standard, Verarbeitung in der Region nur Frontline Plus, Enterprise Plus, Enterprise Essentials Plus · https://knowledge.workspace.google.com/admin/compliance/choose-a-geographic-location-for-your-data?hl=de