Ist die Nutzung von ChatGPT bei der Arbeit verboten?

Nein, das Gesetz verbietet es nicht. Das Unternehmen muss jedoch sicherstellen, dass personenbezogene Daten und Geschäftsgeheimnisse nicht illegal verarbeitet werden, und für die KI-Kompetenz der Mitarbeiter sorgen.

Können wir Shadow AI einfach blockieren?

Technisch ja, aber ein komplettes Verbot führt meist zur Nutzung auf privaten Smartphones. Es ist besser, ein genehmigtes Tool anzubieten und nur riskante Dienste zu blockieren.

Was ist der schnellste erste Schritt?

Überprüfung der Firewall-Logs und der Apps in Entra ID — innerhalb eines Tages erhalten Sie ein Bild davon, was passiert.

← Blog

Shadow AI im Unternehmen: Wie Mitarbeiter unbewusst Geschäftsdaten preisgeben

Shadow AI bezeichnet die Nutzung von KI-Tools ohne Wissen der IT. Wir erklären die Risiken für Daten, DSGVO und den EU AI Act sowie 5 Schritte zur Kontrolle.

German Vitali·30. september 2026·2 min branja·Cybersicherheit

Shadow AI ist die Nutzung von KI-Tools wie ChatGPT, Gemini oder kostenlosen KI-Übersetzern ohne Wissen und Genehmigung der IT-Abteilung oder der Geschäftsführung. In den meisten Unternehmen geschieht dies bereits: Mitarbeiter kopieren Angebote, Verträge, Kunden-E-Mails und sogar Quellcode in KI-Tools — oft in kostenlose Versionen, die die eingegebenen Daten zum Trainieren von Modellen verwenden können.

TL;DR — Wichtige Eckpunkte

Untersuchungen zeigen, dass mehr als die Hälfte der Mitarbeiter KI-Tools nutzt, die nicht vom Unternehmen genehmigt wurden.
Das größte Risiko ist der Abfluss von Geschäftsgeheimnissen und personenbezogenen Daten in öffentliche KI-Dienste.
Verbote funktionieren nicht — Mitarbeiter werden KI weiterhin nutzen, nur eben heimlich.
Die Lösung ist eine Kombination aus genehmigten Tools, klaren Richtlinien und technischer Kontrolle (DLP, Entra ID, Intune).

Warum Shadow AI gefährlich ist

Bei klassischem „Shadow IT“ ging es um nicht genehmigte Dropbox- oder WhatsApp-Accounts. Bei KI ist das Risiko größer, da Mitarbeiter dem Tool freiwillig Inhalte übergeben — nicht nur eine Datei, sondern Zusammenfassungen, Kontext und oft die gesamte Korrespondenz mit einem Kunden.

Risiko	Praxisbeispiel	Folge
Abfluss von Geschäftsgeheimnissen	Vertrieb kopiert Preislisten und Margen in kostenloses ChatGPT	Daten verlassen die EU, Kontrolle über die Daten geht verloren
DSGVO-Verstoß	HR fasst Lebensläufe von Bewerbern mit KI zusammen	Rechtswidrige Verarbeitung personenbezogener Daten, Bußgelder
Fehlentscheidungen	KI „halluziniert“ rechtliche Fristen oder technische Daten	Finanzieller oder rechtlicher Schaden
Bösartige KI-Plugins	Browser-Erweiterung „KI-Assistent“ liest alle Seiten mit	Diebstahl von Sitzungen, Passwörtern und E-Mails

Wie Sie feststellen, ob Sie Shadow AI haben

Wenn Sie keine Kontrolle über den Netzwerkverkehr und Cloud-Anwendungen haben, lautet die Antwort fast sicher: Ja. Anzeichen sind Zugriffe auf Domains von KI-Diensten in den Firewall-Logs, OAuth-Einwilligungen für unbekannte Apps in Microsoft Entra ID und Browser-Erweiterungen auf Dienst-PCs.

5 Schritte zur kontrollierten KI-Nutzung

Bestandsaufnahme: Ermitteln Sie mithilfe von Firewall-Logs und Microsoft Defender for Cloud Apps, welche KI-Tools tatsächlich genutzt werden.
Genehmigte Tools: Bieten Sie Mitarbeitern eine sichere Alternative, z. B. Microsoft 365 Copilot oder Copilot Chat mit Enterprise-Datenschutz.
Regeln: Verabschieden Sie eine kurze KI-Unternehmensrichtlinie, die festlegt, welche Daten nicht eingegeben werden dürfen.
Technische Kontrolle: Blockieren Sie riskante KI-Dienste, schränken Sie OAuth-Einwilligungen ein und führen Sie DLP-Regeln ein.
Schulung: Der EU AI Act fordert ab Februar 2025 KI-Kompetenz (AI Literacy) von den Mitarbeitern.

EU AI Act: Was Unternehmen wissen müssenVerpflichtungen, Fristen und Bußgelder für europäische Unternehmen.

Häufig gestellte Fragen

Ist die Nutzung von ChatGPT bei der Arbeit verboten?: Nein, das Gesetz verbietet es nicht. Das Unternehmen muss jedoch sicherstellen, dass personenbezogene Daten und Geschäftsgeheimnisse nicht illegal verarbeitet werden, und für die KI-Kompetenz der Mitarbeiter sorgen.
Können wir Shadow AI einfach blockieren?: Technisch ja, aber ein komplettes Verbot führt meist zur Nutzung auf privaten Smartphones. Es ist besser, ein genehmigtes Tool anzubieten und nur riskante Dienste zu blockieren.
Was ist der schnellste erste Schritt?: Überprüfung der Firewall-Logs und der Apps in Entra ID — innerhalb eines Tages erhalten Sie ein Bild davon, was passiert.

#Shadow AI#Künstliche Intelligenz#Datensicherheit#ChatGPT

Sorodne objave

Cybersicherheit