ChatGPT, Copilot, Gemini, Claude: KI-Sprachmodelle (LLMs) sind aus dem Arbeitsalltag nicht mehr wegzudenken. Die meisten nutzen sie einfach. Und das ist erst mal gut so. Das Problem ist ein anderes: Die wenigsten stellen sich dabei die entscheidende Frage: Wo landen meine Daten eigentlich?

Schauen wir uns an, wie es gerade in deutschen Unternehmen aussieht:

Das passiert gerade, in diesem Moment, in Unternehmen jeder Größe. Mitarbeiter tippen Kundendaten in ChatGPT, fassen interne Strategiepapiere zusammen, lassen Bewerbungsunterlagen analysieren, ohne sich zu fragen, wo diese Daten dabei eigentlich landen.

Die eine Frage, die sich fast niemand stellt

Wenn du einen Text in ein KI-Modell eingibst, schickst du diese Daten an einen Server (irgendwo auf der Welt, betrieben von einem Unternehmen mit eigenen Geschäftsbedingungen). Wer darauf Zugriff hat und was damit passiert, hängt direkt davon ab, welchen Anbieter du nutzt.

Das ist keine abstrakte Frage. Das ist eine ganz konkrete Entscheidung, die du jeden Tag triffst (bewusst oder unbewusst).

Es geht nicht darum, ob ChatGPT vertrauenswürdig ist. Es geht darum, ob du die Kontrolle über deine Daten behältst, oder ob du sie abgibst, ohne es zu merken.

Die 5 Schutzstufen: Wo steht dein Unternehmen?

Nicht jede KI-Nutzung ist gleich. Es kommt darauf an, welche Daten du verarbeitest und wem du dabei die Kontrolle übergibst. Je sensibler die Daten, desto mehr Souveränität willst du behalten. Ich hab das hier mal in 5 Stufen unterteilt, von „einfach loslegen" bis „kein Byte verlässt das Haus".

1
Extern
2
US+EU
3
EU-Anbieter
4
DE-Cloud
5
On-Premise
Wenig Kontrolle
Maximale Souveränität
Die 5 Stufen
Stufe 1 – Externe KI-Dienste (Abo oder API)
Anbieter außerhalb der EU. Kein garantierter Datenschutz nach europäischem Standard.
Stufe 2 – US-Cloud mit EU-Rechenzentrum
Azure OpenAI, AWS Bedrock, Google Vertex AI in EU-Regionen. Top-Modelle mit EU-Datenspeicherung, aber US-Muttergesellschaft bleibt.
Stufe 3 – Europäische KI-Anbieter
EU-Unternehmen, EU-Recht. Echte Datensouveränität ohne Restrisiken (Modelle noch nicht ganz auf US-Niveau).
Stufe 4 – Deutsche Cloud-Infrastruktur
100 % deutsches Unternehmen, deutsches Recht, zertifizierte Rechenzentren in DE.
Stufe 5 – On-Premise (eigene Server)
Maximale Kontrolle. Kein Drittanbieter. Daten verlassen niemals das Unternehmen.

Gehen wir jede Stufe im Detail durch.

Stufe 1 – Externe KI-Dienste: Abo oder API

Das ist die Realität in den meisten Unternehmen. Ein Mitarbeiter hat ein ChatGPT-Abo abgeschlossen, Kollegen ziehen nach, Daten fließen, ohne dass irgendjemand gefragt hat, wo sie eigentlich landen.

Stufe 1
Externe KI-Dienste – Abo-Modelle & API
Wie es sich anfühlt: Du schickst einen Brief an eine Firma in einem anderen Land. Technisch kommt er an, aber welche Gesetze dort gelten, wer ihn lesen darf und ob die lokale Regierung Zugriff verlangen kann. Das liegt komplett außerhalb deiner Kontrolle.
💳
Abo-Modelle
Die großen KI-Dienste im Abo (monatliche Flatrate, Nutzung direkt über den Browser). Der einfachste Einstieg, aber auch das geringste Maß an Kontrolle über deine Daten.
🔌
API-Zugang (Pay-per-Token)
Die API ist vereinfacht gesagt eine technische Schnittstelle, über die Software direkt mit dem KI-Modell kommuniziert, ohne Browser. Du zahlst pro Nutzung, nicht pauschal. Typisch für eigene Anwendungen oder Automatisierungen.
🌍
Hauptsächlich US & China
OpenAI, Anthropic, Google, Meta: alles US-Unternehmen unter dem CLOUD Act. Dazu kommen chinesische Anbieter wie DeepSeek oder Alibabas Qwen, die unter dem chinesischen Geheimdienstgesetz stehen. Unterschiedliche Risiken, ähnliche Kontrollverluste.
Vorteile
  • Zugang zu den neuesten und leistungsstärksten Modellen
  • Sofort einsatzbereit, kein Setup nötig
  • Günstig und flexibel (Abo oder Pay-per-Use)
  • Größte Funktionsvielfalt
Nachteile
  • Keine Kontrolle über Datenweitergabe
  • US- oder China-Recht gilt (nicht europäisches)
  • Unklar, ob Daten zum Training genutzt werden
  • Für sensible Geschäftsdaten nicht geeignet

Für allgemeine Aufgaben ohne sensible Inhalte (Texte formulieren, Ideen entwickeln, öffentliche Daten zusammenfassen) ist Stufe 1 völlig in Ordnung. Sobald aber Kundendaten, HR-Informationen, Finanzzahlen oder interne Strategiedokumente ins Spiel kommen, gibst du die Kontrolle über Daten ab, die eigentlich dir gehören.

Stufe 2 – US-Cloud mit EU-Rechenzentrum

Azure OpenAI, AWS Bedrock und Google Vertex AI bieten die jeweils neuesten KI-Modelle, mit der Möglichkeit, sie über EU-Server laufen zu lassen. Die Daten verlassen die EU physisch nicht, aber das Unternehmen dahinter bleibt amerikanisch.

Stufe 2
US-Hyperscaler mit EU-Region – Top-Modelle, ein Restrisiko bleibt
Das Dilemma: Stell dir vor, ein amerikanisches Unternehmen mietet ein Lagerhaus in Deutschland. Deine Pakete lagern in Deutschland, aber das Unternehmen, dem das Lager gehört, unterliegt weiterhin US-Recht. Im Ernstfall hast du weniger Kontrolle, als du denkst.
🏗️
Top-Modelle in der EU
Azure OpenAI, AWS Bedrock und Google Vertex AI: alle in EU-Regionen buchbar. Volle Modellqualität, Datenstandort EU.
⚠️
CLOUD Act Restrisiko
Theoretisch können US-Behörden auch auf EU-Servern von US-Unternehmen Zugriff verlangen. Praktisch ist das selten passiert, aber das Risiko besteht und ist nicht abschließend geklärt.
🏢
Enterprise-Features
Zertifizierungen (ISO 27001, BSI C5, SOC 2), Zugriffsmanagement, Logging, und die Option, dass der Anbieter keine deiner Eingaben speichert. Für viele regulierte Branchen ausreichend.
Vorteile
  • Volle Modellqualität mit EU-Datenspeicherung
  • Nahtlose Integration in bestehende Cloud-Infrastruktur
  • Umfangreiche Sicherheitszertifizierungen und Zugriffskontrollen
  • Bekannte Plattformen, breite Tool-Unterstützung
Nachteile
  • Muttergesellschaft bleibt US-amerikanisch
  • CLOUD Act Restrisiko nicht vollständig ausräumbar
  • Abhängigkeit von US-Konzernen
  • Vertragsstruktur komplexer als bei EU-Anbietern

Stufe 2 ist der pragmatische Einstieg für Unternehmen, die nicht auf die besten Modelle verzichten wollen: Du behältst Zugang zur vollen Modellqualität und gewinnst deutlich mehr Kontrolle über den Datenspeicherort. Das Restrisiko durch die US-Muttergesellschaft bleibt (für viele Anwendungsfälle ist das ein akzeptabler Kompromiss).

Stufe 3 – Europäische KI-Anbieter

Der entscheidende Unterschied zu Stufe 2 ist nicht die Technologie... es ist die Frage, wessen Spielregeln gelten. Ein europäisches Unternehmen unterliegt denselben Gesetzen wie du. Du weißt, was mit deinen Daten passiert, weil für dich und deinen Anbieter dasselbe Regelwerk gilt.

Stufe 3
Europäische KI-Anbieter – gleiche Spielregeln, echte Kontrolle
Was das konkret bedeutet: Du arbeitest mit einem Unternehmen, das denselben Gesetzen unterliegt wie du. Wenn etwas nicht stimmt, greift europäisches Recht. Kein fremdes Gericht, kein Behördenauftrag aus Übersee, keine Grauzone.
🇪🇺
Kein CLOUD Act
EU-Unternehmen können nicht per US-Gesetz zur Herausgabe von Daten verpflichtet werden. Das eliminiert eines der größten Kontrollrisiken von Stufe 1 und 2 vollständig.
📄
Klare Vertragsgrundlage
Verträge nach EU-Standard, kein Kleingedrucktes mit Verweisen auf US-Recht. Du weißt genau, was dein Anbieter mit deinen Daten darf und was nicht.
🏢
Bekannte Anbieter
Mistral AI (Frankreich), Aleph Alpha (Deutschland), Silo AI (Finnland). Die europäische KI-Landschaft wächst, und die Modellqualität schließt zunehmend zur US-Konkurrenz auf.
Vorteile
  • Vollständig unter EU-Recht, kein CLOUD Act
  • Echte Datensouveränität ohne Restrisiken
  • Transparente, einfache Vertragsgrundlage
  • Keine Abhängigkeit von US-Konzernen
Nachteile
  • Modelle noch nicht ganz auf dem Niveau der US-Spitzenreiter
  • Kleineres Ökosystem, weniger Integrationsoptionen
  • Teils höherer Evaluierungsaufwand bei der Anbieterwahl

Stufe 3 ist die richtige Wahl, wenn du Geschäftsdaten mit KI verarbeiten willst und dabei echte Datensouveränität brauchst. Und die europäische KI-Landschaft holt schnell auf, für die meisten Unternehmensaufgaben reicht die Modellqualität heute schon aus.

Stufe 4 – Deutsche Cloud-Infrastruktur

Hier gibt es keine Grauzone mehr. Anbieter wie STACKIT (der Cloud-Arm der Schwarz Gruppe, also Lidl und Kaufland) oder IONOS sind deutsche Unternehmen, betreiben deutsche Rechenzentren und unterliegen ausschließlich deutschem und europäischem Recht.

Stufe 4
Deutsche Cloud – Volle Datensouveränität, kein Restrisiko
Was das bedeutet: Alles passiert in Deutschland, nach deutschem Recht, bei einem deutschen Unternehmen. Kein ausländisches Gesetz kann Zugriff erzwingen. Für Branchen mit strengen Datenschutzanforderungen ist das oft der einzig akzeptable Weg.
🇩🇪
100 % deutsches Recht
STACKIT und IONOS sind deutsche Unternehmen. Kein CLOUD Act, kein Drittlandtransfer. ISO 27001-zertifiziert, BSI C5-konform.
🤖
Open-Source-Modelle
Leistungsstarke Open-Source-Modelle, gehostet auf deutschen Servern. Für die meisten Unternehmensaufgaben absolut ausreichend.
🏥
Ideal für regulierte Branchen
Gesundheitswesen, Finanzbranche, öffentliche Verwaltung, Rechtsanwälte: überall dort, wo strenge Datenschutzauflagen gelten, ist Stufe 4 die sichere Wahl.
Vorteile
  • Maximale Rechtssicherheit, kein Restrisiko
  • Zertifiziert (ISO 27001, BSI C5)
  • Pflichtlösung für regulierte Branchen (Gesundheit, Finanzen, Recht)
Nachteile
  • Nur Open-Source-Modelle (nicht die absoluten Spitzenmodelle)
  • Höhere Kosten als internationale Hyperscaler
  • Eingeschränkte Modell- und Feature-Auswahl

Stufe 4 lohnt sich vor allem für Unternehmen in regulierten Branchen, die keine Kompromisse bei der Datensouveränität eingehen können oder wollen.

Stufe 5 – On-Premise: Die eigenen Server

Maximale Kontrolle bedeutet: Kein Drittanbieter, keine Cloud, keine externe Abhängigkeit. Das KI-Modell läuft auf eigener Hardware im eigenen Rechenzentrum. Was reingeht, bleibt drin.

Stufe 5
On-Premise – Absolute Kontrolle, maximaler Aufwand
Die Analogie: Statt in eine Bank zu gehen, baust du dir deinen eigenen Tresor. Maximale Sicherheit, absolute Kontrolle, aber du bist selbst für Wartung, Aufrüstung und Betrieb verantwortlich.
🔒
Null Datenabfluss
Kein einziges Byte verlässt das Unternehmen. Für Air-Gapped-Umgebungen, geheimschutzrelevante Informationen oder streng regulierte Hochsicherheitsbereiche die einzig mögliche Option.
💻
Hardware-Investment
Leistungsfähige Modelle brauchen GPU-Hardware. Eine NVIDIA A100 GPU kostet ab ca. 15.000 €. Kleinere Modelle (7B Parameter) laufen auch auf günstigerer Consumer-Hardware.
👨‍💻
IT-Expertise nötig
Deployment, Updates, Sicherheitspatches: das alles liegt im Verantwortungsbereich des eigenen IT-Teams. Für KMU ohne dedizierte IT-Abteilung meist überdimensioniert.
Vorteile
  • Null Datenabfluss, maximale Kontrolle
  • Air-Gapped-Betrieb möglich
  • Keine externen Abhängigkeiten
  • Einmalige Kosten statt laufende Cloud-Gebühren
Nachteile
  • Hohe Hardware-Investition (GPU ab ~15.000 €)
  • IT-Expertise und laufender Wartungsaufwand nötig
  • Updates und Sicherheitspatches in eigener Verantwortung
  • Für die meisten KMU überdimensioniert

Stufe 5 ist nicht für jeden sinnvoll, und das muss auch nicht sein. Für die meisten mittelständischen Unternehmen liegt die richtige Lösung zwischen Stufe 2 und 4, je nach Datensensitivität und vorhandener Infrastruktur.

So wendest du das jetzt an

Die 5 Stufen sind kein theoretisches Konstrukt, sie sind ein praktischer Leitfaden. So setzt du ihn um:

1. Inventur: Welche KI-Tools werden im Team genutzt?

Fang damit an herauszufinden, was tatsächlich im Einsatz ist, die Chancen stehen gut, dass du es nicht vollständig weißt. Erst dann kannst du sinnvoll steuern.

2. Daten klassifizieren: Was geht da eigentlich rein?

Interne Notizen ohne Personenbezug? Stufe 1 ist oft ausreichend. Kundendaten, Finanzzahlen, HR-Informationen? Dann mindestens Stufe 2 oder 3. Je sensibler die Daten, desto mehr Kontrolle willst du behalten.

3. Anbieter bewusst wählen – nicht per Default

Die meisten Teams landen bei ChatGPT, weil es das Bekannteste ist, nicht weil es das Richtige ist. Wenn du weißt, welche Daten du verarbeitest, kannst du den passenden Anbieter gezielt auswählen. Stufe 2 bis 4 ist für viele Unternehmen mit wenig Mehraufwand erreichbar.

4. Wissen, was dein Anbieter mit deinen Daten darf

Weißt du, was dein KI-Anbieter mit deinen Daten tun darf, und was nicht? Das ist die entscheidende Frage. Ein AVV (Auftragsverarbeitungsvertrag) ist das Dokument, das genau das schriftlich festlegt. Seriöse Anbieter stellen diesen bereit. Wer ihn verweigert oder keinen hat, zeigt damit: Transparenz über den Umgang mit deinen Daten ist kein Thema. Genug Grund, den Anbieter zu wechseln.

5. Klare Leitlinie für das Team – kein Verbot, sondern Orientierung

49 % der Mitarbeiter würden KI auch bei explizitem Verbot weiter nutzen. Verbote funktionieren nicht. Was funktioniert: eine einfache, verständliche Richtlinie, die zeigt, welches Tool für welche Daten geeignet ist, und warum. Dein Team will die richtigen Entscheidungen treffen; es braucht dafür Orientierung, keine Einschränkungen.

Fazit

Du musst kein Datenschutzexperte sein. Du musst nur entscheiden, wer die Kontrolle über deine Daten hat (du oder irgendjemand sonst).

Stufe 1 für allgemeine Aufgaben ohne sensible Inhalte, völlig in Ordnung. Sobald es um Kundendaten, Finanzen oder Strategie geht, sollte es mindestens Stufe 2 sein. Die Alternative ist näher und günstiger als die meisten denken.

Europäische und deutsche Anbieter haben massiv aufgeholt. Die technische Hürde, die Kontrolle über deine Daten zurückzugewinnen, ist kleiner als du denkst.

Quellen: Software AG (2024): „Chasing Shadows – Getting Ahead of Shadow AI", n=2.000, Deutschland · All About Security (2024): Shadow AI 80 % Unternehmen betroffen · DLA Piper (Jan. 2025): DSGVO-Bußgelder 2024 · Bitkom (2025): KI & Datenschutz Praxisleitfaden 2.0 · Statistisches Bundesamt (Nov. 2024): KI-Nutzung in Unternehmen