EU-souveräne LLMs: leistungsfähige KI mit voller Datenkontrolle

TL;DR

• Datensouveränität ist 2026 eine echte Architektur-Option: Sie können leistungsfähige Sprachmodelle mit voller Datenresidenz in der EU betreiben — entweder offene Gewichte auf eigener/EU-Infrastruktur selbst hosten oder einen in der EU ansässigen Managed-Anbieter nutzen.
• Wo Ihre Daten liegen, ist eine bewusste Entscheidung — kein Zufall. Welcher Weg passt, hängt von Ihren Compliance-Anforderungen ab, nicht von Geopolitik.
• Beim Self-Hosting entscheidet die Lizenz, nicht die Herkunft. Und nicht jedes "offene" Modell ist frei kommerziell nutzbar: Mistral Large 2 und Pixtral Large sind es nicht, Llama 4 multimodal ist für EU-Unternehmen sogar lizenzrechtlich gesperrt.

Worum es geht: Kontrolle über die eigenen Daten

"Können wir ein leistungsfähiges Sprachmodell nutzen und trotzdem die volle Kontrolle darüber behalten, wo unsere Daten verarbeitet werden?" — diese Frage hören wir in fast jedem Erstgespräch mit einem datensensiblen Mittelständler. Die gute Nachricht: Mitte 2026 lautet die Antwort klar ja. Es gibt zwei belastbare Wege zur Datenresidenz in der EU — und leistungsfähige Modelle stehen für beide bereit. Datensouveränität bedeutet dabei nicht, sich gegen einen Anbieter oder ein Land zu positionieren, sondern bewusst zu entscheiden, in welchem Rechtsraum die eigenen Daten verarbeitet werden.

Weg 1: Offene Gewichte selbst hosten — die Lizenz entscheidet

Wenn Sie heruntergeladene Modellgewichte auf Ihrer eigenen oder einer EU-Cloud-Infrastruktur betreiben, fließen keine Inferenzdaten an den Hersteller ab. Damit ist die Herkunft des Herstellers (Frankreich, USA, China) für den Datenschutz ohnehin zweitrangig — sie betrifft nur die gehostete API des Herstellers, nicht lokal laufende Gewichte. Maßgeblich ist allein die Lizenz.

Zwei teure Fallen lauern hier. Erstens: Nicht alle "offenen" Mistral-Modelle sind Apache 2.0 — Mistral Large 2 und Pixtral Large stehen unter der nicht-kommerziellen Mistral Research License. Prüfen Sie den Lizenz-Tag, nicht den Ruf. Zweitens: Llama 4 ist für EU-Unternehmen teilweise gesperrt — der Lizenztext schließt die multimodalen Modelle für Nutzer mit Hauptsitz in der EU ausdrücklich aus.

Wirklich "EU-souverän" im Sinne von EU-Herkunft und freier Lizenz sind vor allem die Apache-Modelle von Mistral, Teuken/OpenGPT-X, EuroLLM und Salamandra/ALIA. Qwen und DeepSeek sind nicht EU-Herkunft, beim Self-Hosting aber datenschutzunkritisch — die Gewichte laufen lokal.

Weg 2: Managed Inference bei einem EU-Anbieter

Wer nicht selbst hosten will, nutzt einen Anbieter, der das Modell betreibt und die Daten in der EU verarbeitet. Für die Datenresidenz ist dabei der Unternehmenssitz des Anbieters ein wichtiger Faktor (mehr dazu im nächsten Abschnitt).

In der EU ansässige Anbieter mit EU-Datenresidenz: Mistral La Plateforme (Frankreich, EU per Default, kein Training auf API-Daten), IONOS AI Model Hub (Deutschland, Daten bleiben in DE), OVHcloud AI Endpoints und Scaleway (Frankreich). Die wichtigste Infrastruktur-Neuerung Mitte 2026 ist die AWS European Sovereign Cloud — eine separate, EU-betriebene Partition (GA seit Januar 2026) — allerdings ist die Modellauswahl dort zum Start noch dünn (nur Amazon-Nova-Modelle).

Datenresidenz: worauf es rechtlich ankommt

Ein Punkt wird in der Praxis oft übersehen — und er ist entscheidend, wenn Ihre Compliance echte Datenresidenz in der EU verlangt.

Eine EU-Region allein sagt noch nichts darüber, welchem Rechtsraum ein Anbieter unterliegt. Der US CLOUD Act (2018) etwa erlaubt US-Behörden, von US-ansässigen Anbietern die Herausgabe von Daten zu verlangen — unabhängig vom physischen Serverstandort. Eine Frankfurt-Region eines US-Konzerns liegt damit zwar physisch in der EU, der Anbieter unterliegt aber weiter US-Recht. Das ist kein Werturteil, sondern schlicht ein Faktor, den eine saubere Datenresidenz-Strategie einkalkulieren muss. (Microsoft France hat das 2025 vor dem französischen Senat entsprechend eingeordnet.)

Hinzu kommt die rechtliche Bewegung: Das EU-US Data Privacy Framework ist Mitte 2026 in Kraft, aber vor dem EuGH angefochten (Verfahren C-703/25 P, noch anhängig). Wer auf maximale Planungssicherheit setzt, hält die Datenverarbeitung deshalb gern von vornherein in der EU. Eine rein technische Absicherung über Verschlüsselung greift bei LLM-Inferenz übrigens nicht, weil das Modell den Klartext zur Verarbeitung braucht — die Datenresidenz wird also über die Architektur entschieden, nicht über ein nachträgliches Add-on.

Wichtig zur Abgrenzung: Der EU AI Act regelt Risiko und Transparenz — nicht die Datenresidenz. Wo Ihre Daten verarbeitet werden müssen, ergibt sich aus der DSGVO, nicht aus dem AI Act.

Was das für eine Entscheidung heißt

Die Richtung ist eindeutig: EU-souveräne KI ist 2026 keine Kompromiss-Lösung mehr, sondern eine bewusste Architektur-Entscheidung mit echten, leistungsfähigen Optionen. Datensouveränität heißt: Sie behalten die Kontrolle darüber, wo Ihre Daten verarbeitet werden — als Stärke, nicht als Abgrenzung.

Wir haben die vollständige, herstellerneutrale Übersicht mit allen Lizenzen, Anbietern und Quellen offen auf GitHub gepflegt: github.com/azena-ai/eu-souveraene-llms. Wie wir solche Systeme für den Mittelstand bauen, zeigt unsere KI-Beratung für den Mittelstand. Und wenn Sie für Ihren konkreten Fall abwägen wollen, welcher Weg passt — sprechen Sie mit uns.

Stand: Mitte 2026. Faktenbasis quellengeprüft (Lizenztexte, Anbieter-Docs, EU-Rechtsprechung); rechtlich strittige Punkte (DPF-Ausgang) sind als offen gekennzeichnet. Kein Rechtsrat.