Die Modellwahl war der einfache Teil

Jedes Vorstandsgespräch über KI in 2026 beginnt gleich: welches Modell setzen wir ein? Es ist die falsche Frage. Wie an anderer Stelle beschrieben, liegen die Spitzenmodelle — Claude, ChatGPT, Gemini — in ihrer Rohfähigkeit inzwischen nahe genug beieinander, dass das Ergebnis, das Sie tatsächlich ausliefern, durch die Integration entschieden wird, nicht durch die Marke. Der Wert steckt darin, ein LLM an Ihre Daten, Ihre Werkzeuge und Ihre Compliance-Regeln zu binden — mit einem System, das weiterläuft, wenn das Modell des Monats wechselt.

Dieser Text ist die Kurzfassung dessen, was wir Kunden erzählen, wenn sie fragen: „wie bringen wir KI in unser Unternehmen, ohne es zu zerbrechen?“ Drei Wege, das Modell an Ihre Daten zu bringen, eine schlichte Entscheidungstabelle, die Datenschutzregeln, die die Architektur bestimmen, und die Kostenrealität jenseits eines Proof of Concept.

Drei Wege, ein LLM an Ihre Daten zu binden

1. Prompting (mit Werkzeugaufrufen). Der leichteste Weg: Sie senden dem LLM einen gut strukturierten Prompt, optional mit Funktions- oder Tool-Aufrufen, und es erzeugt eine Antwort. Günstig, schnell aufgebaut, keine Datenspeicherung. Hervorragend für einmalige Analyse, Entwürfe und Workflows, in denen das Modell nichts Privates wissen muss. Schwach, wenn Sie lebendiges Unternehmenswissen brauchen — das Modell weiß nur, was Sie jedes Mal in den Prompt einfügen.

2. Retrieval-Augmented Generation (RAG). Der Enterprise-Standard 2026. Ihre Dokumente werden in Abschnitte zerlegt, eingebettet und in einem Vektorindex gespeichert. Zur Abfragezeit ruft das System die relevantesten Passagen ab und gibt sie dem LLM als Kontext. Das Modell antwortet aus Ihren Daten mit Zitaten, ohne Retraining. Sensible Inhalte bleiben in Ihrem kontrollierten Speicher; Sie können sie aktualisieren, entfernen oder einschränken, ohne das Modell zu berühren. Gut gebaute RAG-Systeme kombinieren Hybrid-Suche (Vektor plus Keyword), einen Reranker, Rechtevererbung aus den Quellsystemen und Audit-Logs für jede Antwort.

3. Fine-Tuning. Sie passen die Gewichte des Modells an kuratierten Beispielen an, damit es Ihren Stil, Ihre Terminologie oder eine enge Aufgabe verinnerlicht. Richtig, wenn Verhalten in sehr hohem Volumen konsistent und repetitiv sein muss — ein Klassifikator, ein fester Support-Ton, eine domänenspezifische Extraktion. Falsch, wenn sich das zugrunde liegende Wissen wöchentlich ändert oder wenn die Trainingsdaten selbst sensibel sind. Fine-Tuning brennt Wissen ins Modell — genau das, was Sie bei regulierten Daten nicht wollen.

Die ehrliche 2026-Antwort für die meisten Unternehmen ist hybrid: RAG trägt das lebendige Wissen; ein leichtes Fine-Tune (oder ein guter System-Prompt) sichert das Verhalten. Databricks, Azure OpenAI, AWS Bedrock und Vertex AI unterstützen dieses Muster alle.

Datenschutz ist jetzt eine Architektur-Frage

Compliance ist Mitte 2026 kein Häkchen mehr. Der EU AI Act tritt im August 2026 vollständig in Kraft und ergänzt die bestehenden Regime um Transparenz-, Risikoklassifikations- und Dokumentationspflichten — DSGVO in der EU, KVKK in der Türkei, HIPAA und SOX in den USA, PCI DSS überall, wo Sie Kartendaten annehmen. Das prägt die Architektur direkt. Drei Fragen müssen beantwortet sein, bevor Sie eine Zeile Code schreiben.

Wo liegen die Daten? Residenz zählt. Wenn Ihre Verträge nur EU-Verarbeitung erlauben, nutzen Sie eine EU-Region auf Azure OpenAI, Bedrock oder Vertex AI — oder Self-Hosting. Wenn Kunden vollständige Isolation verlangen, sind Air-Gapped-Deployments mit offenen Modellen (Llama, Mistral, Qwen) über Ollama, vLLM oder Onyx in 2026 eine echte Option — UC San Diego betreibt einen solchen Stack für über 37.000 Nutzer.

Werden die Daten zum Training genutzt? Die drei Consumer-Flaggschiffe haben unterschiedliche Voreinstellungen; Enterprise-API-Stufen trainieren in der Regel nicht mit Ihren Daten, aber lesen Sie jeden Vertrag. Jede Integration, die Kundendaten berührt, muss diesen Punkt schriftlich haben.

Können Sie belegen, was passiert ist? Audit-Logs, Quellenzitate und Rechtevererbung sind kein Nice-to-have mehr. Wenn eine Aufsicht sechs Monate später fragt, welche Dokumente eine bestimmte Antwort informiert haben, muss Ihre RAG-Pipeline sie zeigen können.

Self-Host oder API? Eine praktische Regel

Die richtige Antwort ist fast nie ganz oder gar nicht. Nutzen Sie gehostete APIs (Claude, GPT, Gemini) für hochwertige Reasoning-Aufgaben, bei denen Time-to-Market zählt und die Daten öffentlich oder vertraglich geschützt sind. Nutzen Sie selbst gehostete Open-Weight-Modelle für alles, was Ihre Infrastruktur niemals verlassen darf — regulierte Daten, sicherheitskritische Arbeit, tief vertrauliches Kundenmaterial. Leiten Sie jede Anfrage über ein dünnes Gateway, das Ihnen gehört, zum richtigen Ziel — so können Sie Traffic zwischen Anbietern verschieben, wenn Preise, Fähigkeit und Recht sich ändern, und alle drei ändern sich schnell.

Die Kostenrealität im großen Maßstab

Ein Prompt-only-Prototyp kostet fast nichts. RAG ist teurer: kontinuierliches Vektor-Datenbank-Hosting, Embedding-Kosten und größere Prompts (abgerufene Passagen plus Frage), was die Token-Rechnung pro Aufruf erhöht. Fine-Tuning hat reale Vorabkosten — GPU-Zeit, Aufbereitung der Trainingsdaten, ein MLOps-Zyklus — und jede Modellauffrischung zwingt zur Wiederholung. Sobald das Anfragevolumen steigt, ist die interessante Zahl Kosten pro korrekte Antwort — nicht Kosten pro Token. Ein günstiges Modell, das drei Nachversuche oder eine menschliche Prüfung braucht, ist nicht günstig. In unseren eigenen Bauten schlägt ein gut abgestimmtes RAG auf einem Mittelklasse-Modell einen rohen Premium-Aufruf regelmäßig sowohl bei Kosten als auch bei Genauigkeit — sobald die Retrieval-Schicht ihre Arbeit tut.

Was wir unseren Kunden sagen

Wir bauen KI-Integrationen wie jedes andere Enterprise-System: API-first, modular und dort langweilig, wo Langweiligkeit gefragt ist. Eine typische DZDSoft-Auslieferung hat vier Schichten — ein Gateway, das entscheidet, welches Modell welche Anfrage übernimmt; eine RAG-Schicht gegen Ihre indizierten Inhalte mit SSO und Rechtevererbung; optional ein kleines Fine-Tune, wo Verhalten konsistent sein muss; und Observability und Audit von Ende zu Ende. Alles spricht JSON über HTTPS, sodass ein Modell oder Vektorspeicher ohne Umschreiben ausgetauscht werden kann. So gewinnen Sie heute Wert aus KI und haben nächstes Jahr immer noch ein System, das Ihnen gehört — wenn Anbieternamen und Preise sich alle weiterbewegt haben.