Model seçimi kolay kısımdı

2026’da yapay zekâ hakkındaki her yönetim kurulu konuşması aynı şekilde başlıyor: hangi modeli kullanacağız? Bu yanlış soru. Başka bir yazıda anlattığımız gibi öncü modeller — Claude, ChatGPT, Gemini — artık ham yetenek bakımından yeterince yakın; gerçekten teslim ettiğiniz sonucu entegrasyon belirliyor, marka değil. Değer bir LLM’i sizin verinize, sizin araçlarınıza ve sizin uyum kurallarınıza bağlamakta; ayın modeli değiştiğinde çalışmaya devam eden bir sistem kurmakta.

Bu yazı müşterilerimize “yapay zekâyı işimize kırmadan nasıl taşırız?” diye sorduklarında anlattıklarımızın kısa versiyonu. Modeli verinize taşımanın üç yolu, sade bir karar tablosu, mimariyi belirleyen gizlilik kuralları ve konsept doğrulaması aşamasının ötesine geçince ortaya çıkan maliyet gerçeği.

Bir LLM’i verinize bağlamanın üç yolu

1. Prompt’lama (araç çağrılarıyla). En hafif yol: LLM’e iyi yapılandırılmış bir istem gönderirsiniz, isteğe bağlı olarak fonksiyon veya araç çağrılarıyla, ve bir yanıt üretir. Ucuz, hızlı kurulur, veri saklaması yoktur. Tek seferlik analiz, taslak çıkarma ve modelin gizli hiçbir şey bilmesine gerek olmayan iş akışları için mükemmel. Canlı kurumsal bilgi gerektiren işlerde zayıf — model yalnızca her seferinde istem içine yapıştırdığınızı bilir.

2. Retrieval-Augmented Generation (RAG). 2026’da kurumsal varsayılan. Dökümanlarınız parçalara ayrılır, gömülür ve bir vektör indeksinde saklanır. Sorgu anında sistem en ilgili pasajları çeker ve LLM’e bağlam olarak verir. Model sizin verinizden yanıt verir, atıflarla, ve yeniden eğitim gerektirmez. Hassas içerik kontrollü deponuzda kalır; modele dokunmadan güncelleyebilir, kaldırabilir veya erişimini kısıtlayabilirsiniz. İyi kurulmuş RAG sistemleri hibrit arama (vektör + anahtar kelime), reranker, kaynak sistemlerden izin devralımı ve her yanıt için denetim günlükleri katmanlar.

3. Fine-tuning. Modelin ağırlıklarını özenle seçilmiş örneklerle uyarlarsanız stilinizi, terminolojinizi ya da dar bir görevi içselleştirir. Davranışın çok yüksek hacimde tutarlı ve tekrarlı olması gerektiğinde doğru seçim — bir sınıflandırıcı, sabit bir müşteri destek tonu, alanına özgü bir çıkarım görevi. Altındaki bilgi haftalık değişiyorsa ya da eğitim verisinin kendisi hassassa yanlış seçim. Fine-tune bilgiyi modele pişiriyor; düzenlemeye tabi veriler için tam da istemediğiniz şey.

Çoğu işletme için 2026’nın dürüst cevabı hibrit: canlı bilgiyi RAG taşır; hafif bir fine-tune (ya da iyi bir sistem istemi) davranışı kilitler. Databricks, Azure OpenAI, AWS Bedrock ve Vertex AI bu desenin hepsini destekliyor.

Veri gizliliği artık bir mimari sorusudur

Uyum 2026 ortasında kutu işaretleme olmaktan çıktı. EU AI Act’in tam yürürlüğü Ağustos 2026’da başlıyor; mevcut düzenlerin üstüne şeffaflık, risk sınıflandırması ve belgeleme yükümlerini ekliyor — AB’de GDPR, Türkiye’de KVKK, ABD’de HIPAA ve SOX, kart alan her yerde PCI DSS. Bu doğrudan mimariyi şekillendirir. Herhangi bir kod yazılmadan önce üç soru yanıtlanmalı.

Veri nerede duruyor? Konum önemli. Sözleşmeleriniz yalnızca AB’de işlemeyi şart koşuyorsa Azure OpenAI, Bedrock veya Vertex AI’nın AB bölgesini kullanın ya da self-host edin. Müşteriler tam izolasyon istiyorsa, açık ağırlıklı modelleri (Llama, Mistral, Qwen) Ollama, vLLM veya Onyx üzerinde çalıştıran air-gapped kurulumlar 2026’da artık gerçek seçenek — UC San Diego bu tür bir yığını 37.000’den fazla kullanıcı için işletiyor.

Eğitim için kullanılıyor mu? Üç tüketici amiral gemisinin varsayılanları farklı; kurumsal API katmanları genellikle verinizle eğitim yapmaz, ama her sözleşmeyi okuyun. Müşteri bilgisine dokunan her entegrasyonun bu maddesi yazılı olmalı.

Ne olduğunu kanıtlayabilir misiniz? Denetim günlükleri, kaynak atıfları ve izin devralımı artık opsiyonel değil. Bir düzenleyici altı ay önceki belirli bir yanıtı hangi belgelerin bilgilendirdiğini sorarsa, RAG hattınız onları gösterebiliyor olmalı.

Self-host mu API mi? Pratik bir kural

Doğru cevap neredeyse hiç ya hep ya hiç değildir. Piyasaya hızın önemli olduğu ve verinin ya kamuya açık ya da sözleşmeyle korumalı olduğu yüksek kaliteli akıl yürütme görevleri için barındırılan API’leri (Claude, GPT, Gemini) kullanın. Altyapınızı asla terk etmemesi gereken her şey için — düzenlemeye tabi veri, ulusal güvenlik işi, derin gizli müşteri malzemesi — self-host edilmiş açık ağırlıklı modeller kullanın. Her isteği sahip olduğunuz ince bir ağ geçidinden doğru hedefe yönlendirin; böylece fiyatlar, yetenek ve yasa değiştikçe trafiği sağlayıcılar arasında taşıyabilirsiniz — ve üçü de hızla değişir.

Ölçekte maliyet gerçeği

Yalnızca prompt’a dayalı bir prototip neredeyse hiçbir şeye mal olmaz. RAG daha pahalıdır: sürekli vektör veritabanı barındırma, embedding maliyetleri ve daha büyük istemler (çekilen pasajlar artı soru) çağrı başına token faturasını yükseltir. Fine-tuning’in gerçek bir ön maliyeti vardır — GPU süresi, eğitim verisi hazırlığı, bir MLOps döngüsü — ve her model yenilemesi bunu tekrar yapmanızı zorunlu kılar. Sorgu hacmi arttıkta ilginç sayı token başına maliyet değil, doğru yanıt başına maliyet olur. Üç kez tekrar deneme ya da insan gözden geçirme gerektiren ucuz bir model ucuz değildir. Kendi kurduğumuz sistemlerde, iyi ayarlanmış bir orta katman modelinde çalışan RAG, geri çekim katmanı görevini yapıyorsa hem maliyette hem doğrulukta ham premium model çağrısını düzenli olarak yener.

Müşterilerimize söylediğimiz

Yapay zekâ entegrasyonlarını başka kurumsal sistemleri kurduğumuz gibi kurarız: API-öncelikli, modüler ve gerektiği yerde sıkıcı. Tipik bir DZDSoft teslimatının dört katmanı var — hangi isteği hangi modelin işleyeceğine karar veren bir ağ geçidi, SSO ve izin devralımıyla indekslenmiş içeriğinize karşı çalışan bir RAG katmanı, davranışın tutarlı olması gereken yerde isteğe bağlı hafif bir fine-tune ve uçtan uca gözlemlenebilirlik ve denetim. Her şey HTTPS üzerinden JSON konuşur; böylece bir model veya vektör depo yeniden yazma olmadan değiştirilebilir. Yapay zekâdan şimdi değer almanın ve yine de gelecek yıl — satıcı adları ve fiyatları hep birlikte taşındığında — sahip olduğunuz bir sisteme sahip olmanın yolu budur.