Self-Hosted Yapay Zeka Nedir? Şirket Verisi Neden Dışarı Çıkmamalı

Self-hosted yapay zeka, şirketin kendi sunucularında çalışan, hiçbir müşteri verisinin dış sunuculara gönderilmediği yapay zeka altyapısıdır. KVKK uyumluluğu, veri güvenliği ve kurumsal kontrol açısından cloud tabanlı çözümlere karşı kritik bir avantaj sunar.

Bulut Tabanlı Yapay Zekada Gözden Kaçan Risk

Bir şirketin finansal verisini, müşteri listesini veya üretim rakamlarını ChatGPT'ye ya da benzeri bulut tabanlı bir yapay zeka aracına yapıştırarak analiz ettirdiğini düşünün. Ne olur?

O veri, OpenAI'nin sunucularına iletilir. Şirket politikasına ve ayarlara bağlı olarak model eğitimine dahil edilebilir. Türkiye Kişisel Verileri Koruma Kurumu'nun (KVKK) çerçevesinde bu tür veri aktarımı ciddi yasal riskler barındırır. Üstelik rakiplerinizin de aynı modeli kullandığını unutmamak gerekir.

Kurumsal verinin dışarı çıkması sadece yasal bir sorun değil, stratejik bir risktir.

Self-Hosted Yapay Zeka Nasıl Çalışır?

Self-hosted (kendi sunucunuzda barındırılan) yapay zeka modelinde mimari şöyle işler: yapay zeka modeli ve tüm altyapı, şirketin kendi veri merkezine veya özel bulut ortamına kurulur. Kullanıcı bir soru sorduğunda bu soru dış sunuculara değil, şirketin kendi ağındaki modele iletilir. Yanıt üretilir ve kullanıcıya döner — dışarıya hiçbir veri çıkmaz.

Bunu bir fabrika analojisiyle düşünün: müşterilere teslim ettiğiniz ürünü fabrika dışına çıkarmadan kalite kontrolden geçiriyorsunuz. Süreç içeriden yönetilir, dışarıya hiçbir ara ürün gitmez.

KVKK ve Self-Hosted Yapay Zeka İlişkisi

KVKK (6698 sayılı Kişisel Verilerin Korunması Kanunu) kişisel verinin yurt dışına aktarılmasını açık rıza veya yeterli koruma güvencesi şartına bağlamıştır. Bulut tabanlı yapay zeka modellerine müşteri adı, TC kimlik numarası, adres, telefon, e-posta gibi veriler içeren dosyalar yüklendiğinde bu şart ihlal edilmiş olabilir.

Self-hosted mimaride tüm işlem şirket ağı içinde kalır. KVKK denetimlerinde ve ISO 27001 süreçlerinde bu yapı doğrudan bir güvence belgesi işlevi görür.

OzBI'ın Self-Hosted Mimarisi

OzBI tamamen self-hosted çalışacak şekilde tasarlanmıştır. Docker imajı ile şirketin kendi sunucularına kurulum yapılır. Yapay zeka modeli, veritabanı bağlantıları ve tüm işlem katmanı şirket ağı içinde konuşlanır.

Bu mimarinin somut sonuçları:

Veri şirket dışına çıkmaz. Kullanıcının sorduğu soru, yapay zekanın ürettiği SQL sorgusu ve dönen analiz sonucu yalnızca şirketin kendi altyapısında işlenir.

Model seçimi esnektir. OpenAI GPT modellerine internet bağlantısı üzerinden erişilebilir ya da tamamen çevrimdışı çalışan Ollama modelleri tercih edilebilir. İnternet bağlantısı olmadan çalışan bir yapay zeka asistanı mümkündür.

Kurulum standarttır. Docker imajı, IT ekibinin 10 dakika içinde konuşlandırabileceği standart bir paket olarak sunulur.

Kimler İçin Kritik?

Finans sektörü: Bankacılık ve sigortacılık verisi son derece hassastır. Müşteri portföyü, risk skorları, işlem geçmişi hiçbir zaman üçüncü taraf sunucusuna gitmemeli.

Kamu ve yarı-kamu: Kurumlar için yurt dışı veri aktarımı yasal engellerle karşılaşabilir.

Üretim ve savunma tedarikçileri: Üretim formülleri, kapasite planları ve maliyet yapıları ticari sır kapsamındadır.

Sağlık hizmetleri: Hasta verisinin KVKK kapsamında korunması zorunludur.

Bulut Yapay Zeka vs Self-Hosted: Dürüst Karşılaştırma

Bulut tabanlı çözümler kurulum hızı ve model güncellemeleri açısından avantaj sunar. Aylık abonelik modeli başlangıç maliyetini düşük tutar. Ancak veri kontrolü şirkette değil sağlayıcıdadır, KVKK uyumluluğu belirsizdir ve internet bağlantısı kesintilerinde sistem çalışmaz.

Self-hosted çözümler başlangıçta daha fazla kurulum gerektirir. Buna karşın veri tam olarak şirkette kalır, yasal uyumluluk sağlanır, çevrimdışı çalışabilir ve uzun vadeli toplam sahip olma maliyeti (TCO) çoğunlukla daha düşüktür.

Bu karar aslında şu soruya verilen cevaba göre şekillenir: şirketinizin verisi bir ticari varlık mı, yoksa yönetilmesi gereken bir yük mü? Veriyi varlık olarak gören şirketler onu dışarıya çıkarmaz.