Bankalarda GenAI: On-Premise mi, Bulut mu?

Bankalar GenAI kullanırken veri lokalizasyonu, güvenlik, model kalitesi ve maliyet arasında denge kurmak zorunda. On-premise, bulut ve hibrit seçeneklerin karşılaştırması.

Bankalar üretken yapay zekâdan en çok fayda sağlayabilecek sektörlerin başında geliyor: müşteri hizmetleri, doküman işleme, kredi analizi, mevzuat takibi, çalışan destek asistanları… Ama bankacılık aynı zamanda verinin en sıkı korunduğu sektörlerden biri. Bu nedenle bankalarda GenAI projelerinin ilk ve en kritik sorusu genellikle şu oluyor: Model nerede çalışacak?

Türkiye'de düzenleyici çerçeve

Türkiye'de bankaların bilgi sistemleri, BDDK'nın Bankaların Bilgi Sistemleri ve Elektronik Bankacılık Hizmetleri Hakkında Yönetmeliği'ne tabi. Yönetmelik, bankaların birincil ve ikincil sistemlerini yurt içinde bulundurmasını gerektiriyor. Bu sistemler için bulut hizmeti kullanıldığında, hizmet sağlayıcının sistemlerinin ve yedeklerinin de Türkiye'de olması gerekiyor.

Buna KVKK'nın yurt dışına veri aktarımı kuralları ve bankacılık sır saklama yükümlülükleri eklendiğinde, müşteri verisinin yurt dışındaki genel bulut LLM servislerine gönderilmesi çoğu senaryoda mümkün olmuyor. Sektör kaynaklarına göre BDDK, yapay zekâya özel ek düzenlemeler üzerinde de çalışıyor.

Üç seçenek

1. On-premise: Model bankanın veri merkezinde

Açık ağırlıklı (open-weight) bir dil modeli bankanın kendi GPU altyapısında çalıştırılır.

  • Artıları: Veri kurum dışına çıkmaz, tam kontrol, regülasyon uyumu en kolay seçenek, yüksek hacimde kullanım başına maliyet düşük
  • Eksileri: GPU yatırımı, kurulum ve işletim uzmanlığı gerektirir, en güçlü kapalı modellere erişim yoktur

2. Bulut: Yönetilen LLM servisleri

Model, bir bulut sağlayıcısının yönetilen servisi üzerinden kullanılır.

  • Artıları: En güçlü modellere hızlı erişim, altyapı yatırımı yok, hızlı başlangıç
  • Eksileri: Veri lokalizasyonu ve aktarım kısıtları, sağlayıcıya bağımlılık, yüksek hacimde maliyet artışı

AWS'nin Mayıs 2026'da İstanbul'da açtığı Local Zone, veri yerelleştirme gereksinimleri için yeni bir seçenek sunuyor. Ancak Local Zone'da şu an temel altyapı servisleri (EC2, S3, EKS gibi) bulunuyor; yönetilen GenAI servisleri yer almıyor. Yani Local Zone üzerinde kendi modelinizi çalıştırabilirsiniz, ama yönetilen LLM servislerini yurt içinde kullanmak için bu yeterli değil.

3. Hibrit: Veriye göre doğru yer

Pratikte birçok banka için en mantıklı yol, veri sınıfına göre karar vermek:

  • Müşteri verisi, kredi dosyaları, iç dokümanlar → On-premise açık modeller
  • Kamuya açık bilgiler, anonimleştirilmiş veriler, genel verimlilik işleri → Uygun güvencelerle bulut

Karar kriterleri

Kriter On-premise Bulut Hibrit
Veri gizliliği ve regülasyon ✅ En güçlü ⚠️ Kısıtlı ✅ Veriye göre
Model kalitesi İyi (açık modeller) En iyi (kapalı modeller) İkisi birden
Başlangıç hızı Yavaş Hızlı Orta
İlk yatırım Yüksek Düşük Orta
Yüksek hacimde maliyet Düşük Yüksek Orta
Operasyon yükü Yüksek Düşük Orta

Açık modellerin yükselişi

Birkaç yıl öncesine kadar on-premise seçeneğin en büyük dezavantajı model kalitesiydi. Bugün yüksek performanslı açık ağırlıklı modeller ve vLLM gibi verimli servis yazılımları sayesinde, doküman analizi, özetleme ve kurumsal bilgi asistanları gibi birçok bankacılık senaryosu kurum içinde başarıyla çalıştırılabiliyor. Ekonomik açıdan da yüksek ve sürekli kullanımda kendi altyapınızın API servislerine göre daha avantajlı hale gelebildiği bir eşik bulunuyor.

Hangi senaryo nerede?

Senaryo Önerilen yaklaşım
Kredi dosyası ve finansal tablo analizi On-premise
Müşteri şikâyeti sınıflandırma On-premise
İç mevzuat ve prosedür asistanı On-premise
Kamuya açık mevzuat ve haber takibi Bulut veya on-premise
Pazarlama metni taslakları (müşteri verisi olmadan) Bulut
Yazılım geliştirme asistanları Politikaya ve koda göre

Sonuç

Bankalarda GenAI için "bulut mu, on-premise mi" sorusunun tek bir cevabı yok. Doğru cevap; verinin sınıfına, regülasyona, kullanım hacmine ve kurumun yetkinliklerine göre veriliyor. Çoğu banka için yol, kritik verinin kurum içinde kaldığı hibrit bir mimariden geçiyor.

Bankacılık sektöründe kurum içinde ve bulutta GenAI çözümleri geliştirme deneyimimizle On-Premise Yapay Zekâ Altyapısı, GenAI ve LLM Çözümleri ve AWS Danışmanlığı hizmetleri sunuyoruz.


Kaynaklar

Bu yazıyla ilgili ücretsiz analiz · 3 dk

AB Yapay Zekâ Tüzüğü Kapsam Analizi

Yapay zekâ sisteminiz AB Yapay Zekâ Tüzüğü kapsamında mı, hangi risk sınıfında ve hangi tarihten itibaren hangi yükümlülükler geçerli?

Hemen başla
Çağrı Aksu
Çağrı AksuKurucu, MLTeam

20+ yıl yapay zeka ve veri bilimi deneyimi. Hakkımızda →

Sıkça Sorulan Sorular

Bankalar ChatGPT gibi bulut LLM servislerini kullanabilir mi?

Müşteri verisi içeren senaryolarda genellikle hayır; BDDK'nın bilgi sistemleri yönetmeliği, KVKK'nın yurt dışı aktarım kuralları ve sır saklama yükümlülükleri ciddi kısıtlar getirir. Kamuya açık veya anonim verilerle sınırlı kullanım değerlendirilebilir.

BDDK bulut kullanımı hakkında ne diyor?

Bankaların birincil ve ikincil sistemlerini yurt içinde tutması gerekir; bu sistemler için bulut hizmeti kullanıldığında sağlayıcının sistemleri ve yedekleri de Türkiye'de olmalıdır.

On-premise LLM'ler yeterince iyi mi?

Günümüzde yüksek performanslı açık ağırlıklı modeller ve vLLM gibi servis yazılımlarıyla doküman analizi, özetleme ve kurumsal asistanlar gibi birçok bankacılık senaryosu kurum içinde başarıyla çalıştırılabiliyor.

Hibrit yaklaşım nedir?

Veriyi sınıfına göre ayırmaktır: müşteri ve kredi verisi kurum içindeki modellerde, kamuya açık veya anonim veriler uygun güvencelerle bulutta işlenir.

İlgili hizmet ve eğitimler

Yazılım Geliştirme

Üretken Yapay Zeka (GenAI) ve LLM Çözümleri

Kurumsal asistanlar, yapay zeka ajanları, doküman zekası ve bilgi erişim sistemleri. Bulutta veya kurum içinde (on-premise), verinizi dışarı çıkarmadan.

Detaylı bilgi →
Altyapı

AWS Danışmanlığı

AWS mimari tasarımı, Amazon Bedrock ve SageMaker AI ile yapay zeka iş yükleri, buluta geçiş ve maliyet optimizasyonu.

Detaylı bilgi →

Projenizi konuşalım

Eğitim, danışmanlık veya yazılım ihtiyacınızı paylaşın; en geç 2 iş günü içinde size dönüş yapalım.