Şirket İçi Yapay Zeka Asistanı: LLM Entegrasyonu Nasıl Yapılır?

Şirket İçi Yapay Zeka Asistanı Nedir?

Şirket içi yapay zeka asistanı, çalışanların günlük iş sorularını, prosedür bilgilerini veya veri sorgularını yönelteceği, şirketin kendi verileriyle beslenmiş bir AI chatbot veya arama motorudur. "Hangi müşterinin sözleşmesi bu ay bitiyor?", "İnsan kaynakları prosedürü nedir?", "Bu ürünün teknik özellikleri neler?" gibi soruları yanıtlayabilir.

Genel ChatGPT'den farkı şudur: şirkete özel bilgiye sahiptir, yetkisiz sorulara cevap vermez, hassas verileri dışarıya sızdırmaz ve kullanım kaydı tutulabilir.

Mimari Seçenekler: Bulut mu, On-Premise mi?

Kriter	Bulut LLM (OpenAI/Claude API)	On-Premise / Private
Model kalitesi	En yüksek (GPT-4o, Claude)	İyi (Llama 3 70B, Mistral)
Veri gizliliği	Veri sağlayıcıya gidiyor	Tam şirket içinde kalıyor
Altyapı maliyeti	Token başına ödeme, düşük başlangıç	GPU sunucu yatırımı gerekli
Güncelleme	Otomatik model güncellemeleri	Model güncellemeleri manuel
Uygun senaryo	Veri hassasiyeti orta, hızlı başlangıç	Hukuk, finans, sağlık — kritik veri

Temel Bileşenler

• LLM Katmanı: GPT-4o-mini (bulut) veya Llama 3 8B/70B (on-premise). Model seçimi performans, maliyet ve gizlilik dengesine göre yapılır.
• Bilgi Tabanı (RAG): Şirket dökümanları vektöre dönüştürülerek pgvector veya Qdrant'a kaydedilir. Asistan soruları bu bilgi tabanından yanıtlar.
• Kimlik Doğrulama ve Yetkilendirme: Hangi çalışan hangi bilgiye erişebilir? Departman bazlı erişim kontrolü. Örneğin finans dökümanları sadece finans ekibine görünür.
• Sohbet Geçmişi: Çok dönüşlü konuşmalar için önceki mesajlar bağlam olarak korunur.
• İzleme ve Kayıt: Hangi sorular soruldu, hangi yanıtlar üretildi, hata durumları — denetim ve iyileştirme için kayıt altına alınır.
• Kullanıcı Arayüzü: Dahili web uygulaması, Slack botu, Teams entegrasyonu veya mobil uygulama olarak sunulabilir.

Veri Gizliliği ve KVKK

Şirket içi AI asistanı kurulurken en kritik soru: "Müşteri verileri, çalışan kişisel verileri veya ticari sırlar asistanın bilgi tabanında yer alacaksa güvenlik nasıl sağlanır?"

• Bulut LLM kullanıyorsanız: Kişisel tanımlanabilir verileri (isim, TC, e-posta) RAG'e girmeden önce anonim hale getirin. Sözleşme maddelerini ve anonim hale getirilmiş verileri kullanın.
• On-premise tercih ediyorsanız: Ollama ile Llama 3 veya Mistral modellerini şirket sunucusunda çalıştırın. Hiçbir veri dışarı çıkmaz.
• Karma yaklaşım: Hassas olmayan dökümanlar bulut LLM ile, hassas veriler on-premise LLM ile işlenir.
• KVKK kaydı: Çalışanların AI asistanıyla etkileşimlerinin kaydedileceği ve bu kayıtların nasıl kullanılacağı bildirilmelidir.

Yaygın Kullanım Senaryoları

• İK Asistanı: "İzin prosedürü nedir?", "Hangi belgeler gerekli?", "Yan haklar neler?" — İnsan kaynakları dökümanlarına dayalı yanıtlar.
• Satış Bilgi Asistanı: Ürün teknik özelliklerini, fiyat listelerini ve rekabet karşılaştırmalarını anında sunan sistem. Satış ekibinin müşteri görüşmesi hazırlık süresini kısaltır.
• Hukuki Döküman Asistanı: Sözleşme şablonları, önemli maddeler ve hukuki prosedürler hakkında hızlı bilgi. (Hukuki tavsiye vermez; sadece döküman bilgisi sunar.)
• Teknik Destek Asistanı: Hata kodlarını açıklayan, sorun giderme adımlarını yönlendiren, log analizine yardımcı olan iç araç.
• Onboarding Asistanı: Yeni çalışanların şirket prosedürleri, araçlar ve kültür hakkında sorularını yanıtlayan rehber.

Nexsol ile Şirket İçi AI Asistanı

Nexsol Teknoloji olarak şirket içi yapay zeka asistanı projelerini ihtiyaca göre hem bulut hem on-premise mimaride kuruyoruz. Süreç: keşif görüşmesi → veri envanteri → mimari seçimi → RAG kurulumu → kullanıcı arayüzü → test → canlıya alma. LLM danışmanlığı ve ücretsiz proje analizi sayfalarımızı inceleyebilirsiniz.