YAPAY ZEKÂ ENTEGRASYONU
Ürününüzün içinde çalışan yapay zekâ.
Altun Core, LLM entegrasyonunu ayrı bir araç olarak değil, kullanıcınızın zaten açtığı ekranın içinde bir özellik olarak kurar. Model çağrısı sunucu tarafında kalır, çıktı değerlendirilir, model yanıt vermediğinde ürün çalışmaya devam eder.
Kullanılan teknolojiler
- OpenAI / Gemini API
- LangChain
- Vektör veri tabanı
- Python
- FastAPI
Sağlayıcı ve araçlar projeye göre seçilir.
Ürün içinde yapay zekâ ne demek
Dört kalıp işin büyük kısmını karşılar. Dördü de kullanıcının zaten kullandığı ekranda çalışır, ayrı bir araç değildir.
- 01Asistan ve sohbet: kullanıcı ürünün içinde sorar, cevap ürünün kendi verisinden gelir.
- 02Doküman ve form okuma: yüklenen dosyadan alanlar çıkarılır, kullanıcıya doldurulmuş hâlde gösterilir.
- 03Sınıflandırma ve yönlendirme: gelen kayıt, talep veya mesaj etiketlenir ve doğru ekrana düşer.
- 04Kendi içeriğiniz üzerinde arama: soruya en yakın parçalar önce sizin içeriğinizde bulunur, sonra modele verilir. RAG denen yöntem budur.
Dördü de aynı altyapıyı paylaşır; genellikle biriyle başlamak yeterlidir.
Nasıl kurulur
Yapay zekâ özelliği ürünün geri kalanıyla aynı kurallara tabidir: sürüm kontrolü, gözden geçirme, geri alabilme.
- 01Model sağlayıcısı sunucu tarafındaki bir API'nin arkasında durur; anahtarlar istemciye çıkmaz.
- 02İstemler ve modelin çağırabileceği araçlar kod deposunda tutulur, sürümlenir, değişikliği okunabilir.
- 03Çıktılar örnek girdilerden oluşan sabit bir kümeyle değerlendirilir; istem her değiştiğinde aynı küme tekrar çalışır.
- 04Model yanıt vermediğinde veya yanıt kullanılamadığında devreye giren bir yedek yol bulunur.
- 05Geri alınamaz işlemlerde insan onayı adımı kalır.
Veri ve gizlilik
Verinizin hangi model sağlayıcısına gittiği, nerede saklandığı ve eğitimde kullanılmaması için hangi ayarın açıldığı yazılı olarak belirtilir. Verinin dışarı hiç çıkmaması gerekiyorsa kendi sunucunuzda çalışan bir model seçeneği değerlendirilir.
Bu bir sızıntı olmayacağı garantisi değil; hangi verinin nereye gittiğinin yazılı kaydıdır.
Maliyet ve sınırlar
Yapay zekâ özelliği sabit maliyetli bir ekran değildir. Her istek ayrı ücretlendirilir ve cevap o anda üretilir.
- 01Maliyet istek sayısına ve işlenen metin miktarına göre değişir; tasarım aşamasında tahmin edilir, yayına alındıktan sonra ölçülür.
- 02Yanıt süresi sıradan bir sorgudan uzundur; arayüz bunu bekleyecek şekilde tasarlanır.
- 03Model yanlış ama ikna edici cevap verebilir. Cevabın dayandığı kaynak gösterilir, kritik adımlarda onay istenir.
- 04Neyin doğru cevap sayıldığı yazılmadan özellik yayına alınmaz.
Nereden başlanacağını netleştirin.
Elinizdeki ürünü, eklemek istediğiniz özelliği ve bunun için kullanılabilecek veriyi anlatın. Hangi kalıbın uyduğu, neyin ölçüleceği ve maliyetin nereye oturduğu ilk görüşmede konuşulur.
Proje başlat