Google ‘Gemini Decisions API’yi Duyurdu: Sıfır Çıktı Token’ı, 100 ms Altı Gecikme ve Milyon Token Başına 0,10 Dolar Maliyetle Programatik Karar Motoru
Google, Gemini Decision 1 modeliyle çalışan ve tek geçişte 1.000 bağımsız soruyu sıfır çıktı token’ı maliyetiyle değerlendiren Gemini Decisions API uç noktasını geliştiricilere açtı.

Google, yazılım geliştiricilerin otonom ajan iş akışlarında araç seçimi, istek yönlendirme, güvenlik bariyeri denetimi ve içerik sınıflandırma gibi kapalı küme kararlarını yüksek hız ve düşük maliyetle yürütmesi için tasarlanan Gemini Decisions API uç noktasını duyurdu. Google AI Studio ve güncellenen google-genai SDK’sı üzerinden erişime açılan yeni servis, bu görev için özel olarak eğitilen Gemini Decision 1 (gemini-decision-1) modeliyle çalışıyor.
Tek İleri Geçişte 1.000 Soru ve Sıfır Çıktı Token’ı
Geleneksel büyük dil modelleri basit bir sınıflandırma veya yönlendirme kararı için dahi metin tabanlı token dizileri üretirken, Gemini Decisions API açık uçlu metin üretimini tamamen devre dışı bırakıyor. Model metin üretmediği için çıktı token tüketimi her zaman sıfır olarak gerçekleşiyor ve uygulama katmanında karmaşık metin ayrıştırma ya da şema doğrulama hatalarıyla karşılaşma riski ortadan kalkıyor.
Geliştiriciler metin, görsel, ses, video ve PDF belgelerini kapsayan 256 bin token büyüklüğüne kadar tek bir ortak çok modlu girdi göndererek, bu girdi üzerinde aynı anda 1.000 adede kadar bağımsız soruyu tek bir ileri geçişte değerlendirebiliyor. Ortanca hesaplama gecikmesi 50 ila 100 milisaniye (uçtan uca 150 ila 250 milisaniye) aralığında seyrederken, soru sayısı artsa dahi yanıt süresi neredeyse sabit kalıyor.
Üç Yapılandırılmış Karar Tipi: Evet/Hayır, Seçim ve Puanlama
API’ye iletilen her karar sorgusu, doğrudan kalibre edilmiş olasılık ve güven skorları döndüren üç yapılandırılmış değerlendirme tipinden birine eşleniyor. Evet/Hayır (noul) tipi, bir önermenin doğruluğunu 0,01 ile 0,99 arasında olasılık skoruyla ölçerek güvenlik politikası ve uyumluluk kapılarında kullanılıyor.
Seçim (choice) tipi, 2 ila 255 aday seçenek arasından normalize edilmiş olasılık dağılımıyla en uygun hedefi belirleyerek gelen istemin pahalı bir muhakeme modeline mi yoksa hafif bir modele mi yönlendirileceğine karar veriyor. Puanlama (score) tipi ise girdiyi 2 ila 255 kademeli sıralı bir rubriğe göre derecelendirerek bağlam kalitesi ölçümü ve talep önceliklendirme senaryolarını üstleniyor.
Milyon Girdi Başına 0,10 Dolar ve Ücretsiz Çıktı Modeli
Paylaşılan ortak bağlam verisinin soru sayısından bağımsız olarak istek başına yalnızca bir kez ücretlendirildiği Gemini Decisions API, 1 milyon girdi token’ı başına 0,10 dolar ve 0 dolar çıktı token’ı fiyatlandırmasıyla kullanıma sunuldu. Google AI Studio üzerinde prototipleme için ücretsiz kullanım katmanı da sağlanan servis, yüksek trafik altında çalışan ajan yönlendiricileri ve gerçek zamanlı içerik denetim hatları için maliyetleri büyük ölçüde düşürüyor.
Yazılım mimarisi, mikroservis ekosistemleri ve üretken yapay zeka uygulamaları üzerine çalışıyorum. TastutanLabs çatısı altında geliştirici araçları ve SaaS ürünleri inşa ediyorum.
Bu analizin 6 kartlık görsel özetini Instagram'da inceleyin ve kaydedin
Her gün yazılım mimarisi, Java/JVM ve yapay zeka gelişmelerini kendi başına okunabilen 6 slaytlık Mini-Blog serileri halinde paylaşıyoruz.
Yorumlar (0)
Düşüncelerinizi Paylaşın
Henüz yorum yapılmamış. İlk yorumu siz yapın!
Bu Kategorideki Diğer İncelemeler
Vercel Board Ajan Mesaj Panosu ve CodeRabbit Verify Ajan Tabanlı QA Betası Kullanıma Açıldı
Vercel, insanlarla kodlama ajanlarını tek bir mesaj panosunda buluşturan Vercel Board altyapısını tüm planlara açarken; CodeRabbit ise PR incelemelerini canlı tarayıcı testlerine taşıyan CodeRabbit Verify katmanını ücretsiz açık betaya çıkardı.
Anthropic ‘Claude Code v2.1.328’ Yayınlandı: Çoklu Bulut Auto Mode, Code Mode ve Self-Hosted Runner Genişletmesi
Anthropic, Claude Code v2.1.328 güncellemesiyle Amazon Bedrock, Google Cloud ve Microsoft Foundry üzerinde Auto Mode desteğini devreye aldı; Code Mode ile self-hosted runner yeteneklerini genişletip terminal ve uzaktan kontrol kararlılığını artırdı.
OpenAI, ChatGPT Yavaşlamalarını Otonom Olarak Teşhis Eden Codex Destekli ‘Performance Factory’ Sistemini Tanıttı
OpenAI, ChatGPT'deki performans gerilemelerini bulut tabanlı Codex ajanları ve rakip inceleme oturumlarıyla otonom olarak tespit edip çözüm öneren Performance Factory mimarisini duyurdu. Sistem, üç ayda 1.700'den fazla inceleme yürüterek 600'ün üzerinde kök nedeni %70 doğruluk oranıyla teşhis etti.