Çağrı bazında token muhasebesi
Prompt token'ları, yanıt token'ları, toplam token'lar, maliyet — çağrı başına yakalanır. Ay sonunda faturadan geriye doğru hesap çıkarma yok.
AI ekipleri · Maliyet mühendisliği
Apinizer'ın AI Gateway'i; prompt token'larını, yanıt token'larını, önbellek tasarruflarını ve yedeğe geçişleri çağrı başına sayar. Her sayı tüketici, ekip, model ve zaman bazında toplanır — her maliyet kararının payı ve paydası.
Sorun
Tedarikçi faturaları size aylık bir toplam verir. Toplam; harcamayı hangi özelliğin, hangi ekibin veya hangi prompt'un yarattığı hakkında hiçbir şey söylemez. Mühendisler göremediklerini optimize edemez. Apinizer her token'ı gateway'de yakalar: prompt ve yanıt, önbellekten ve yedekten, tüketiciye, projeye, ekibe ve modele etiketlenmiş — platformun geri kalanının kullandığı Elasticsearch'ün aynısında.
Yetenekler
Prompt token'ları, yanıt token'ları, toplam token'lar, maliyet — çağrı başına yakalanır. Ay sonunda faturadan geriye doğru hesap çıkarma yok.
Tüketici, proje, ekip, model, uygulama, dağıtım — her çağrı etiketlenir. Toplulaştırma bir finans projesi değil, kayıtlı bir sorgudur.
Kimlik bilgisi, organizasyon, proxy veya proje başına tavanlar — token veya dolar cinsinden; dakika, saat, gün veya ay bazında. Eşik alarmları yüzde 50, 80, 90 ve 100'de tetiklenir; kimse tavanı ona çarparak öğrenmez.
Bu ekip gerçekte ne harcıyor? Bir milyon çağrıdaki prompt + yanıt token'larını toplayın; ekibe, projeye, modele göre sıralayın.
Tasarrufları açıkça görün — önbellek olmasa, akıllı yönlendirme olmasa ne kadar harcanacaktı. Platformu, ürettiği sayılarla gerekçelendirin.
Token muhasebesi denetim defteriyle birleşir. Finans, mühendislik ve denetim tek gerçeği görür.
Kullanım senaryoları
Her ekip kendi AI harcamasını mevcut FinOps panosunda görüyor. Maliyet raporları aylık geliyor; merkezi platform hak ettiği takdiri geri kazanıyor.
%100 atfedilmiş
Hasar özeti trafiği çağrı başına 0,04 € tutuyor; olumsuz sinyal analizi 1,20 €. Yüksek hacimli ekipler küçük modelde kalıyor; pahalı iş yükleri sınırlandırılıp gözden geçiriliyor.
Her genel müdürlüğün çeyreklik bir tavanı var. Gerçek zamanlı harcama panoları, dönem kapanışından tüm sürprizleri kaldırıyor.
Harcama X €; önbellek tasarrufu Y €. Pazarlama, platformun yatırım getirisini finansa tek grafikle sunuyor.
Tasarruf aylık görünür
Model bazlı maliyet, kısa prompt'ların hacmin %90'ı ve maliyetin %30'u olduğunu gösterdi. Yönlendirme bunları 7B bir modele kaydırdı; çağrı başına maliyet %70 düştü.
Anomali dedektörü, token harcamasını taban çizgisine göre izliyor. Gece 3'te başlayan bir prompt döngüsü alarmı tetikledi; nöbetçi 9 dakikada durdurdu.
Her token, onu tetikleyen iş akışına atfediliyor. İş akışı sahipleri vaka başına maliyeti görüyor ve prompt'larını doğrudan optimize ediyor.
Vardiya düzeyinde kotalar. Hatalı bir agent döngüsü bir gecede 4 bin € harcayacaktı; kısıtlama 200 €'da durdurdu; nöbetçi deploy'u geri aldı.
4 bin € → 200 € tasarruf
Önerilen ürünler
Çağrı bazında muhasebe, çok eksenli atıf, bütçeler, kotalar — her AI çağrısında yerleşik.
AI Gateway sayfasını açınGecikme, hata oranı ve trafiğin yanında maliyet panoları.
Analytics sayfasını açınHarcama hızında anomali tespiti; bütçe eşiklerinde önem derecesine duyarlı alarmlar.
Monitoring sayfasını açınÖnbellek tasarrufları, model harcamasıyla aynı görünümde ölçülür.
Cache sayfasını açınKaynaklar
Çağrı bazında sayım, çok eksenli atıf, panolar ve bütçe uygulaması.
Token muhasebesinin yaşadığı yer — yönlendirme, önbellekleme ve güvenlik duvarlarıyla yan yana.
Diğer her şeyle aynı Elasticsearch üzerinde maliyet ve tasarruf panoları.
Aynı sorunun yönetici perspektifi.
Harcama hızında anomali tespiti ve önem derecesine duyarlı alarmlar.
Maliyet düzleminin AI hattındaki yeri.
Daha fazlasını keşfedin
İş birimi olarak token'lar
30 dakikalık uygulamalı bir tanıtım — çağrı bazında muhasebe, atıf, bütçeler, panolar — seçtiğiniz bir Kubernetes üzerinde.