Çağrı bazlı telemetri
Sağlayıcı, model, girdi / çıktı / önbellekten gelen token'lar, maliyet dökümü, ilk token süresi, çıktı token'ı başına süre, guardrail ve kişisel veri bayrakları, failover kaynağı, trace id — çağrı başına 28 AI alanı kaydedilir.
AI ekipleri · Telemetri
Her çağrıyı görün. Her zinciri izleyin. Herhangi bir isteği yeniden oynatın.
Apinizer'ın AI hattı prompt'ları, yanıtları, MCP çağrılarını ve A2A konuşmalarını tek bir Elasticsearch indeksinde — ve tek bir denetim defterinde — birleştirir. Maliyet sıçramaları, gecikme kuyruğu ve guardrail isabetleri aynı panolarda yaşar.
Sorun
AI gözlemlenebilirliği çoğu zaman birinin dizüstündeki bir not defteridir.
Model ekibinin elinde prompt örneklerinden oluşan bir tablo var. Platform ekibinde Prometheus var. Uyumluluk ekibinde hiçbir şey yok. 'Bu bize salı günü kaça mal oldu' sorusu gündeme geldiğinde üç araç birbirini tutmuyor. Apinizer her AI olayını — prompt, yanıt, araç çağrısı, agent konuşması — maliyet ve denetimle birlikte tek bir yere koyar. Salı sorusu tek bir sorguya dönüşür.
Yetenekler
Apinizer'ın buradaki rolü
Trace, zaman çizelgesi, yeniden oynatma
Bir proxy için canlı trace'i açın ve çağrıları gerçekleşirken izleyin. Zincirleme çağrılar tek bir trace ağacı oluşturur; zaman çizelgesi görünümü sürenin nereye gittiğini gösterir ve kaydedilmiş bir istek worker üzerinde yeniden oynatılarak aynı durum yeniden üretilebilir.
Maliyet + gecikme tek görünümde
Her AI kararının dengelediği iki sayı — çağrı bazında birleştirilmiş tek pano, sekiz boyutta ayrıştırılmış: kişi, grup, organizasyon birimi, uygulama, model, proje, deployment ve ekip.
Trafik kaydında giden araç çağrıları
Bir akışın çıkışta hangi MCP araçlarını ve A2A becerilerini — ve kaç kez — çağırdığı sıradan trafik kaydına yazılır; böylece "bu agent gerçekte ne yaptı" sorusunu yanıtlamak artık trace açmayı gerektirmez. İsteğin gerçekte ulaştığı sağlayıcı adresi de kendi sütununu alır ve query string olmadan kaydedilir; böylece URL'deki bir anahtar asla loga düşmez.
Politika bazlı çalışma süreleri
Yavaş bir istek, süreyi tüketen politikaya atfedilebilir — sıra, politika türü ve milisaniye cinsinden süre trafik kaydında yer alır. Varsayılan olarak kapalıdır ve log hedefi başına açılır; böylece üretimde tam gövde trace'in yükü olmadan atıf elde edersiniz.
Adli zincirler
Herhangi bir agent zincirini uçtan uca yeniden kurun — MCP çağrıları ve A2A sıçramaları dâhil. Sorgu; prompt'ları araç çağrılarına, yanıtlara ve kullanıcıya dönen cevaplara bağlar.
Anomali + önem derecesine duyarlı alarmlar
AI metriklerinde EMA + Bollinger bantları. Gecikme kuyruğu patladığında nöbetçiye P1; isabet kaçırma oranı sinsice arttığında özete P3.
Denetim defterine bağlanır
Her AI olayı denetim defterinin yanında durur; aynı veri OpenTelemetry GenAI semantiğiyle OTLP üzerinden, bir Prometheus metrik ailesiyle ve içe aktarılabilir bir Grafana panosuyla yerel olarak dışa aktarılır. Düzenleyicinin AI kararlarına dair soruları adli bir projeyle değil, kayıtlı bir sorguyla çözülür.
Kullanım senaryoları
Canlı ortamda bu şöyle görünür…
- Bankacılık
İstanbul'daki banka, itiraz edilen bir chatbot yanıtını tam prompt'a kadar izliyor
Müşteri şikâyeti belirli bir yanıta atıf yaptı; denetim sorgusu prompt'u, modeli, yönlendirme kararını ve araç çağrılarını saniyeler içinde döndürdü. Yanıt: tek paragraf, hafta sonuna kadar.
- Sigorta
Münih'teki sigortacı, bir salı sabahı sessizce tırmanan harcamayı yakalıyor
Sanal tüketici başına token harcaması EMA üst bandını kırdı; anomali alarmı günlük bütçe devrilmeden tetiklendi. Ekip bir istemcideki retry fırtınasını buldu, sınırladı ve taban çizgisine dönüldü.
30 dakikadan kısa sürede yakalandı
- Kamu sektörü
Paris'teki kurum, bir AI kararının kişisel veriye dayanmadığını kanıtlıyor
Denetim sorgusu: 'bu vatandaşın dosyası için modele hangi bağlam girdi'. Sonuç: kişisel veri yok; maskeleme güvenlik duvarı işini yapmış. Şikâyet kanıtla kapatıldı.
- Telekom
Madrid'deki operatör, prompt maliyetini destek kaydı NPS'iyle birleştiriyor
AI tarafından çözülen kayıtlar prompt maliyetleriyle etiketleniyor; NPS puanı başına maliyet hesaplanıyor. Finans, birim ekonomisini kendi panosunda görüyor.
- Medya
Milano'daki yayıncı, kötü bir yanıtı tahmin etmek yerine yeniden üretiyor
Editör bir yanıtı işaretliyor; ekip kaydedilmiş trace'i açıyor, tam prompt'u ve getirilen RAG bağlamını okuyor, ardından isteği worker üzerinde yeniden oynatarak farklı bir modele karşı yeniden üretiyor.
- Perakende
Amsterdam'daki pazar yeri, bir iş ortağı şikâyeti sonrasında agent zincirini yeniden kuruyor
Zincir MCP → A2A → MCP → API hattını izledi. Denetim sorgusu her aşamayı sırasıyla döndürdü; kök neden bir gün içinde iş ortağına iletildi.
- Sağlık
Prag'daki hastane, klinik chatbot'un gecikme kuyruğunda alarm kuruyor
P99 gecikmesi bir gecede 2,4 saniyeden 3,9 saniyeye kaydı. Anomali alarmı tetiklendi; kök neden sağlayıcı tarafındaki bir bozulmaydı; yönlendirme 90 saniyede ikincile geçti.
- Enerji
Bakü'deki altyapı şirketi, operasyon agent'ı telemetrisini analitik agent'ı telemetrisinden ayırıyor
Operasyonlarda daha sıkı, analitikte daha gevşek alarmlar var. Aynı gözlemlenebilirlik yüzeyi, agent sınıfı başına farklı politikalar.
Önerilen ürünler
İlk tercih edeceğimiz ürünler
AI Gateway
Çağrı bazlı telemetri, trace DAG'ı, yeniden oynatma, zincir yeniden kurma.
AI Gateway sayfasını açınAnalytics Engine
Maliyet, gecikme, token ve denetimi tek görünümde sunan Elasticsearch tabanlı panolar.
Analytics sayfasını açınMonitoring
AI metriklerinde anomali tespiti; nöbet düzeninize bağlı, önem derecesine duyarlı alarmlar.
Monitoring sayfasını açınAPI Gateway
AI trafiği ve API trafiği tek gözlemlenebilirlik düzleminde — tüketici ve denetimle birleştirilmiş.
Gateway sayfasını açınKaynaklar
Keşfetmeye devam edin
AI gözlemlenebilirliğine genel bakış
Çağrı bazlı telemetri, trace yeniden oynatma, adli zincirler.
AI Gateway
Her AI olayının düştüğü yer — yönlendirme, önbellekleme ve güvenlik duvarlarının yanında.
Analytics Engine
Maliyet, gecikme, token'lar ve denetim tek Elasticsearch üzerinde.
Monitoring
Anomali tespiti ve önem derecesine duyarlı aksiyon zincirleri.
Uyumluluk hattı
AI gözlemlenebilirliği KVKK / GDPR / BDDK kanıtlarını nasıl besler.
Mimariye genel bakış
AI telemetrisinin platformdaki yeri.
Daha fazlasını keşfedin
İlgili kullanım senaryoları
Birleştirilmiş AI gözlemlenebilirliği
Her çağrı. Her zincir. Her alarm.
Seçtiğiniz bir Kubernetes üzerinde 30 dakikalık uygulamalı bir tur — telemetri, trace, alarmlar, denetim.