Çoklu LLM yönlendirme
Prompt'ları yetenek, maliyet, gecikme ve egemenliğe göre yönlendirin — gerektiğinde öncü, yeterliyse bölgesel, egemenlik şartsa açık ağırlıklı model.
AI ekipleri · Platform
Her AI çağrısı gateway üzerinde yaşar.
Apinizer'ın AI Gateway'i prompt'ları yönlendirir, MCP sunucularını yönetir, agent kimliklerini kaydeder, kötü girdileri filtreler ve maliyeti API'ler için zaten kullandığınız denetim izine işler.
Sorun
Gateway'siz AI trafiği, bütçesini ayırmadığınız ikinci bir platformdur.
Gateway'i atlayan ekipler paralel bir evrenle karşılaşır — env değişkenlerinde model anahtarları, uygulamalara doğrudan bağlanmış MCP araçları, kimliksiz konuşan agent'lar, faturaya kadar görünmeyen maliyetler. Apinizer AI'ı yalnızca bir başka hat olarak ele alır: aynı Manager, aynı Worker'lar, aynı denetim, aynı kimlik. AI düzlemi bir yan proje değil, bir özelliktir.
- 1
AI düzlemi
- 5+
AI protokolü
LLM · MCP · A2A · embedding · görü
- 0
denetim boşluğu
Yetenekler
Apinizer'ın buradaki rolü
MCP sunucu yönetişimi
Her MCP aracı kayıtlı, kapsamı belirli, denetimli. Agent'lar yalnızca izin verdiğiniz araçları görür; her çağrı denetim defterine işlenir.
Agent'tan agent'a gateway
A2A kimliği, kapsamı ve güveni gateway üzerinde yaşar. Agent'lar insanlar gibi kimlik doğrular; güven sınırını gateway korur.
Prompt güvenlik duvarları
Uçta injection, jailbreak, içerik güvenliği, DLP ve checksum doğrulamalı kişisel veri maskeleme — kodlanmış payload'lar herhangi bir koruma okumadan önce çözülür ve bir kalıbın yetmediği yerde arkalarında harici bir guardrail motoru durur. Kötü prompt'lar engellenir; temiz prompt'lar kayda geçer; uyumluluk sorusunun yanıtı tek sorgudur.
Önbellek + maliyet kontrolü
Semantik önbellek ücretli çağrıları kestirmeden karşılar; tüketici bazlı token ataması her prompt'u bir maliyet kalemine dönüştürür.
Envanter ve saklama
Tek ekran, kurulumdaki her AI varlığını listeler — proxy'ler, sağlayıcılar, modeller, bilgi tabanları, vektör veritabanları — ve gölge AI raporu, kataloğa kimsenin eklemediği hâlde çağrılan modelleri adlandırır. Saklama profilleri, bir alışverişin ne kadarının kayda geçeceğine karar verir — tam kayıttan hiç kayda değin.
AI gözlemlenebilirliği
Gecikme, hatalar, token'lar, anomaliler — API'lerinizle aynı Elasticsearch yüzeyi. Herhangi bir AI çağrısını tüketiciye, projeye ve modele kadar izleyin.
Kullanım senaryoları
Canlı ortamda bu şöyle görünür…
- Bankacılık
İstanbul'daki banka, müşteri hizmetleri LLM'ini çekirdek API'lerle aynı gateway'in arkasına alıyor
AI asistanı, API düzleminin kimlik doğrulama, denetim ve hız limiti politikasını devralıyor. Düzenleyici 'model nerede yaşıyor' diye sormayı bırakıyor.
1 kontrol düzlemi
- Otomotiv
Münih'teki OEM, araç telemetri API'leri ile araç içi asistanın LLM trafiğini birleştiriyor
Bağlantılı araç API'leri ile asistan tek gateway'i, tek kimliği, tek trace'i paylaşıyor. AI devreye alımı platform ihalesini yeniden açtırmıyor.
- Devlet
Riyad'daki bakanlık, vatandaş chatbot'unu mevcut kontroller altında devreye alıyor
Chatbot yalnızca bir başka endpoint. Kimlik doğrulama, denetim ve hız limiti vatandaş API yüzeyinden devralınıyor — yeni bir uyumluluk yazısına gerek yok.
- Sigorta
Paris'teki sigortacı, hasar AI'ını hasar API'leriyle aynı gateway'den geçiriyor
Underwriting model çağrıları, hasar verileriyle aynı erişim kontrolünden geçiyor. İkisi için tek pano; ikisi için tek denetçi yanıtı.
- Telekom
Milano'daki operatör, bağımsız AI yönlendirici POC'sini 5 ay sonra emekliye ayırıyor
Çoklu LLM yönlendirme, semantik önbellekleme, MCP yönetişimi ve gözlemlenebilirlik Apinizer ile birlikte geliyor. Bağımsız yığın devreden çıkarılıyor.
1 tedarikçi emekliye ayrıldı
- Perakende
Amsterdam'daki perakendeci, tedarikçi API trafiği ile tedarikçi agent'larının A2A trafiğini birlikte yönetiyor
B2B iş ortakları aynı gateway'e geliyor; entegrasyon agent'ları gateway üzerinde A2A agent'ları olarak yayınlanıyor. Aynı SLA, aynı denetim, aynı kimlik.
- Kamu sektörü
Orta Avrupa'daki bakanlık, yerel dildeki prompt'ları önce bölgesel bir modele yönlendiriyor
Özetleme trafiğinin %90'ı bölge içinde barındırılan bir modelle karşılanıyor; öncü sağlayıcılar yalnızca çekişmeli durumlarda kullanılıyor.
%90 bölgesel
- Enerji
Bakü'deki altyapı şirketi, operasyon agent'larını operatör ağı içinde açık ağırlıklı modellerde çalıştırıyor
Yerel 70B model, SCADA'ya komşu agent'lara hizmet veriyor. Barındırılan sağlayıcılar operasyon dışı kullanıma ayrılmış. Agent ağ sınırını asla geçmiyor.
Bir çağrı nasıl ilerler
Yönlendir, uygula, önbelleğe al, denetle — bu sırayla.
- Adım 01
Yönlendir
Modeli yetenek, maliyet, gecikme ve politika belirler — öncü, bölgesel, açık ağırlıklı veya önbellek.
- Adım 02
Uygula
Prompt güvenlik duvarı, kişisel veri maskeleme, kapsam kontrolü ve tüketici hız limiti upstream çağrıdan önce çalışır.
- Adım 03
Önbelleğe al
Vektör indeksindeki semantik eşleşme, anlamı daha önce yanıtlanmış ücretli çağrıları kestirmeden karşılar.
- Adım 04
Denetle
Prompt, yanıt, token'lar, maliyet, tüketici, proje — hepsi trafiğinizin geri kalanıyla birlikte Elasticsearch'te indekslenir.
Önerilen ürünler
İlk tercih edeceğimiz ürünler
AI Gateway
AI hattı — yönlendirme, MCP yönetişimi, A2A gateway, güvenlik duvarları, semantik önbellek.
AI Gateway sayfasını açınIdentity Manager
API tüketicileri, AI tüketicileri ve agent kimlikleri için tek kimlik yüzeyi.
Identity sayfasını açınAnalytics Engine
Model, proje ve tüketici bazında telemetri — API'lerinizle aynı panolarda.
Analytics sayfasını açınMonitoring
Sağlayıcı sağlığı, gecikme probları, her AI hattında anomali tespiti.
Monitoring sayfasını açınKaynaklar
Keşfetmeye devam edin
AI Gateway'e genel bakış
API'lerinizle aynı Manager, Worker, denetim ve kimlik yüzeyi üzerindeki AI hattı.
AI Gateway ürünü
Çoklu LLM yönlendirme, MCP yönetişimi, A2A gateway, güvenlik duvarları, önbellek.
Mimariye genel bakış
AI hattının topolojideki yeri — kontrol düzlemi, veri düzlemleri, sağlayıcılar.
AI gözlemlenebilirliği
Herhangi bir AI çağrısını tüketiciye, projeye, modele ve maliyete kadar izleyin.
Token ekonomisi
Tüketici bazlı maliyet raporları her prompt'u nasıl bir maliyet kalemine dönüştürür.
Birleşik API ve AI platformu
Strateji: tek platform, her protokol, her denetim — AI dâhil.
Daha fazlasını keşfedin
İlgili kullanım senaryoları
Tek AI düzlemi
Her AI çağrısını zaten güvendiğiniz gateway'e taşıyın.
Seçtiğiniz bir Kubernetes üzerinde 30 dakikalık uygulamalı bir tur — yönlendirme, MCP, A2A, güvenlik duvarları, önbellek, gözlemlenebilirlik.