Bölüm 8: Sağlayıcılar ve Model Kataloğu¶
Sayfanın Amacı¶
Sağlayıcılar & Modeller sayfası (/admin/providers), Arceris'in upstream AI sağlayıcılarıyla bağlantısını ve bu sağlayıcılar üzerinden sunulan modellerin kataloğunu tek bir yerden yönetmeyi sağlayan operasyon yüzeyidir. Sağlayıcı kayıt defteri, her sağlayıcı için özenle seçilmiş (curated) model listesi, arka plan fiyatlandırma kataloğu eşitlemesi, imzalı model fiyat beslemesi ve erişim kurallarının hedefleyebileceği model kayıt defteri bu tek sayfada toplanmıştır. Eski sürümlerde dağınık halde bulunan Settings → Providers / Settings → Model Pricing sekmeleri ve Model Providers sayfasının yerini almıştır.
Sayfa iki sekmeden oluşur: Sağlayıcılar & Modeller (sağlayıcı kayıt defteri ve sağlayıcı bazlı modeller) ve Model Fiyatlandırma (global model fiyat tablosu). Sağlayıcılar sekmesinin altında üç yardımcı kart daha çalışır: arka plan fiyatlandırma kataloğu (otomatik katalog eşitleme), model fiyat beslemesi ve ACL uygulanabilir modeller kayıt defteri.
Bu sayfada tanımlanan sağlayıcıların ağ geçidi içindeki yeri (yönlendirme, kimlik, Model ACL ve maliyet zorlamasıyla ilişkisi) için Bölüm 2'ye bakınız.
Sağlayıcılar Sekmesi — AI Sağlayıcı Kayıt Defteri¶
Sekmenin ana yüzeyi AI Sağlayıcı Kayıt Defteri tablosudur: Ad, ID, Temel URL, Biçim, Durum (Etkin / Devre Dışı) ve Yerleşik sütunlarıyla tüm sağlayıcılar listelenir; her satır düzenlenebilir, yerleşik olmayanlar silinebilir. Yerleşik sağlayıcılar ağ geçidi başlatıldığında hazır gelir: OpenAI, Anthropic, Google, OpenRouter, Groq, Mistral, DeepSeek ve xAI. Sağlayıcı Ekle düğmesiyle kuruma özel sağlayıcılar (ör. Cerebras, Z.AI veya kurum içi LLM sunucusu) tanımlanır.
Sağlayıcı kayıt formu alanları:
| Alan | Açıklama |
|---|---|
id / name |
Sağlayıcının tanımlayıcısı ve görünen adı (ör. openai, Şirket İçi LLM). ID, kayıt sonrası değiştirilemez. |
base_url |
Sağlayıcının API kök URL'si. HTTPS zorunludur; SSRF koruması nedeniyle localhost, loopback adresleri, özel IP aralıkları ve bulut metadata adresleri (169.254.169.254) reddedilir (aşağıdaki self-hosted istisnasına bakınız). |
| Kurum içi (self-hosted) servis | Operatörün özellikle beyan ettiği kurumun kendi LLM servisi. İşaretlendiğinde temel URL düz HTTP ve özel ağ (RFC1918) adresi olabilir. Bulut metadata adresleri ve loopback her durumda reddedilir. |
api_format |
Sağlayıcının konuştuğu API biçimi: OpenAI, Anthropic veya Google. |
| Kimlik doğrulama stili | Bearer Token, API Anahtarı Başlığı veya Sorgu Parametresi. API anahtarı başlığı seçilirse Kimlik Doğrulama Başlığı (ör. x-api-key) ve Kimlik Doğrulama Öneki (ör. Bearer) alanları açılır. |
chat_completions_path |
Yalnızca OpenAI biçimli sağlayıcılarda görünür. Temel URL'ye eklenen sohbet tamamlama yolu; göreli path olmalıdır (scheme/host içeremez). Varsayılan için boş bırakılır (/v1/chat/completions uygulanır); temel URL'si zaten sürüm yolunu içeren sağlayıcılarda (z.ai code plan, Azure dağıtımları) /chat/completions gibi ayarlanır. |
model_patterns |
Sağlayıcıda geçerli kabul edilen model ad desenleri; satır başına bir glob (ör. gpt-*). |
enabled |
Sağlayıcının trafiğe açık olup olmadığı. |
Kısıtlar ve davranış kuralları:
- Yerleşik sağlayıcılar silinemez; bunlar ürünün dağıtımla gelen parçasıdır, yalnızca alanları düzenlenebilir. Özel sağlayıcılar veritabanında kalıcı olarak saklanır.
- Kullanıcı kaynaklı sağlayıcı talepleri: Onay akışı (Approval Workflow) üzerinden bir kullanıcı yeni sağlayıcı talep ederse, talep onaylandığında sağlayıcı kaydı otomatik oluşturulur ve model listesinde
user_requestedkaynak etiketiyle görünür. - Gölge AI'dan sağlayıcı tanımlama (#1197): Açık proxy üzerinden gözlemlenen ama katalogda olmayan bir AI hostu (ör.
api.z.ai) artık Gölge AI sayfasında görünür ve her satır Provider olarak tanımla eylemi taşır. Bu eylem, bu sayfadaki Sağlayıcı Ekle formunu gözlemlenen hostla ön dolu olarak açar (ID hosttan türetilir, temel URLhttps://<host>olarak yazılır). Katalog dışı hostlar yalnızca algılama amacıyla tanınır — asla otomatik olarak yakalanmazlar; kaydetmek operatörün bilinçli tercihidir ve o host için TLS yakalama ile tüm istem kontrolleri devreye girer. Kaydedene kadar canlı araç trafiği akmaya devam eder. Gölge AI sayfasının bütünü Bölüm 23'te anlatılır.
Sağlayıcı Bazlı Model Yönetimi¶
Bir sağlayıcıyı düzenlerken formun içinde Erişilebilir Modeller bölümü açılır: o sağlayıcı üzerinden erişilebilen modellerin operatöre yönelik, özenle seçilmiş listesi. Her modele model_id, isteğe bağlı görünen ad, giriş/çıkış fiyatı (USD/1M token) ve bağlam uzunluğu girilir; liste tek tek silinebilir.
Buradaki iki davranış önemlidir:
- Bir fiyat burada belirlendiğinde maliyet takibini yönlendirir. Sağlayıcıya eklenen modelin fiyatı canlı cost tracking'e yazılır; fiyat kuralları iki yerde ayrı tutulmaz.
- Fiyatı boş bırakılan modeller arka plan kataloğundan otomatik doldurulur (bkz. aşağıdaki katalog kartı).
Listedeki her model, nereden geldiğini gösteren bir kaynak rozeti taşır: elle eklenenler manual, katalogdan doldurulanlar catalog, kullanıcı talebiyle gelenler user_requested.
Arka Plan Fiyatlandırma Kataloğu — Otomatik Katalog Eşitleme¶
Kayıt defterinin altındaki katalog kartı, ürünle birlikte gelen binlerce referans modellik fiyat/bağlam kataloğunun durumunu gösterir. Kart üç bilgi verir: son eşitlemenin durumu (last sync ok / last sync failed / henüz eşitleme yok), katalogdaki referans model sayısı ve son eşitleme zamanı — eşitleme hiç yapılmadıysa "Ürünle gelen anlık görüntü kullanılıyor" yazar. Eşitleme başarısızsa gerekçe kartın üzerinde görünür.
Sync now düğmesi kataloğu isteğe bağlı yeniler. Bu katalog bir tarayıcı değil, fiyat/bağlam referansıdır: sağlayıcı bazlı model listesinde fiyatı boş bırakılan modeller buradan otomatik dolar. Operasyon ekibinin her yeni model için elle piyasa fiyatı araştırmasına gerek kalmaz.
Model Fiyat Beslemesi¶
Fiyatlar ürün ikilisinin (binary) içinde dağıtılır. Bu yüzden dışa erişimi olmayan bir kurulumda fiyatlar kurulum anında donar: o tarihten sonra çıkan bir modelin fiyatı yoktur, kullanımları $0 olarak kaydedilir ve hiç kaydedilmeyen bir maliyet aylık bütçe limitine hiçbir zaman işlemez — maliyet limiti aylar sonra, arayüzde tek bir uyarı olmadan sessizce etkisizleşir. Model fiyat beslemesi kartı bu görünmez arızayı yüzeye çıkarır.
Kartın rozeti beslemenin durumunu söyler: ürünle gelen sürüm (henüz besleme uygulanmamış), güncel veya eski. Uygulanmış bir beslemede sürüm numarası, model sayısı, üretim tarihi ve yaşı, kaynağıyla (otomatik eşitleme / elle yükleme) birlikte gösterilir. İki ayrı uyarı satırı vardır: besleme eskiyse (o tarihten sonra çıkan modeller fiyatlanamaz) ve kayıtlı modellerden herhangi birinin fiyatı yoksa — fiyatı olmayan her model maliyet limitinde bir delik anlamına gelir; örnek model adları da listelenir. Fiyatı eksik modelin neye mal olduğunu anlatan "fiyatlanamadı" notları için Bölüm 26'ya bakınız.
Fiyatlar nasıl güncellenir bağlantısı üç kanalı açıklar:
- Otomatik — kurulum Arceris lisans hub'ına erişiyorsa fiyatlar düzenli olarak çekilir (varsayılan yol).
- İç ayna — kurum beslemeyi kendi artifact sunucusundan sunuyorsa özel besleme adresi girilir.
- Hava boşluğu — hiç dışa erişim yokken imzalı besleme dosyası Besleme dosyası yükle düğmesiyle elle yüklenir.
Güncelleme kanalı ayarında otomatik çekme açılıp kapatılır ve özel adres boş bırakıldığında lisans hub'ı kullanılır. Hangi kanaldan gelirse gelsin her besleme bu makinede imzasıyla doğrulanır; geçersiz imza, bilinmeyen anahtar ve sürüm düşürme girişimi reddedilir — yani kanal seçimi güvenlik değil, sadece erişilebilirlik kararıdır.
Model Fiyatlandırma Sekmesi¶
Bu sekme global model fiyat tablosunu yönetir: her satır bir model adı, sağlayıcı etiketi ve USD/1M token bazında giriş/çıkış maliyeti içerir. Model ekleme, düzenleme ve silme bu tablodan yapılır; sağlayıcı alanı zorunludur, maliyetler negatif olamaz.
Bu tablo, hangi ingress'ten geldiğine bakılmaksızın tüm maliyet hesaplamalarının tek doğruluk kaynağıdır: şeffaf proxy, açık proxy, /local/ ve /gateway/v1 hep aynı fiyat tablosundan fiyatlar. Sağlayıcı sekmesindeki özenle seçilmiş liste bir fiyat girildiğinde bu tabloya da yazılır; buradaki girdiler katalog beslemesinden gelen fiyatların üzerine geçer.
Fiyat arama esnektir: model adı önce birebir, sonra sağlayıcı önekli anahtarla (ör. glm-4.6 → zai/glm-4.6) aranır; web arayüzlerinin ürettiği yazım farkları (ör. gpt-5-5 ↔ gpt-5.5, -thinking eki, Gemini'nin -preview'sız web adı) çözümlenir. Fiyatı bulunamayan bir modelde token ve istem sayaçları yine işler, maliyet $0 kalır — bu yüzden yukarıdaki "fiyatı yok" uyarısını izlemek operasyonel olarak önemlidir.
ACL Uygulanabilir Modeller¶
Sağlayıcılar sekmesinin son kartı, Access Management kurallarının ve model kimliği otomatik tamamlamasının hedefleyebileceği modellerin kayıt defteridir. Bu eksen, sağlayıcının gerçekte sunduğu modellerden (yukarıdaki özenle seçilmiş liste) ayrıdır: buradaki kayıt "bu model kimliği kural yazımında seçilebilir" anlamına gelir. Kayıt defteri boş olsa bile Access Management kuralları serbest metin model kimliği kabul eder. Model erişim kurallarının yazımı ve atanması Bölüm 11'de, model kuralları kütüphanesi Bölüm 16'da anlatılır.
Model Erişimi Önizlemesi¶
Model Erişimi bir izin listesidir (allow-list): kural atamayan her model varsayılan olarak kapalıdır. Bu, beklenmedik bir sonuca yol açabilir — bir kullanıcıya yalnızca DENY google:* atamak, Google'ı değil ChatGPT ve Claude'yu da kapatır, çünkü hiç izin kuralı onları kapsamaz.
Bunu görünür kılmak için Access Management, Model Erişimi ataması kaydedilmeden önce gerçek politika motorundan bir önizleme hesaplar ("kaydedildikten sonra: Google kapalı, OpenAI açık…") ve bir DENY'nin incelediği tüm sağlayıcıları kapatması hâlinde amber bir uyarı gösterir; kaydetme yanıtı da aynı şekilde uyarır. Bir hedefin detay sayfası, hedefin bugün hangi sağlayıcılara ulaştığını tarayıcı (şeffaf proxy) ve API kanalları ayrı ayrı, her satırda gerekçesiyle ("kapsayan izin kuralı yok", kapatan kuralın adı, "denetlenmiyor", "hava boşluğu") listeler; aynı tablo atama sihirbazındaki önizlemede de görünür. Aynı yanıtta kapsanamayan durumlar not olarak belirtilir: Model ACL uygulanmıyorsa (ör. lisans yok), hava boşluğu modundaysa veya izin bir ağ/grup kuralından geliyorsa önizleme bunu söyler. Bu yüzeylerin bütünü Bölüm 11 ve Bölüm 16'dadır; sağlayıcı listesi bu bölümdeki kayıt defterinden gelir.
Sağlayıcı Anahtarları ve Kimlik¶
Anahtarlar nasıl saklanır¶
Kullanıcıların gerçek sağlayıcı API anahtarları (kendi girdiği ya da admin'in atadığı) Arceris'te AES-256-GCM ile şifreli olarak saklanır; ne arayüzde ne API'de geri okunmaz, yalnızca istek anında sunucuda çözülüp sağlayıcıya iletilir. Aynı sağlayıcı anahtarı sistemde bir kez girilebilir; başka bir kullanıcı aynı anahtarı self-service yolla ekleyemez. Şifreleme anahtarı (PROVIDER_KEY_ENCRYPTION_KEY) tanımlı değilse bağlantı uçları açıkça hata verir — akış sessizce çalışmış gibi davranmaz.
Admin ataması ve kullanıcı panelindeki gateway anahtarı (#1448)¶
Admin bir kullanıcıya ya da kullanıcının grubuna (LDAP grupları dahil) sağlayıcı anahtarı atayabilir (Bölüm 12). Atanan anahtar kullanıcıya hiçbir zaman gösterilmez; kullanıcı panelinde ilgili sağlayıcı "Yöneticiniz tarafından yönetiliyor" olarak görünür ve kullanıcı kendi ağ geçidi anahtarını oluşturup iptal edebilir, sağlayıcı anahtarının kendisine dokunamaz.
Kullanıcı panelinde her sağlayıcı satırı Ağ geçidi anahtarı oluştur eylemi sunar (sağlayıcı başına bir adet). Bu anahtarla yapılan istekler, o sağlayıcı için "Kullanımda" işaretli anahtarı kullanır; hangi anahtarın geçerli olduğu her satırda görünür — öncelik sırası önce kullanıcının kendi anahtarı, sonra admin'in kullanıcıya atadığı, sonra gruba atanan anahtar. Arkasında sağlayıcı anahtarı kalmamış bir ağ geçidi anahtarı "Sağlayıcı anahtarı yok" ile işaretlenir. Kullanıcı paneli tarafının tamamı Bölüm 12'dedir.
Grup atamaları, kullanıcının grup adlarıyla büyük/küçük harf ve baş/son boşluk farkını yok sayarak eşleşir; hiçbir kullanıcıya ulaşmayan grup atamaları açılışta günlüğe yazılır.
Gateway anahtarıyla birleşik uç kullanımı (/gateway/v1)¶
API istemcileri Arceris'i bir OpenAI uyumlu uç olarak kullanır: mevcut OpenAI SDK/kodunda yalnızca adres ve anahtar değişir. Kimlik, sağlayıcı anahtarı değil ağ geçidi anahtarıdır (arceris_gw_...) — gerçek anahtar cihaza ya da koda hiç girmez.
curl https://ARCERIS-ADRESINIZ/gateway/v1/chat/completions \
-H "Authorization: Bearer arceris_gw_xxxxxxxx" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-oss-120b",
"messages": [{"role": "user", "content": "Merhaba!"}]
}'
from openai import OpenAI
client = OpenAI(
base_url="https://ARCERIS-ADRESINIZ/gateway/v1",
api_key="arceris_gw_xxxxxxxx", # ağ geçidi anahtarınız
)
resp = client.chat.completions.create(
model="gpt-oss-120b",
messages=[{"role": "user", "content": "Merhaba!"}],
)
Bu uçtan geçen her istekte ürünün tüm kontrolleri geçerlidir: PII tespiti ve maskeleme, istem guard, Model Erişimi, hız/maliyet limitleri ve tam istem logu. Akış (streaming) desteklenir; uzun düşünen modeller ve yavaş self-hosted modeller dahil bir akış model yazdığı sürece devam eder — eski sürümlerdeki beş dakikalık kesme davranışı kaldırılmıştır (#1635); akışı yalnızca sağlayıcının bitirmesi, kopması veya istemcinin bağlantıyı kapatması sonlandırır. Sağlayıcıya sabitli (provider-bound) bir ağ geçidi anahtarı isteği daima o sağlayıcıya yönlendirir. Sağlayıcı tarafına giden Anthropic Message Batches ve OpenAI Responses API çağrıları da istem denetimi kapsamındadır; desteklenmeyen bir /gateway/v1/* yolu artık yönetim panelinin HTML'i yerine JSON bir 404 döner (#1467). Birleşik ağ geçidinin mimarideki yeri Bölüm 2'dedir.
Sağlayıcı Sıhhı¶
Bu sayfada per-provider bir "bağlantı testi" düğmesi yoktur; sağlayıcı erişilebilirliği sürekli izlenir ve iki yerde görünür:
- Hazırlık denetimi
provider_dns: AI hostlarının DNS üzerinden çözümlenebildiğini denetler ve tarayıcı AI hostlarını da kapsar. Varsayılan olarak uyarı üretir; hazırlık denetimi gerçekten başarısız olsun isteniyorsa Settings → Alerts & Health'ten yükseltilir. DNS çalışmadığında Dashboard ve System → Network amber bir bant gösterir; bant DNS düzelince sonraki yüklemede kendiliğinden kaybolur. upstream_unreachabledenetim kayıtları: Erişilemeyen her AI hostu için 10 dakikada bir, gerekçesiyle (DNS, zaman aşımı, bağlantı reddi, TLS) bir kayıt yazılır. Kayıtlar Bölüm 25'teki Audit Logs'ta izlenir.
Lisans ve Operasyon Notları¶
- Bu sayfa tüm planlarda görünür; herhangi bir lisans kilidi yoktur. (Model ACL zorlamasının kendisi lisansa tabidir; lisans yoksa erişim tablosu "uygulanmıyor" gerekçesiyle buna dikkat çeker.)
- Yerleşik sağlayıcılar OpenAI, Anthropic, Google, OpenRouter, Groq, Mistral, DeepSeek ve xAI olarak gelir; kuruma özel sağlayıcılar bunlara eklenir.
- Özel sağlayıcı eklerken SSRF kurallarına uymak zorunludur; iç ağlara sızmak amacıyla kötü niyetli
base_urlgirişleri reddedilir. Self-hosted servis beyanı, kurum içi adresleri meşru kılar — bu yüzden operatör beyanıdır, otomatik çıkarım değil. chat_completions_pathmutlak URL değil göreli path olarak girilmelidir; aksi hâlde sistem reddeder.- Gölge AI'dan "Provider olarak tanımla" yoluyla açılan form ön dolu gelir; hostu ve anahtar alanlarını kaydetmeden doğrulamak operatörün sorumluluğundadır.