API, bir yazılımın başka bir yazılımın özelliklerini belirli kurallarla kullanmasını sağlayan arayüzdür; yapay zekâ modellerini kendi uygulamana bağlamanın standart yoludur.
API ne demek?
OpenAI, Anthropic ve Google gibi sağlayıcılar modellerini API üzerinden sunar: uygulaman promptu bir HTTP isteğiyle gönderir, modelin cevabını geri alır. Sohbet arayüzünden farklı olarak sıcaklık, maksimum token ve sistem promptu gibi ayarlar doğrudan kontrol edilebilir.
API kullanımı genellikle abonelikle değil, kullanılan token miktarına göre ücretlendirilir.
Yakın kavramlar
API AnahtarıAPI KeyAPI anahtarı, bir yapay zekâ servisine yapılan isteklerin kimden geldiğini doğrulayan ve faturalandırmayı o hesaba bağlayan gizli koddur.Altyapı, Donanım & APIToken MaliyetiToken PricingToken maliyeti, yapay zekâ API'lerinin kullanım ücretini girdi ve çıktı token sayısına göre, genellikle 1 milyon token başına fiyatla hesaplamasıdır.Altyapı, Donanım & APIHız SınırıRate LimitHız sınırı, bir API'ye belirli bir sürede gönderilebilecek istek ya da token sayısına sağlayıcının koyduğu üst sınırdır.Altyapı, Donanım & APIAraç ÇağırmaTool Calling / Function CallingAraç çağırma, bir dil modelinin gerektiğinde dış bir fonksiyonu, API'yi ya da aracı belirli parametrelerle kullanmaya karar vermesidir.Ajanlar, RAG & Araç KullanımıAkışlı YanıtStreamingAkışlı yanıt, modelin cevabının tamamlanmasını beklemeden, üretilen tokenlerin anında parça parça kullanıcıya gönderilmesidir.Dil Modelleri & Üretken YZİş Akışı OtomasyonuWorkflow Automationİş akışı otomasyonu, tekrar eden iş süreçlerinin yapay zekâ ve uygulama entegrasyonlarıyla insan müdahalesi olmadan ya da en az müdahaleyle yürütülmesidir.Ajanlar, RAG & Araç Kullanımı