YAWBDB, yapay zeka destekli özellikler için OpenAI uyumlu özel uç noktaları destekler.
Bu sayede yalnızca varsayılan OpenAI API'sine bağlı kalmak yerine kendi model sağlayıcınızı kullanabilirsiniz.
🗺️ Desteklenen özellik alanları
Özel uç noktalar şu gibi özelliklerde kullanılabilir:
- AI Response
- Random Bot Interactions
- AudioToText transkripsiyonu
- Audio Recording transkripsiyonu
- Audio Recording yapay zeka özetleri
Her özelliğin kendi özel uç nokta ayarları olabilir.
🔗 Uyumlu sağlayıcılar
Sağlayıcıya ve modele bağlı olarak OpenAI uyumlu her uç nokta çalışabilir.
Örnekler:
- Ollama
- LM Studio
- OpenRouter
- Kendi sunucunuzda barındırılan OpenAI uyumlu hizmetler
- Diğer uyumlu API'ler
Sağlayıcınızın kullanmak istediğiniz uç nokta türünü desteklediğinden her zaman emin olun.
📋 Modeli seçme
Özellik ayarlarındaki her model alanında bir Modelleri listele düğmesi bulunur.
Düğme, o alanın bağlı olduğu uç noktaya neyi sunduğunu sorar ve yanıtı öneri olarak gösterir:
- alanın özel uç noktası etkinse ve URL'si doldurulmuşsa, liste sizin uç noktanızdan, o uç nokta için kendi anahtarınızla alınır;
- aksi halde liste OpenAI'dan, özelliğin API anahtarıyla alınır.
Öneriler, alanın gerçekten kullanabileceği modellere göre filtrelenir. Bir transkripsiyon alanı sohbet modellerini sunmaz, bir sohbet alanı da gömme (embedding), moderasyon, görsel veya konuşma modellerini sunmaz. Bu modeller kayıt sırasında kabul edilir ama ilk mesajda hata verir.
Alan bilerek serbest metin olarak bırakılmıştır. OpenAI biçiminde model listesi yayınlamak isteğe bağlıdır, bu yüzden kendi sunucunuzda barındırılan bazı sunucular listeyi hiç yanıtlamaz ve kendi sunucunuzdaki bir model, sahibi ona ne ad verdiyse o adla çağrılır. Liste alınamazsa nedeni alanın altında gösterilir ve adı kendiniz yazabilirsiniz.
🔌 Metin modeli uç noktası
Yapay zeka metin yanıtları için şunları ayarlayabilirsiniz:
- Özel metin modelini etkinleştirme
- Özel temel URL
- Gerekiyorsa özel API anahtarı
- Özellik ayarlarında varsa model adı
Örnek temel URL biçimi:
http://localhost:11434/v1
Kesin URL sağlayıcınıza bağlıdır.
🔌 Transkripsiyon uç noktası
Ses transkripsiyonu için Whisper uyumlu özel bir uç nokta ayarlayabilirsiniz.
Transkripsiyon etkin olduğunda AudioToText ve Audio Recording gibi özellikler bunu kullanır.
🔌 Özet modeli uç noktası
Audio Recording, yapay zekayla üretilen toplantı özetleri için ayrı bir özel uç nokta kullanabilir.
Böylece transkripsiyon için bir model, özetler için başka bir model kullanabilirsiniz.
👁️ Gizli alanlar
Özel uç nokta alanları varsayılan olarak gizlidir.
Yalnızca ilgili özel uç nokta anahtarı etkinleştirildiğinde görünürler. Bu, özel sağlayıcıya ihtiyacı olmayan kullanıcılar için yapılandırma sayfasını daha sade tutar.
🔐 Güvenlik notları
- API anahtarlarını güvenmediğiniz kullanıcılarla paylaşmayın.
- Uç noktanızın YAWBDB'nin çalıştığı ortamdan erişilebilir olduğundan emin olun.
- Mümkün olduğunda uzak uç noktalar için HTTPS kullanın.
- Sağlayıcınızın verileri nasıl sakladığını ve işlediğini öğrenin.
- Önce küçük bir istem veya kısa bir ses dosyasıyla test edin.
🔧 Sorun giderme
🚨 Yapay zeka yanıt vermiyor
Temel URL'yi, API anahtarını ve model adını kontrol edin. Uç noktaya erişilebildiğinden de emin olun.
🚨 Transkripsiyon başarısız oluyor
Uç noktanın Whisper uyumlu olduğundan ve gönderilen ses dosyası biçimini desteklediğinden emin olun.
🚨 Özetler başarısız oluyor ama transkripsiyon çalışıyor
Ayrı özet modeli uç noktası ayarlarını kontrol edin.
🏠 Localhost çalışmıyor
localhost` kapsayıcının veya sunucunun kendisini gösteriyor olabilir, çalışan hizmetten erişilebilen bir adres kullanın.