YAWBDB unterstützt eigene OpenAI-kompatible Endpunkte für KI-gestützte Funktionen.
So kannst du deinen eigenen Modellanbieter nutzen, statt dich nur auf die Standard-OpenAI-API zu verlassen.
🗺️ Unterstützte Funktionsbereiche
Eigene Endpunkte lassen sich für Funktionen wie diese verwenden:
- AI Response
- Random Bot Interactions
- AudioToText-Transkription
- Audio-Recording-Transkription
- KI-Zusammenfassungen von Audio Recording
Jede Funktion kann eigene Endpunkt-Einstellungen haben.
🔗 Kompatible Anbieter
Jeder OpenAI-kompatible Endpunkt kann funktionieren, abhängig von Anbieter und Modell.
Beispiele:
- Ollama
- LM Studio
- OpenRouter
- Selbst gehostete OpenAI-kompatible Dienste
- Andere kompatible APIs
Prüfe immer, ob dein Anbieter den Endpunkttyp unterstützt, den du verwenden möchtest.
📋 Das Modell auswählen
Jedes Modellfeld in den Funktionseinstellungen hat eine Schaltfläche Modelle auflisten.
Sie fragt den Endpunkt, auf den dieses Feld zeigt, was er anbietet, und stellt die Antwort als Vorschläge bereit:
- Wenn der eigene Endpunkt des Felds aktiviert und seine URL ausgefüllt ist, kommt die Liste von deinem Endpunkt, mit deinem eigenen Schlüssel dafür;
- andernfalls kommt sie von OpenAI, mit dem API-Schlüssel der Funktion.
Die Vorschläge werden danach gefiltert, was das Feld wirklich verwenden kann. Ein Transkriptionsfeld bietet keine Chat-Modelle an, und ein Chat-Feld bietet keine Embedding-, Moderations-, Bild- oder Sprachmodelle an: Diese würden beim Speichern akzeptiert und erst bei der ersten Nachricht fehlschlagen.
Das Feld bleibt absichtlich Freitext. Eine Modellliste zu veröffentlichen ist im OpenAI-Format optional, daher antworten manche selbst gehosteten Server gar nicht darauf, und ein selbst gehostetes Modell heißt so, wie sein Betreiber es genannt hat. Lässt sich die Liste nicht abrufen, wird der Grund unter dem Feld angezeigt, und du kannst den Namen einfach eintippen.
🔌 Endpunkt für das Textmodell
Für KI-Textantworten kannst du Folgendes festlegen:
- Eigenes Textmodell aktivieren
- Eigene Basis-URL
- Eigener API-Schlüssel, falls erforderlich
- Modellname, falls in den Funktionseinstellungen verfügbar
Beispiel für das Format der Basis-URL:
http://localhost:11434/v1
Die genaue URL hängt von deinem Anbieter ab.
🔌 Endpunkt für die Transkription
Für die Audio-Transkription kannst du einen eigenen Whisper-kompatiblen Endpunkt festlegen.
Er wird von Funktionen wie AudioToText und Audio Recording verwendet, wenn die Transkription aktiviert ist.
🔌 Endpunkt für das Zusammenfassungsmodell
Audio Recording kann einen separaten eigenen Endpunkt für KI-generierte Meeting-Zusammenfassungen nutzen.
So kannst du ein Modell für die Transkription und ein anderes für die Zusammenfassungen verwenden.
👁️ Ausgeblendete Felder
Felder für eigene Endpunkte sind standardmäßig ausgeblendet.
Sie erscheinen nur, wenn der jeweilige Schalter für den eigenen Endpunkt aktiviert ist. So bleibt die Konfigurationsseite übersichtlicher für alle, die keine eigenen Anbieter brauchen.
🔐 Sicherheitshinweise
- Gib API-Schlüssel nicht an nicht vertrauenswürdige Nutzer weiter.
- Stelle sicher, dass dein Endpunkt aus der Umgebung erreichbar ist, in der YAWBDB läuft.
- Verwende für entfernte Endpunkte nach Möglichkeit HTTPS.
- Informiere dich, wie dein Anbieter Daten speichert oder verarbeitet.
- Teste zuerst mit einem kurzen Prompt oder einer kurzen Audiodatei.
🔧 Fehlerbehebung
🚨 Die KI antwortet nicht
Prüfe Basis-URL, API-Schlüssel und Modellnamen. Vergewissere dich außerdem, dass der Endpunkt erreichbar ist.
🚨 Die Transkription schlägt fehl
Stelle sicher, dass der Endpunkt Whisper-kompatibel ist und das gesendete Audiodateiformat unterstützt.
🚨 Zusammenfassungen schlagen fehl, aber die Transkription funktioniert
Prüfe die Einstellungen des separaten Endpunkts für das Zusammenfassungsmodell.
🏠 Localhost funktioniert nicht
localhost` kann sich auf den Container oder den Server selbst beziehen. Verwende eine Adresse, die vom laufenden Dienst aus erreichbar ist.