YAWBDB ondersteunt eigen OpenAI-compatibele endpoints voor AI-functies.
Zo kun je je eigen modelprovider gebruiken in plaats van alleen de standaard OpenAI API.
🗺️ Ondersteunde functiegebieden
Eigen endpoints kun je gebruiken voor functies zoals:
- AI Response
- Random Bot Interactions
- AudioToText-transcriptie
- Transcriptie van Audio Recording
- AI-samenvattingen van Audio Recording
Elke functie kan eigen endpointinstellingen hebben.
🔗 Compatibele providers
Elk OpenAI-compatibel endpoint kan werken, afhankelijk van de provider en het model.
Voorbeelden:
- Ollama
- LM Studio
- OpenRouter
- Zelf gehoste OpenAI-compatibele diensten
- Andere compatibele API's
Controleer altijd of je provider het type endpoint ondersteunt dat je wilt gebruiken.
📋 Het model kiezen
Bij elk modelveld in de functie-instellingen staat een knop Modellen tonen.
De knop vraagt aan het endpoint waar dat veld naar verwijst wat het aanbiedt, en toont het antwoord als suggesties:
- als het eigen endpoint van het veld is ingeschakeld en de URL is ingevuld, komt de lijst van jouw endpoint, met je eigen sleutel daarvoor;
- anders komt de lijst van OpenAI, met de API-sleutel van de functie.
De suggesties worden gefilterd op wat het veld echt kan gebruiken. Een transcriptieveld toont geen chatmodellen, en een chatveld toont geen embedding-, moderatie-, afbeeldings- of spraakmodellen - die zouden bij het opslaan worden geaccepteerd en pas bij het eerste bericht mislukken.
Het veld blijft bewust vrije tekst. Een modellijst publiceren is optioneel in het OpenAI-formaat, dus sommige zelf gehoste servers geven er helemaal geen antwoord op, en een zelf gehost model heet zoals de eigenaar het heeft genoemd. Als de lijst niet kan worden opgehaald, staat de reden onder het veld en kun je gewoon de naam intypen.
🔌 Endpoint voor het tekstmodel
Voor AI-tekstantwoorden kun je instellen:
- Eigen tekstmodel inschakelen
- Eigen basis-URL
- Eigen API-sleutel, indien nodig
- Modelnaam, indien beschikbaar in de functie-instellingen
Voorbeeld van een basis-URL:
http://localhost:11434/v1
De exacte URL hangt af van je provider.
🔌 Endpoint voor transcriptie
Voor audiotranscriptie kun je een eigen Whisper-compatibel endpoint instellen.
Dit wordt gebruikt door functies zoals AudioToText en Audio Recording wanneer transcriptie is ingeschakeld.
🔌 Endpoint voor het samenvattingsmodel
Audio Recording kan een apart eigen endpoint gebruiken voor door AI gemaakte vergadersamenvattingen.
Zo kun je één model gebruiken voor transcriptie en een ander model voor samenvattingen.
👁️ Verborgen velden
Velden voor eigen endpoints zijn standaard verborgen.
Ze verschijnen pas als de bijbehorende schakelaar voor het eigen endpoint is ingeschakeld. Zo blijft de configuratiepagina overzichtelijk voor gebruikers die geen eigen providers nodig hebben.
🔐 Beveiligingstips
- Deel API-sleutels niet met gebruikers die je niet vertrouwt.
- Zorg dat je endpoint bereikbaar is vanuit de omgeving waarin YAWBDB draait.
- Gebruik waar mogelijk HTTPS voor externe endpoints.
- Weet hoe je provider gegevens opslaat of verwerkt.
- Test eerst met een korte prompt of een kort audiobestand.
🔧 Problemen oplossen
🚨 De AI reageert niet
Controleer de basis-URL, de API-sleutel en de modelnaam. Controleer ook of het endpoint bereikbaar is.
🚨 Transcriptie mislukt
Zorg dat het endpoint Whisper-compatibel is en het verzonden audiobestandsformaat ondersteunt.
🚨 Samenvattingen mislukken, maar transcriptie werkt
Controleer de instellingen van het aparte endpoint voor het samenvattingsmodel.
🏠 Localhost werkt niet
localhost kan verwijzen naar de container of de server zelf. Gebruik een adres dat bereikbaar is vanuit de draaiende dienst.