O YAWBDB aceita endpoints personalizados compatíveis com a OpenAI para as funcionalidades com IA.
Assim, você pode usar seu próprio provedor de modelos em vez de depender apenas da API padrão da OpenAI.
🗺️ Áreas de funcionalidades compatíveis
Os endpoints personalizados podem ser usados em funcionalidades como:
- AI Response
- Interações aleatórias do bot
- Transcrição do AudioToText
- Transcrição da Gravação de áudio
- Resumos de IA da Gravação de áudio
Cada funcionalidade pode ter suas próprias configurações de endpoint personalizado.
🔗 Provedores compatíveis
Qualquer endpoint compatível com a OpenAI pode funcionar, dependendo do provedor e do modelo.
Exemplos:
- Ollama
- LM Studio
- OpenRouter
- Serviços compatíveis com a OpenAI hospedados por você
- Outras APIs compatíveis
Confirme sempre que o seu provedor aceita o tipo de endpoint que você quer usar.
📋 Escolher o modelo
Todo campo de modelo nas configurações da funcionalidade vem com um botão Listar modelos.
Ele pergunta ao endpoint para o qual aquele campo aponta o que ele oferece e mostra a resposta como sugestões:
- se o endpoint personalizado do campo estiver ativado e sua URL preenchida, a lista vem do seu endpoint, usando a sua própria chave;
- caso contrário, ela vem da OpenAI, usando a chave de API da funcionalidade.
As sugestões são filtradas para o que o campo realmente pode usar. Um campo de transcrição não oferece modelos de chat, e um campo de chat não oferece modelos de embedding, moderação, imagem ou fala - esses seriam aceitos ao salvar e falhariam só na primeira mensagem.
O campo continua sendo texto livre de propósito. Publicar uma lista de modelos é opcional no formato da OpenAI, então alguns servidores hospedados por você nem respondem a isso, e um modelo hospedado por você é chamado do nome que o dono lhe deu. Se não for possível obter a lista, o motivo aparece sob o campo e você pode simplesmente digitar o nome.
🔌 Endpoint do modelo de texto
Para as respostas de texto da IA, você pode configurar:
- Ativar o modelo de texto personalizado
- URL base personalizada
- Chave de API personalizada, se necessário
- Nome do modelo, se disponível nas configurações da funcionalidade
Exemplo de formato de URL base:
http://localhost:11434/v1
A URL exata depende do seu provedor.
🔌 Endpoint de transcrição
Para a transcrição de áudio, você pode configurar um endpoint personalizado compatível com o Whisper.
Ele é usado por funcionalidades como o AudioToText e a Gravação de áudio quando a transcrição está ativada.
🔌 Endpoint do modelo de resumo
A Gravação de áudio pode usar um endpoint personalizado separado para os resumos de reuniões gerados por IA.
Assim, você pode usar um modelo para a transcrição e outro para os resumos.
👁️ Campos ocultos
Os campos de endpoint personalizado ficam ocultos por padrão.
Eles só aparecem quando a chave do endpoint personalizado correspondente está ativada. Isso deixa a página de configuração mais limpa para quem não precisa de provedores personalizados.
🔐 Notas de segurança
- Não compartilhe chaves de API com usuários em quem você não confia.
- Confirme que o seu endpoint é acessível a partir do ambiente em que o YAWBDB roda.
- Use HTTPS em endpoints remotos sempre que possível.
- Entenda como o seu provedor armazena ou processa os dados.
- Teste primeiro com um prompt pequeno ou um arquivo de áudio curto.
🔧 Solução de problemas
🚨 A IA não responde
Verifique a URL base, a chave de API e o nome do modelo. Confirme também que o endpoint está acessível.
🚨 A transcrição falha
Confirme que o endpoint é compatível com o Whisper e aceita o formato do arquivo de áudio enviado.
🚨 Os resumos falham, mas a transcrição funciona
Verifique as configurações do endpoint do modelo de resumo, que é separado.
🏠 O localhost não funciona
localhost` pode se referir ao próprio contêiner ou servidor; use um endereço acessível a partir do serviço em execução.