YAWBDB admite endpoints personalizados compatibles con OpenAI para las funciones con IA.
Así puedes usar tu propio proveedor de modelos en lugar de depender solo de la API predeterminada de OpenAI.
🗺️ Áreas de funciones compatibles
Los endpoints personalizados se pueden usar en funciones como:
- Respuesta de IA
- Interacciones aleatorias del bot
- Transcripción de AudioToText
- Transcripción de Audio Recording
- Resúmenes con IA de Audio Recording
Cada función puede tener sus propios ajustes de endpoint personalizado.
🔗 Proveedores compatibles
Cualquier endpoint compatible con OpenAI puede funcionar, según el proveedor y el modelo.
Algunos ejemplos:
- Ollama
- LM Studio
- OpenRouter
- Servicios autoalojados compatibles con OpenAI
- Otras API compatibles
Comprueba siempre que tu proveedor admita el tipo de endpoint que quieres usar.
📋 Elegir el modelo
Cada campo de modelo de los ajustes de la función incluye un botón Listar modelos.
Este botón pregunta al endpoint al que apunta ese campo qué modelos ofrece, y te muestra la respuesta como sugerencias:
- si el endpoint personalizado del campo está activado y su URL está rellenada, la lista procede de tu endpoint, con tu propia clave;
- si no, procede de OpenAI, con la clave de API de la función.
Las sugerencias se filtran según lo que el campo puede usar realmente. Un campo de transcripción no ofrecerá modelos de chat, y un campo de chat no ofrecerá modelos de embeddings, moderación, imagen o voz: esos se aceptarían al guardar y fallarían en el primer mensaje.
El campo sigue siendo texto libre a propósito. Publicar una lista de modelos es opcional en el formato de OpenAI, así que algunos servidores autoalojados no responden a esta petición, y un modelo autoalojado se llama como su propietario lo haya llamado. Si no se puede obtener la lista, el motivo aparece bajo el campo y puedes escribir el nombre directamente.
🔌 Endpoint del modelo de texto
Para las respuestas de texto con IA, puedes configurar:
- Activar modelo de texto personalizado
- URL base personalizada
- Clave de API personalizada, si hace falta
- Nombre del modelo, si está disponible en los ajustes de la función
Ejemplo de formato de URL base:
http://localhost:11434/v1
La URL exacta depende de tu proveedor.
🔌 Endpoint de transcripción
Para la transcripción de audio, puedes configurar un endpoint personalizado compatible con Whisper.
Lo usan funciones como AudioToText y Audio Recording cuando la transcripción está activada.
🔌 Endpoint del modelo de resúmenes
Audio Recording puede usar un endpoint personalizado distinto para los resúmenes de reuniones generados con IA.
Así puedes usar un modelo para la transcripción y otro para los resúmenes.
👁️ Campos ocultos
Los campos de endpoint personalizado están ocultos de forma predeterminada.
Solo aparecen cuando se activa el interruptor del endpoint personalizado correspondiente. Así la página de configuración queda más limpia para quienes no necesitan proveedores personalizados.
🔐 Notas de seguridad
- No compartas las claves de API con usuarios en los que no confíes.
- Asegúrate de que tu endpoint sea accesible desde el entorno donde se ejecuta YAWBDB.
- Usa HTTPS para los endpoints remotos siempre que sea posible.
- Infórmate de cómo almacena o procesa los datos tu proveedor.
- Prueba primero con un mensaje corto o un archivo de audio breve.
🔧 Solución de problemas
🚨 La IA no responde
Comprueba la URL base, la clave de API y el nombre del modelo. Confirma también que el endpoint es accesible.
🚨 La transcripción falla
Asegúrate de que el endpoint sea compatible con Whisper y admita el formato del archivo de audio que se envía.
🚨 Los resúmenes fallan pero la transcripción funciona
Revisa los ajustes del endpoint del modelo de resúmenes.
🏠 Localhost no funciona
localhost` puede referirse al propio contenedor o servidor; usa una dirección accesible desde el servicio en ejecución.