Wiki / Core Features / AI 回复 / 自定义 AI 模型端点

自定义 AI 模型端点

更新者 Maxime_48 · 2小时前 · 浏览量:119

语言: English Français Deutsch Español Português (Brasil) Italiano Nederlands Polski Türkçe Русский 日本語 한국어 中文

YAWBDB 支持为 AI 功能使用自定义的、兼容 OpenAI 的端点。

这样你就可以使用自己的模型服务商,而不必只依赖默认的 OpenAI API。

团队 AI 设置表单:已启用兼容 OpenAI 的自定义端点,并填写了模型,同时保存了 API 密钥


🗺️ 支持的功能范围

自定义端点可用于以下功能:

  • AI 回复
  • 机器人随机互动
  • AudioToText 转写
  • 音频录制转写
  • 音频录制 AI 摘要

每个功能都可以有自己的自定义端点设置。


🔗 兼容的服务商

任何兼容 OpenAI 的端点都有可能可用,具体取决于服务商和模型。

例如:

  • Ollama
  • LM Studio
  • OpenRouter
  • 自托管的兼容 OpenAI 的服务
  • 其他兼容的 API

请务必确认你的服务商支持你想使用的端点类型。


📋 选择模型

功能设置中的每个模型字段旁都有一个 列出模型 按钮。

它会向该字段所指向的端点询问它提供哪些模型,并把结果作为建议列出:

  • 如果该字段的自定义端点已启用且已填写 URL,列表就来自你的端点,并使用你为它设置的密钥;
  • 否则列表来自 OpenAI,并使用该功能的 API 密钥。

建议列表会按该字段实际能用的类型过滤。转写字段不会提供聊天模型,聊天字段也不会提供嵌入、审核、图像或语音模型,因为这些模型在保存时会被接受,却会在第一条消息时失败。

该字段特意保留为自由文本。在 OpenAI 格式中,公布模型列表是可选的,所以有些自托管服务器根本不响应这个请求,而且自托管模型叫什么名字完全由它的所有者决定。如果无法获取列表,原因会显示在字段下方,你直接输入名称即可。


🔌 文本模型端点

对于 AI 文本回复,你可以配置:

  • 启用自定义文本模型
  • 自定义基础 URL
  • 自定义 API 密钥(如有需要)
  • 模型名称(如果功能设置中提供)

基础 URL 格式示例:

http://localhost:11434/v1

具体的 URL 取决于你的服务商。


🔌 转写端点

对于音频转写,你可以配置兼容 Whisper 的自定义端点。

启用转写后,AudioToText 和音频录制等功能会使用它。


🔌 摘要模型端点

音频录制可以为 AI 生成的会议摘要使用单独的自定义端点。

这样你可以用一个模型做转写,用另一个模型做摘要。


👁️ 隐藏字段

自定义端点字段默认是隐藏的。

只有在启用相应的自定义端点开关后,它们才会显示。这样不需要自定义服务商的用户会看到更简洁的配置页面。


🔐 安全提示

  • 不要把 API 密钥分享给不受信任的用户。
  • 确保 YAWBDB 运行的环境可以访问你的端点。
  • 远程端点尽量使用 HTTPS。
  • 了解你的服务商如何存储或处理数据。
  • 先用一个简短的提示词或较短的音频文件测试。

🔧 故障排查

🚨 AI 没有回复

检查基础 URL、API 密钥和模型名称,并确认端点可以访问。

🚨 转写失败

确认端点兼容 Whisper,并支持所发送的音频文件格式。

🚨 摘要失败但转写正常

检查单独的摘要模型端点设置。

🏠 localhost 无法使用

localhost 可能指向容器或服务器本身,请使用运行中的服务能够访问的地址。