Wiki / Core Features / AI応答 / カスタムAIモデルのエンドポイント

カスタムAIモデルのエンドポイント

更新者 Maxime_48 · 2時間前 · 閲覧数:115

言語: English Français Deutsch Español Português (Brasil) Italiano Nederlands Polski Türkçe Русский 日本語 한국어 中文

YAWBDBは、AI機能で使うOpenAI互換のカスタムエンドポイントに対応しています。

デフォルトのOpenAI APIだけに頼らず、ご自身のモデルプロバイダーを使えます。

カスタムのOpenAI互換エンドポイントを有効にし、モデルとAPIキーが登録されたチームのAI設定フォーム


🗺️ 対応している機能

カスタムエンドポイントは、次のような機能で使えます。

  • AI Response
  • Random Bot Interactions
  • AudioToText の文字起こし
  • Audio Recording の文字起こし
  • Audio Recording のAI要約

機能ごとに、それぞれ別のカスタムエンドポイントを設定できる場合があります。


🔗 対応プロバイダー

OpenAI互換のエンドポイントであれば、プロバイダーやモデルによっては動作する可能性があります。

例:

  • Ollama
  • LM Studio
  • OpenRouter
  • セルフホストのOpenAI互換サービス
  • その他の互換API

使いたいエンドポイントの種類にプロバイダーが対応しているか、必ず確認してください。


📋 モデルの選択

機能設定のモデル欄にはすべて、モデルを一覧表示ボタンがあります。

このボタンは、その欄が向いているエンドポイントに何を提供しているかを尋ね、その答えを候補として表示します。

  • その欄のカスタムエンドポイントが有効でURLが入力されている場合、一覧はあなたのエンドポイントから、あなた自身のキーを使って取得されます。
  • それ以外の場合は、その機能のAPIキーを使ってOpenAIから取得されます。

候補は、その欄で実際に使えるものだけに絞り込まれます。文字起こしの欄にチャットモデルは表示されず、チャットの欄には埋め込み、モデレーション、画像、音声のモデルは表示されません。これらは保存時には受け付けられても、最初のメッセージで失敗してしまうためです。

この欄はあえて自由入力のままにしています。OpenAI形式ではモデル一覧の公開は任意なので、一覧に応答しないセルフホストのサーバーもありますし、セルフホストのモデルには持ち主が付けた名前がそのまま使われるからです。一覧を取得できなかった場合は、その理由が欄の下に表示されるので、名前をそのまま入力してください。


🔌 テキストモデルのエンドポイント

AIのテキスト応答では、次の項目を設定できます。

  • カスタムテキストモデルを有効にする
  • カスタムベースURL
  • カスタムAPIキー(必要な場合)
  • モデル名(機能設定にある場合)

ベースURLの形式の例:

http://localhost:11434/v1

正確なURLはプロバイダーによって異なります。


🔌 文字起こしのエンドポイント

音声の文字起こしには、Whisper互換のカスタムエンドポイントを設定できます。

文字起こしが有効な場合、AudioToText や Audio Recording などの機能で使われます。


🔌 要約モデルのエンドポイント

Audio Recording では、AIによる会議の要約用に別のカスタムエンドポイントを使えます。

文字起こしと要約で、異なるモデルを使い分けられます。


👁️ 非表示の項目

カスタムエンドポイントの項目は、デフォルトでは非表示です。

該当するカスタムエンドポイントのトグルを有効にしたときだけ表示されます。カスタムプロバイダーが不要な方にとって、設定ページがすっきりします。


🔐 セキュリティに関する注意

  • 信頼できないユーザーとAPIキーを共有しないでください。
  • YAWBDBが動作する環境からエンドポイントに到達できることを確認してください。
  • リモートのエンドポイントには、可能な限りHTTPSを使ってください。
  • プロバイダーがデータをどのように保存・処理するかを把握しておいてください。
  • まずは短いプロンプトや短い音声ファイルでテストしてください。

🔧 トラブルシューティング

🚨 AIが応答しない

ベースURL、APIキー、モデル名を確認してください。エンドポイントに到達できるかどうかも確認してください。

🚨 文字起こしに失敗する

エンドポイントがWhisper互換で、送信される音声ファイルの形式に対応していることを確認してください。

🚨 文字起こしはできるのに要約に失敗する

別に設定した要約モデルのエンドポイントの設定を確認してください。

🏠 localhostで動かない

localhost は、コンテナやサーバー自身を指している場合があります。実行中のサービスから到達できるアドレスを使ってください。