YAWBDB는 AI 기능에 OpenAI 호환 커스텀 엔드포인트를 사용할 수 있어요.
기본 OpenAI API에만 의존하지 않고, 직접 선택한 모델 제공업체를 쓸 수 있습니다.
🗺️ 지원하는 기능 영역
커스텀 엔드포인트는 다음과 같은 기능에 사용할 수 있어요.
- AI Response
- Random Bot Interactions
- AudioToText 음성 전사
- Audio Recording 음성 전사
- Audio Recording AI 요약
기능마다 각자 커스텀 엔드포인트 설정을 가질 수 있습니다.
🔗 호환되는 제공업체
OpenAI 호환 엔드포인트라면 제공업체와 모델에 따라 대부분 동작할 수 있어요.
예시는 다음과 같습니다.
- Ollama
- LM Studio
- OpenRouter
- 자체 호스팅 OpenAI 호환 서비스
- 그 밖의 호환 API
사용하려는 엔드포인트 유형을 제공업체가 지원하는지 항상 먼저 확인하세요.
📋 모델 고르기
기능 설정의 모든 모델 입력란에는 모델 목록 보기 버튼이 있어요.
이 버튼은 해당 입력란이 가리키는 엔드포인트에 어떤 모델을 제공하는지 물어보고, 그 결과를 추천 목록으로 보여 줍니다.
- 입력란의 커스텀 엔드포인트가 켜져 있고 URL이 채워져 있으면, 직접 지정한 엔드포인트에서 본인의 키로 목록을 가져옵니다.
- 그렇지 않으면 해당 기능의 API 키를 사용해 OpenAI에서 가져옵니다.
추천 목록은 입력란에서 실제로 쓸 수 있는 모델만 보여 줘요. 전사 입력란에는 채팅 모델이 나오지 않고, 채팅 입력란에는 임베딩, 모더레이션, 이미지, 음성 모델이 나오지 않습니다. 이런 모델은 저장할 때는 받아들여지지만 첫 메시지에서 실패하기 때문이에요.
이 입력란은 의도적으로 자유 입력으로 두었어요. OpenAI 형식에서 모델 목록 공개는 선택 사항이라서, 일부 자체 호스팅 서버는 목록을 아예 제공하지 않고, 자체 호스팅 모델은 만든 사람이 붙인 이름으로 불립니다. 목록을 가져오지 못하면 입력란 아래에 이유가 표시되고, 이름을 직접 입력하면 됩니다.
🔌 텍스트 모델 엔드포인트
AI 텍스트 응답에는 다음을 설정할 수 있어요.
- 커스텀 텍스트 모델 사용
- 커스텀 기본 URL
- 커스텀 API 키 (필요한 경우)
- 모델 이름 (기능 설정에 있는 경우)
기본 URL 형식 예시:
http://localhost:11434/v1
정확한 URL은 제공업체에 따라 달라요.
🔌 전사 엔드포인트
음성 전사에는 Whisper 호환 커스텀 엔드포인트를 설정할 수 있어요.
전사가 켜져 있을 때 AudioToText와 Audio Recording 같은 기능에서 사용됩니다.
🔌 요약 모델 엔드포인트
Audio Recording은 AI가 만드는 회의 요약에 별도의 커스텀 엔드포인트를 쓸 수 있어요.
전사에는 한 모델을, 요약에는 다른 모델을 사용할 수 있습니다.
👁️ 숨겨진 입력란
커스텀 엔드포인트 입력란은 기본적으로 숨겨져 있어요.
해당 커스텀 엔드포인트 토글을 켰을 때만 나타납니다. 커스텀 제공업체가 필요 없는 사용자는 설정 페이지를 더 깔끔하게 볼 수 있어요.
🔐 보안 참고 사항
- 신뢰할 수 없는 사용자와 API 키를 공유하지 마세요.
- YAWBDB가 실행되는 환경에서 엔드포인트에 접근할 수 있어야 해요.
- 원격 엔드포인트는 가능하면 HTTPS를 사용하세요.
- 제공업체가 데이터를 어떻게 저장하고 처리하는지 확인하세요.
- 먼저 짧은 프롬프트나 짧은 오디오 파일로 테스트하세요.
🔧 문제 해결
🚨 AI가 응답하지 않아요
기본 URL, API 키, 모델 이름을 확인하세요. 엔드포인트에 접근할 수 있는지도 확인해 주세요.
🚨 전사가 실패해요
엔드포인트가 Whisper와 호환되고, 전송되는 오디오 파일 형식을 지원하는지 확인하세요.
🚨 전사는 되는데 요약이 실패해요
별도로 설정한 요약 모델 엔드포인트 설정을 확인하세요.
🏠 localhost가 동작하지 않아요
localhost는 서비스가 실행되는 컨테이너나 서버 자신을 가리킬 수 있어요. 실행 중인 서비스에서 접근할 수 있는 주소를 사용하세요.