Skip to content

feat(v0.2.2): OpenAI provider에 custom Host/Base URL 설정 추가 #475

Description

@luke-n-alpha

배경

현재 naia-shell의 OpenAI provider는 API key와 model은 설정할 수 있지만 Host/Base URL override 입력란이 없다. 따라서 OpenAI-compatible API를 제공하는 원격 vLLM, 사내 gateway, Tailscale GPU 서버를 OpenAI provider로 선택해 사용할 수 없다.

vLLM provider에는 vLLM Host가 이미 있지만, 사용자가 OpenAI provider semantics 또는 OpenAI-compatible endpoint로 설정하려는 경우에도 동일한 수준의 endpoint 설정이 필요하다.

목표 (v0.2.2)

OpenAI provider 설정 화면에 선택적 Host/Base URL 필드를 추가하고, 값이 있으면 provider 요청의 base URL로 전달한다. 비어 있으면 기존 OpenAI 기본 endpoint 동작을 그대로 유지한다.

수용 조건

  • OpenAI provider 선택 시 Host/Base URL 입력란이 표시된다.
  • 빈 값은 기존 OpenAI 공식 endpoint를 사용한다.
  • custom URL은 설정 저장·재시작 후에도 유지된다.
  • URL 끝의 슬래시와 /v1 중복을 안전하게 정규화한다.
  • 모델 조회 및 chat completions가 동일한 custom base URL을 사용한다.
  • API key는 기존 secret 저장 경로를 유지하고 일반 config/log에 노출되지 않는다.
  • provider 전환 시 stale host가 다른 provider 요청에 적용되지 않는다.
  • 기존 OpenAI 및 vLLM 설정에 대한 회귀 테스트를 추가한다.
  • Tailscale 원격 OpenAI-compatible 서버 시나리오를 통합 테스트한다.

재현 사례

  • 서버: OpenAI-compatible vLLM
  • Base URL 예시: http://100.91.187.24:11435/v1
  • Model: qwen3.8-27b
  • 현재 결과: OpenAI provider에 Host 입력란이 없어 endpoint를 지정할 수 없음
  • 기대 결과: custom Host 저장 후 모델 조회와 채팅이 해당 endpoint로 전달됨

참고

당장 위 서버는 기존 vLLM provider의 vLLM Host를 사용하면 연결할 수 있다. 이 이슈는 OpenAI provider 자체의 endpoint override 사용성을 추가하는 범위다.

Activity

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    P2-mediumMedium priorityenhancementNew feature or requestshellNextain Shell (Tauri + React)

    Type

    No type

    Projects

    No projects

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions