Skip to content

兼容多模型支持 #2300

@gavinwang668

Description

@gavinwang668

希望支持:

  • 完善文档,provider= vllm或openai的区别,我的模型接口是openai chat api形式,那我是用vllm还是openai呢,是否支持openai responses api呢。
  • 同时配置多个模型,在使用过程中,可根据需求,自动判断选择合适的模型。包括多个视觉模型,OCR,向量化等模型。

Metadata

Metadata

Assignees

No one assigned

    Labels

    enhancementNew feature or request

    Projects

    Status
    In progress

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions