Skip to content

[Feature Request] 模型策略和重定向相关的改进 #382

@scientificworld

Description

@scientificworld

例行检查 / Checklist

  • 我已确认目前没有类似 issue (I have checked for similar issues)
  • 我已确认我已升级到最新版本 (I have updated to the latest version)
  • 我已完整查看过项目 README,已确定现有版本无法满足需求 (I have read the README and confirmed the current version does not meet my needs)
  • 我理解并愿意跟进此 issue,协助测试和提供反馈 (I am willing to follow up on this issue, assist with testing, and provide feedback)
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 issue 可能会被无视或直接关闭 (I understand and agree to the above, and I understand that the maintainers have limited time, so issues that do not follow the rules may be ignored or closed directly)

功能描述 / Feature Description

  1. 给聚合分组添加模型白名单的配置
  2. 让模型重定向规则能够用一个模型名对应多个实际模型,实现类似 HuggingChat Omni 的自动路由效果

应用场景 / Use Case

添加白名单是为了应对这样的场景:比如某个聚合分组对应某个厂商,子分组中也包含一些聚合站点作为后端,这些分组提供了其他厂商的模型,但我不希望聚合分组能访问到那些模型。

让模型名对应多个实际模型的作用是,在单个分组内,使用供应商提供的多个模型实现负载均衡,像是 gemini 3 挂了可以临时降级成 gemini 2.5 这样子。可以写成 "model": ["model-a", "model-b"] 甚至 "model": [{"name": "model-a", "priority": 2}, {"name": "model-b", "priority": 1}] 的形式,当然最好还是能在前端添加一个新的界面。

目前这些只能用多开几个子分组的方式解决,过于繁琐,并且需要在不同分组之间同步密钥。

因为关联性比较高就放一起了,如果不妥也可以单开一个 issue。

Metadata

Metadata

Assignees

No one assigned

    Labels

    enhancementNew feature or request

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions