V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
bestrui
V2EX  ›  分享创造

octopus | 为个人打造的美观优雅的 LLM API 聚合服务 支持 自动分组 自动同步上游模型 热重载 负载均衡 协议互转 用量统计

  •  
  •   bestrui · 2025 年 12 月 18 日 · 1149 次点击
    这是一个创建于 97 天前的主题,其中的信息可能已经有所发展或是发生改变。

    🖥️ 桌面端

    首页仪表盘 渠道管理 分组管理
    首页 渠道 分组
    模型管理 日志 设置
    模型 日志 设置

    📱 移动端

    首页 渠道 分组 模型 日志 设置
    移动端首页 移动端渠道 移动端分组 移动端模型 移动端日志 移动端设置

    功能

    • OpenAI Chat / OpenAI Responses / Anthropic 三种协议互转
    • 一套配置适应不同客户端,不需要反复更新 BASEURL 和 MODEL_NAME
    • 多渠道负载均衡
    • 用量统计

    功能亮点

    • 统一的模型名称,cli 客户端无需重启即可热重载渠道和模型
    • 自动从上游更新模型价格
    • 自动同步渠道模型

    开源地址

    https://github.com/bestruirui/octopus

    1 条回复    2026-03-20 09:25:24 +08:00
    erguotou521
        1
    erguotou521  
       6 天前
    非常感谢作者这么优秀的项目,原本是用 new-api 的,后来看对这个项目就喜欢上了。但是使用过程中自己感觉有几个点不是特别友好,所以 fork 后做了些二开,项目在这 https://github.com/erguotou520/octopus 。主要做了这些改变

    1. 增加渠道预设,可以方便输入常见的服务商的渠道配置。同时还增加了 Copilot 和 Antigravity 的 Oauth 认证方式,输入更友好
    2. 渠道处输入 base url 和 key 后会自动获取模型列表,用户可以直接选择,避免手输错误
    3. 渠道和模型增加测试功能(单测和全测),填完配置验证下,确保能用
    4. 增加了 API 使用文档,可以直接复制 curl 在本地运行;添加了 cc swtich 导入功能
    5. 表单样式微调

    但是对项目改动不小,看作者是否需要合并。感谢
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   6026 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 157ms · UTC 02:00 · PVG 10:00 · LAX 19:00 · JFK 22:00
    ♥ Do have faith in what you're doing.