介绍

One-API 是一个 LLM(大语言模型)API 管理与分发系统,支持多种主流模型,包括 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等。它通过统一 API 适配,简化了不同模型的使用,并可用于密钥(key)管理与二次分发。

可以达到负载均衡的效果!一个key,多家同时轮询。

截图

主体界面

oneapi-1.png

oneapi-2.png

oneapi-3.png

oneapi-4.png

berry主题(博主推荐)

oneapi-berry-1.png

oneapi-berry-2.png

oneapi-berry-3.png

oneapi-berry-4.png

Docker Run

docker run -d \
  --name=one-api \
  -p 3000:3000 \
  -v $(pwd)/data:/data \
  -e TZ=Asia/Shanghai \
  --restart always \
  justsong/one-api

自行修改 /data 的路径,确保路径正确存在;

按需修改webui端口(默认为3000)。

Docker Compose

services:
  one-api:
    container_name: one-api
    restart: always
    ports:
      - 3000:3000 #webui端口
    environment:
      - TZ=Asia/Shanghai
    volumes:
      - ./data:/data #数据
    image: justsong/one-api

启动

部署完成后访问:http://<服务器IP>:3000

  • 初始账号:root

  • 初始密码:123456

务必修改账户密码!!!

添加API渠道

  • Ollama:本机的就不用多说了,直接添加即可;

  • 已有提供商:像阿里百炼、硅基流动、火山引擎等的只需要添加一个key;

  • 兼容OpenAI:填入提供的url、key;

在客户端中的使用

  • URL:http://<服务器IP>:3000部分客户端须尾部加上/v1

  • 密钥:令牌中生成你的key;

  • 模型:渠道供应商中设置的模型。

模型重定向

每家的模型id都不同,以deepseek-r1为例,各家的命名:

  • 深度求索(官方):deepseek-reasoner

  • 硅基流动:deepseek-ai/DeepSeek-R1

  • 阿里百炼:deepseek-r1

  • 火山方舟:ep-20250211xxxx-vxxxx(最离谱)

而且每家的key、url地址规则都不同;重定向的作用就是让以上”奇形怪状“的url、key、密钥,统一成OpenAI的标准格式,就可以实现同个模型,多家供应商负载均衡轮询了!

再次以deepseek为例,官方的命名是deepseek-reasonerdeepseek-chat,我们想都按照这个标准就是:

硅基流动

{
  "deepseek-reasoner": "deepseek-ai/DeepSeek-R1",
  "deepseek-chat": "deepseek-ai/DeepSeek-V3"
}

阿里百炼

{
  "deepseek-reasoner": "deepseek-r1",
  "deepseek-chat": "deepseek-v3"
}

火山方舟

{
  "deepseek-reasoner": "ep-202502xxxx-hxxxx",
  "deepseek-chat": "ep-202502xxxx36-vxxxx"
}

示例

项目地址

GitHub:https://github.com/songquanpeng/one-api

演示站点:https://openai.justsong.cn/

主题使用:https://github.com/songquanpeng/one-api/blob/main/web/README.md