
One-API - 标准化地管理和分发 你的大模型API
介绍
One-API
是一个 LLM(大语言模型)API 管理与分发系统,支持多种主流模型,包括 OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeek、字节豆包、ChatGLM、文心一言、讯飞星火、通义千问、360 智脑、腾讯混元等。它通过统一 API 适配,简化了不同模型的使用,并可用于密钥(key)管理与二次分发。
可以达到负载均衡的效果!一个key,多家同时轮询。
截图
主体界面
berry主题(博主推荐)
Docker Run
docker run -d \
--name=one-api \
-p 3000:3000 \
-v $(pwd)/data:/data \
-e TZ=Asia/Shanghai \
--restart always \
justsong/one-api
自行修改
/data
的路径,确保路径正确存在;
按需修改
webui
端口(默认为3000)。
Docker Compose
services:
one-api:
container_name: one-api
restart: always
ports:
- 3000:3000 #webui端口
environment:
- TZ=Asia/Shanghai
volumes:
- ./data:/data #数据
image: justsong/one-api
启动
部署完成后访问:http://<服务器IP>:3000
初始账号:root
初始密码:123456
务必修改账户密码!!!
添加API渠道
Ollama:本机的就不用多说了,直接添加即可;
已有提供商:像阿里百炼、硅基流动、火山引擎等的只需要添加一个key;
兼容OpenAI:填入提供的url、key;
在客户端中的使用
URL:
http://<服务器IP>:3000
部分客户端须尾部加上/v1
;密钥:
令牌
中生成你的key;模型:
渠道
供应商中设置的模型。
模型重定向
每家的模型id
都不同,以deepseek-r1
为例,各家的命名:
深度求索(官方):
deepseek-reasoner
硅基流动:
deepseek-ai/DeepSeek-R1
阿里百炼:
deepseek-r1
火山方舟:
ep-20250211xxxx-vxxxx
(最离谱)
而且每家的key、url地址规则都不同;重定向的作用就是让以上”奇形怪状“的url、key、密钥,统一成OpenAI的标准格式,就可以实现同个模型,多家供应商负载均衡轮询了!
再次以deepseek
为例,官方的命名是deepseek-reasoner
和deepseek-chat
,我们想都按照这个标准就是:
硅基流动
{
"deepseek-reasoner": "deepseek-ai/DeepSeek-R1",
"deepseek-chat": "deepseek-ai/DeepSeek-V3"
}
阿里百炼
{
"deepseek-reasoner": "deepseek-r1",
"deepseek-chat": "deepseek-v3"
}
火山方舟
{
"deepseek-reasoner": "ep-202502xxxx-hxxxx",
"deepseek-chat": "ep-202502xxxx36-vxxxx"
}
示例
项目地址
GitHub:https://github.com/songquanpeng/one-api
演示站点:https://openai.justsong.cn/
主题使用:https://github.com/songquanpeng/one-api/blob/main/web/README.md