OneAPI使用介绍
OneAPI 是一个开源的 AI 大模型接口聚合与管理平台,旨在通过统一接口标准化不同厂商的 AI 大模型调用,解决开发者因多模型 API 协议差异带来的开发复杂度问题。
·
简介
OneAPI 是一个开源的 AI 大模型接口聚合与管理平台,旨在通过统一接口标准化不同厂商的 AI 大模型调用,解决开发者因多模型 API 协议差异带来的开发复杂度问题。其核心功能包括:
其他关联
- 英特尔 OneAPI:由英特尔推出的跨架构开发工具,支持 CPU、GPU、FPGA 等硬件统一编程(异构计算编程模型)。
- 秀派科技 ONE-API:由昆明秀派科技研发的通用 API 平台,聚焦 AI 服务集成(AI 服务接口平台)。
- io.qross.OneApi: qross-io/OneApi 是一个由腾讯开发者(或团队)开源的接口开发工具,旨在简化传统后端开发流程,提高效率。
核心功能特性
1. 多模型统一接入
- 支持模型范围:
- 国际模型:OpenAI(含 Azure)、Google Gemini、Anthropic Claude、Meta Llama
- 国产模型:百度文心一言、阿里通义千问、讯飞星火、智谱 ChatGLM、腾讯混元
- 开源模型:通过 Ollama 对接本地部署的 ChatGLM3、Qwen、DeepSeek-r1:7b 等
- 私有化扩展:支持自定义模型映射(如将本地部署的 ChatGLM3 映射为
gpt-3.5-turbo)
2. OpenAI 接口标准化
- 将不同模型的 API 请求统一转化为 OpenAI 兼容格式,开发者只需修改
OPENAI_API_BASE地址即可迁移现有代码
示例配置:# 原 OpenAI 配置 OPENAI_API_BASE = "https://api.openai.com/v1" # 改为 OneAPI 地址 OPENAI_API_BASE = "http://one-api:3000/v1" OPENAI_API_KEY = "xxx" # 到令牌页面获取token
技术架构与部署
1. 架构设计
| 组件 | 技术选型 | 功能说明 |
|---|---|---|
| 前端 | JavaScript + React | 提供管理界面与 API 文档交互 |
| 后端 | Go 语言 | 处理高并发请求,支持 10k+ QPS |
| 数据存储 | SQLite/MySQL/PostgreSQL | 支持轻量级到企业级数据库方案 |
| 缓存优化 | Redis | 提升高并发场景下的响应速度 |
2. 部署方式
Docker 一键部署(推荐):
# 使用 SQLite
docker run --name one-api -d -p 3000:3000 -v /data:/data justsong/one-api
# 使用 MySQL
docker run --name one-api -d -e SQL_DSN="root:password@tcp(db:3306)/oneapi" justsong/one-api
基于 Docker Compose 进行部署:
# 目前支持 MySQL 启动,数据存储在 ./data/mysql 文件夹内
docker-compose up -d
# 查看部署状态
docker-compose ps
源码编译部署:
git clone https://github.com/songquanpeng/one-api
cd one-api && go build -o one-api && ./one-api --port 3000
初始账号用户名为 root,密码为 123456。
典型应用场景
- 多模型对比研究
- 同时调用 ChatGPT 和文心一言,对比翻译、推理任务的输出差异
- 通过负载均衡策略测试不同模型的性价比(如将 80% 请求分配给低成本模型)
- 企业级服务代理
- 作为统一 API 网关,某企业将本地部署的 ChatGLM3 映射为 gpt-3.5-turbo,实现系统无缝迁移
- 搭建 AI SaaS 平台,为客户提供多样化模型选择(如按需切换 GPT-4 和通义千问)
- 开发者快速验证
- 通过单一接口验证 AI 创意原型,无需为每个模型编写适配代码
- 集成流式传输(Stream Mode),实现类 ChatGPT 的实时对话效果
One-Api平台使用
登录与初始化
- 访问地址:
http://服务器IP:3000- 使用root登陆后,建议root登陆后修改默认密码
- 修改密码: 用户中心 → 修改密码
渠道管理(API供应商配置)
- 入口:左侧菜单 → 渠道管理 → 添加渠道
- 作用:添加管理渠道,支持不同的平台模型。
- 高级配置:
- 优先级:优先使用哪个渠道
- 代理地址:如需通过代理访问(如 https://api.openai.com/v1)
- 模型映射:将第三方模型名称映射为 OpenAI 标准名称(如将 qwen-max 映射为 gpt-4)
渠道监控
- 入口:总览
- 作用:查看调用情况
令牌管理(API访问凭证)
- 入口:令牌 → 添加令牌
- 作用:配置令牌token,分发给各个用户进行使用
用户与权限管理
- 入口:用户
- 用户权限说明:
- 超级管理员:可管理渠道、令牌、用户
- 普通用户:仅查看自身令牌及调用日志
- 分组:实现多租户隔离(如 “财务组” 仅能访问审计类模型)
附录
- 项目地址:GitHub - OneAPI
火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。
更多推荐
所有评论(0)