简介

OneAPI 是一个开源的 AI 大模型接口聚合与管理平台,旨在通过统一接口标准化不同厂商的 AI 大模型调用,解决开发者因多模型 API 协议差异带来的开发复杂度问题。其核心功能包括:

其他关联

  • 英特尔 OneAPI:由英特尔推出的跨架构开发工具,支持 CPU、GPU、FPGA 等硬件统一编程(异构计算编程模型)。
  • 秀派科技 ONE-API:由昆明秀派科技研发的通用 API 平台,聚焦 AI 服务集成(AI 服务接口平台)。
  • io.qross.OneApi: qross-io/OneApi​ 是一个由腾讯开发者(或团队)开源的接口开发工具,旨在简化传统后端开发流程,提高效率。

核心功能特性

1. 多模型统一接入

  • 支持模型范围
    • 国际模型:OpenAI(含 Azure)、Google Gemini、Anthropic Claude、Meta Llama
    • 国产模型:百度文心一言、阿里通义千问、讯飞星火、智谱 ChatGLM、腾讯混元
    • 开源模型:通过 Ollama 对接本地部署的 ChatGLM3、Qwen、DeepSeek-r1:7b 等
  • 私有化扩展:支持自定义模型映射(如将本地部署的 ChatGLM3 映射为 gpt-3.5-turbo

2. OpenAI 接口标准化

  • 将不同模型的 API 请求统一转化为 OpenAI 兼容格式,开发者只需修改 OPENAI_API_BASE 地址即可迁移现有代码
    示例配置:
    # 原 OpenAI 配置
    OPENAI_API_BASE = "https://api.openai.com/v1"
    # 改为 OneAPI 地址
    OPENAI_API_BASE = "http://one-api:3000/v1"
    OPENAI_API_KEY = "xxx"   # 到令牌页面获取token
    

技术架构与部署

1. 架构设计

组件 技术选型 功能说明
前端 JavaScript + React 提供管理界面与 API 文档交互
后端 Go 语言 处理高并发请求,支持 10k+ QPS
数据存储 SQLite/MySQL/PostgreSQL 支持轻量级到企业级数据库方案
缓存优化 Redis 提升高并发场景下的响应速度

2. 部署方式

Docker 一键部署(推荐):

# 使用 SQLite
docker run --name one-api -d -p 3000:3000 -v /data:/data justsong/one-api

# 使用 MySQL
docker run --name one-api -d -e SQL_DSN="root:password@tcp(db:3306)/oneapi" justsong/one-api

基于 Docker Compose 进行部署:

# 目前支持 MySQL 启动,数据存储在 ./data/mysql 文件夹内
docker-compose up -d

# 查看部署状态
docker-compose ps

源码编译部署:

git clone https://github.com/songquanpeng/one-api
cd one-api && go build -o one-api && ./one-api --port 3000

初始账号用户名为 root,密码为 123456。

典型应用场景

  1. 多模型对比研究
    • 同时调用 ChatGPT 和文心一言,对比翻译、推理任务的输出差异
    • 通过负载均衡策略测试不同模型的性价比(如将 80% 请求分配给低成本模型)
  2. 企业级服务代理
    • 作为统一 API 网关,某企业将本地部署的 ChatGLM3 映射为 gpt-3.5-turbo,实现系统无缝迁移
    • 搭建 AI SaaS 平台,为客户提供多样化模型选择(如按需切换 GPT-4 和通义千问)
  3. 开发者快速验证
    • 通过单一接口验证 AI 创意原型,无需为每个模型编写适配代码
    • 集成流式传输(Stream Mode),实现类 ChatGPT 的实时对话效果

One-Api平台使用

登录与初始化

  • 访问地址: http://服务器IP:3000
    • 使用root登陆后,建议root登陆后修改默认密码
  • 修改密码: ​用户中心​ → ​修改密码

渠道管理(API供应商配置)

  • 入口:左侧菜单 → ​渠道管理​ → ​添加渠道
  • 作用:添加管理渠道,支持不同的平台模型。
  • 高级配置:
    • ​优先级:优先使用哪个渠道
    • ​代理地址:如需通过代理访问(如 https://api.openai.com/v1)
    • ​模型映射:将第三方模型名称映射为 OpenAI 标准名称(如将 qwen-max 映射为 gpt-4)

渠道监控

  • 入口:总览
  • 作用:查看调用情况

令牌管理(API访问凭证)

  • 入口:​令牌​ → ​添加令牌
  • 作用:配置令牌token,分发给各个用户进行使用

用户与权限管理

  • 入口:​用户
  • 用户权限说明:
    • 超级管理员:可管理渠道、令牌、用户
    • ​普通用户:仅查看自身令牌及调用日志
  • ​分组:实现多租户隔离(如 “财务组” 仅能访问审计类模型)

附录

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐