自建API用于沉浸式翻译
最近我收集了不少公益API站点,其中有不少是翻译接口,也发现了一些可以用于沉浸式翻译的免费模型,比如硅基流动的 Qwen/Qwen2.5-7B-Instruct,还有 Cerabres——它支持多种模式,免费额度高,翻译效果也不错。
但比较麻烦的事,这些都需要在沉浸式翻译里单独添加翻译服务,一个API创建一个,如果其中一个失效了,那就需要手动更换另一个服务,而且因为每个站点的访问速率可能每天都会有变化 ,今天这个快,明天那个快,用起来不是很方便。所以我想是否有方法可以将这些API都整合在一起使用。
经过了解,确实有一些工具可以自建API聚合站点,统一管理多个翻译接口,非常方便。比如 New API、Veloera 等。而且不一定非得用服务器来搭建,一些免费的容器服务,比如 Leaflow、zeabur 也可以部署。
我这里创建了New API,搭建过程不说了,直接进入主题,登录站点,控制台,选择左边菜单的渠道管理,添加渠道,也就是收集的各个站点的API。
添加大厂渠道的步骤其实很简单,因为系统已经预先配置好了它们的官方地址。而第三方站点需要你知道它的API地址
第一步:选择渠道类型
点击“添加渠道”后,在“类型”下拉菜单中,直接选择对应的厂商名称,比如 OpenAI 或 Grok。
第二步:填写渠道信息
-
名称:这里可以自由填写,只要方便你自己识别和管理即可。
-
密钥:请填入你从对应API服务平台获取的API密钥。
第三步:处理多个密钥(可选)
如果你在同一个平台有多个API密钥(例如为了叠加使用免费额度),可以使用“批量创建”功能,将所有密钥一次性粘贴进去。
-
聚合模式:之后系统会让你在“轮询”和“随机”之间选择。通常建议使用“轮询”模式,这样能让请求均匀地分发到各个密钥上。
API地址,大厂不需要,只有自定义或者选第三方OPENAI时,需要填写。

接下是选择模型,因为我的需求是将API整合一起,其实也就是将各个API的模型整合一起,统一用一个模型。所以需要先自定义一个模型,我这里填写的是translate,点击填入。理论上模型只要这一个就行了,但建议可以将其他支持的模型都填上,点击 获取模型列表,可以看到这个站点支持的所有模型,一键添加。
接下来比较重要的一步,模型重定向,左边填写自定义的模型名,右边是这个站点支持的模型,比如硅基的Qwen/Qwen2.5-7B-Instruct(我看了还有其他的免费模型,不过要看清楚是不是推理模型,推理模型翻译非常慢,不适合)。分组需要选一下,整合在一起的渠道分组要一样的。

最后一个重要的项,渠道权重和优先级,这个AI解释的可能清楚些
A. 优先级 (Priority) —— 这才是你要的“备胎模式”
-
定义:决定使用的顺序。
-
规则:NewAPI 总是先用优先级数字大的渠道。
-
关键点:只要高优先级的渠道还能用,低优先级的渠道连一次机会都不会有(它会一直待机)。只有当高优先级的渠道报错了,系统才会降级去调用低优先级的。
-
适用场景:你想用免费的(硅基流动),只有当它挂了,才被迫去用有额度限制的(Gemini)。
B. 权重 (Weight) —— 这是“按比例分配”
-
定义:决定同级渠道被选中的概率。
-
规则:它只在优先级相同的渠道里起作用。
-
关键点:如果你把硅基设为权重 10,Gemini 设为权重 1(且优先级相同),那么每 11 次请求里,Gemini 依然会被调用 1 次。
-
后果:如果你只设置了权重而没设优先级,你的“备胎”Gemini 会时不时跑出来抢单,消耗你的额度。这不是你要的效果。
根据自己的获取的渠道来分配。

这样一个渠道就完成了,按照同样的方式,创建多个不同的渠道,重新的是模型重定向,自定义的模型名不要写错。

渠道添加完成后,接下来需要去创建自己的API。选择左边菜单的令牌管理,添加令牌。
名称任意,分组需要选择刚刚添加的渠道分组,额度看着给,访问限制就不需要设置了,因为我们到时只会使用一个模型。

API创建完成后,接下来开始配置沉浸式翻译。
打开沉浸式翻译设置,选择翻译服务,添加自定义翻译服务,选择自定义AI
名称任意,接口地址一般就是你的API站点地址,Key就是之前创建的令牌,模型需要选择自定义,填写你创建的模型。点击测试,如果显示绿色的勾就是成功了。如果有错误,就需要根据它的错误提示来解决了。

更多推荐
所有评论(0)