前言

本文将介绍如何从Dify平台接入大模型，并通过搭建一个简单的翻译机器人来演示Dify智能体的开发流程。本地部署Dify教程可参考【Linux部署Dify指南】。

一、Dify平台接入大模型

登录Dify界面后，点击右上角账号图标，点击设置。

选择模型供应商，可以看到有OpenAI、通义千问、硅基流动、火山方舟等多种模型供应商，可以根据自己的需要选择安装。

以硅基流动为例，下载后需要添加API Key，这需要注册硅基流动官网，在账户管理列表下选择API密钥，并新建一个密钥，复制粘贴至Dify平台。其他模型供应商的配置类似。

如此，模型已配置完成，系统模型设置用于选择创建应用、嵌入处理时的默认模型。

以火山引擎为例，这里鉴权方式选择Api Key，然后注册火山引擎账号并进入控制台，

在开通管理中开通模型，然后创建Api Key，模型推理列表中选择在线推理，获取开通模型的接入点 ID，即为Dify配置中的Endpoint ID。

二、搭建翻译机器人

在聊天助手栏选择创建空白应用：

点击新手适用下的聊天助手：

可根据用户需求，使用右上角的自动生成功能，通过大模型来辅助生成一个翻译机器人的提示词，并生成了一个input_text变量：

随后，可在右侧与翻译机器人进行聊天

三、模型参数介绍

聊天窗口上方展示了当前使用的大模型名称，点击后会展示模型参数列表，这里简单介绍各参数内容。

• 温度（temperature）：控制随机性，取值范围[0,1]。温度越接近0，结果更确定、更保守，可能缺乏创新性；温度越接近1，结果更随机，但风险可能越大；温度往往为0.8，模型表现比较均衡。
• Top P / Top K：控制结果的多样性，值越小，结果越稳定但可能缺乏新意，适合技术文档生成。值越大，结果更多样化，适合开放式创作。
• 存在惩罚： 用于减少重复生成同一实体或信息。值越大，后续生成重复内容的可能性越低。
• 频率惩罚： 降低过于重复的词或短语的生成概率。值越大，减少重复词的出现频率，从而增加文本的词汇多样性。
• 最大生成长度：指定模型生成结果长度的上限，若超过该长度，则自动截断输出。