目录

千帆v2版本推理接口兼容openai

操作流程

1.首先创建自己的API接口

2. 调用API

千帆v2版本推理接口兼容openai

信息参考官方文档。Python SDK调用对话Chat - 千帆AI应用开发者中心-开始使用qianfan-docs | 百度智能云文档

千帆v2版本推理接口兼容openai、deepseek接口规范，因此可以使用OpenAI SDK请求千帆平台v2版推理接口，其中包含DeepSeek-R1模型。 请确保已安装最新版本的 OpenAI SDK。可通过以下命令进行升级：

pip3 install -U openai

from openai import OpenAI

client = OpenAI(
    # 替换下列示例中参数，将your_APIKey替换为真实值，如何获取API Key请查看https://cloud.baidu.com/doc/WENXINWORKSHOP/s/Um2wxbaps#步骤二-获取api-key
    api_key="your_APIKey",
    # 千帆ModelBuilder平台地址
    base_url="https://qianfan.baidubce.com/v2", 
)

messages = [{"role": "user", "content": "20和11，哪个数大?"}] # 对话messages信息
response = client.chat.completions.create(
    model="deepseek-r1-distill-qwen-32b",#模型对应的model值，请查看支持的模型列表：https://cloud.baidu.com/doc/WENXINWORKSHOP/s/wm7ltcvgc
    messages=messages # messages信息
)

print(response.choices[0].message)

操作流程

官方文档操作：快速开始 - ModelBuilder

1.首先创建自己的API接口

1. 登录百度智能云
2. 点击链接创建API（百度智能云控制台）

• 注意创建完之后会得到一个API : 以bce-v3开头的一段代码，这个是核心需要保存下来！！！

2. 调用API

前面说到可以兼容OpenAI调用方式，所以要下载最新的openai库

pip3 install -U openai

支持模型列表参照：模型列表 - ModelBuilder；以及模型费用：模型服务计费 - ModelBuilder。
PS:初学者选一些免费的模型。

import openai

client = openai.OpenAI(
    api_key="", #这里填写上面得到的API:以bce-v3开头的那串代码
    base_url="https://qianfan.baidubce.com/v2",
)
# 一个封装 OpenAI 接口的函数，参数为 Prompt，返回对应结果
def get_completion(prompt, model="ernie-3.5-8k"):
    messages = [{"role": "user", "content": prompt}]
    response = client.chat.completions.create(
        model=model,
        messages=messages,
        temperature=0, # 模型输出的温度系数，控制输出的随机程度
    )
    return response.choices[0].message.content # 模型生成的回复

api_key：上面保存的那段代码。
model：这个为模型的参数，如果想更换其他模型则可以按照上面模型列表中的模型进行更改。

text = f"""
您应该提供尽可能清晰、具体的指示，以表达您希望模型执行的任务。\
这将引导模型朝向所需的输出，并降低收到无关或不正确响应的可能性。\
不要将写清晰的提示词与写简短的提示词混淆。\
在许多情况下，更长的提示词可以为模型提供更多的清晰度和上下文信息，从而导致更详细和相关的输出。
"""
# 需要总结的文本内容
prompt = f"""
把用三个反引号括起来的文本总结成一句话。
```{text}```
"""
# 指令内容，使用 ``` 来分隔指令和待总结的内容
response = get_completion(prompt)
print(response)