文章目录

• • • 如何调用大语言模型的API？
    • • 1、调用参数
      • 2、API申请
      • 3、实践
      • • 3.1 仓库代码拉取
        • 3.2、百度文心
        • 3.3、OpenAI
        • 3.3、讯飞星火
        • • 3.3.1、直接调用
          • 3.3.2、本地端口服务调用
        • 3.4、智谱
        • • 3.4.1、问答调用
          • 3.4.2、智谱Embedding
      • 4、次数限制
      • 5、其他ChatGPT网站
      • • 5.1、爬虫方式请求Poe并获取结果
        • • 5.1.1、安装插件
          • 5.1.2、导出Cookies
          • 5.1.3、下载chromedriver
          • 5.1.4、简易爬虫代码
      • 6、总结
• 零基础入门AI大模型
• • 一、全套AGI大模型学习路线
  • 二、640套AI大模型报告合集
  • 三、AI大模型经典PDF籍
  • 四、AI大模型商业化落地方案
  • 学习计划：
• 资料领取

如何调用大语言模型的API？

百闻不如一见，百见不如一试，这一章主要学习如何调用现有大模型的API。

1、调用参数

调用大语言模型的API，相当于调用已经写好的函数，我们只需要结合我们的实际需求进行包装一下（也就是学会用哪些参数去调用就行）。

model
，即调用的模型，一般取值包括“gpt-3.5-turbo”（ChatGPT-3.5）、“gpt-3.5-16k-0613”（ChatGPT-3.5 16K 版本）、“gpt-4”（ChatGPT-4）。注意，不同模型的成本是不一样的。

message
，即我们的 prompt。ChatCompletion 的 message 需要传入一个列表，列表中包括多个不同角色的 prompt。我们可以选择的角色一般包括 system：即前文中提到的 system prompt；user：用户输入的 prompt；assitance：助手，一般是模型历史回复，作为给模型参考的示例。

temperature
，温度。即前文中提到的 Temperature 系数。

max_tokens
，最大 token 数，即模型输出的最大 token 数。OpenAI 计算 token 数是合并计算 Prompt 和 Completion 的总 token 数，要求总 token 数不能超过模型上限（如默认模型 token 上限为 4096）。因此，如果输入的 prompt 较长，需要设置较小的 max_token 值，否则会报错超出限制长度。

2、API申请

DataWhale大语言学习网站有具体的
API申请教程
大家跟着操作即可。

3、实践

3.1 仓库代码拉取

代码仓库为：
llm-universe
，按照流程创建虚拟环境 conda + python3.8。

3.2、百度文心

import requests
import json
import time
# import os
# # 如果你需要通过代理端口访问，你需要如下配置
# os.environ['HTTPS_PROXY'] = 'http://127.0.0.1:1080'
# os.environ["HTTP_PROXY"] = 'http://127.0.0.1:1080'


def get_access_token():
    api_key = "*****"
    secret_key = "*****"
    url = f"https://aip.baidubce.com/oauth/2.0/token?grant_type=client_credentials&client_id={api_key}&client_secret={secret_key}"
    
    # 设置 POST 访问
    payload = json.dumps("")
    headers = {
        'Content-Type': 'application/json',
        'Accept': 'application/json'
    }
    # 通过 POST 访问获取账户对应的 access_token
    response = requests.request("POST", url, headers=headers, data=payload)

    print(response.json())

    return response.json().get("access_token")

# 一个封装 Wenxin 接口的函数，参数为 Prompt，返回对应结果
def get_completion_weixin(prompt, temperature = 0.1, access_token = ""):
    '''
    prompt: 对应的提示词
    temperature：温度系数
    access_token：已获取到的秘钥
    '''
    url = f"https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/eb-instant?access_token={access_token}"
    # 配置 POST 参数
    payload = json.dumps({
        "messages": [
            {
                "role": "user",# user prompt
                "content": "{}".format(prompt)# 输入的 prompt
            }
        ],
        "temperature" : temperature
    })
    headers = {
        'Content-Type': 'application/json'
    }
    time.sleep(3)
    # 发起请求
    response = requests.request("POST", url, headers=headers, data=payload)
    # 返回的是一个 Json 字符串
    js = json.loads(response.text)
    print(js)
    return js["result"]


if __name__ == "__main__":
    access_token = get_access_token()
    prompt = f"Given the sentence, assign a sentiment label from ['positive', 'negative', 'neutral'].   Sentence: Ok, first assesment of the #kindle2 ...it fucking rocks!!!   Return label only without any other text."
    ans = get_completion_weixin(prompt=prompt, access_token=access_token)
    print(ans)

3.3、OpenAI

注意在
.env
文件里设置自己的openai key。

import os
import openai
from dotenv import load_dotenv, find_dotenv

# 读取本地/项目的环境变量。

# find_dotenv()寻找并定位.env文件的路径
# load_dotenv()读取该.env文件，并将其中的环境变量加载到当前的运行环境中  
# 如果你设置的是全局的环境变量，这行代码则没有任何作用。
_ = load_dotenv(find_dotenv())

# 如果你需要通过代理端口访问，你需要如下配置
os.environ['HTTPS_PROXY'] = 'http://127.0.0.1:1080'
os.environ["HTTP_PROXY"] = 'http://127.0.0.1:1080'

# 获取环境变量 OPENAI_API_KEY
openai.api_key = os.environ['OPENAI_API_KEY']


# 一个封装 OpenAI 接口的函数，参数为 Prompt，返回对应结果
def get_completion(prompt, model="gpt-3.5-turbo", temperature = 0):
    '''
    prompt: 对应的提示词
    model: 调用的模型，默认为 gpt-3.5-turbo(ChatGPT) / text-davinci-003 ，有内测资格的用户可以选择 gpt-4
    '''
    messages = [{"role": "user", "content": prompt}]
    response = openai.ChatCompletion.create(
        model=model,
        messages=messages,
        temperature=temperature, # 模型输出的温度系数，控制输出的随机程度
    )
    # 调用 OpenAI 的 ChatCompletion 接口
    print(response.choices[0].message["content"])
    
    return response.choices[0].message["content"]


if __name__ == "__main__":
    get_completion(prompt="你好")

3.3、讯飞星火

先拷贝一些文件，以便好调用。

3.3.1、直接调用

import SparkApi
#以下密钥信息从控制台获取
appid = "****"     #填写控制台中获取的 APPID 信息
api_secret = "****"   #填写控制台中获取的 APISecret 信息
api_key = "****"    #填写控制台中获取的 APIKey 信息

#用于配置大模型版本，默认“general/generalv2”
domain = "general"   # v1.5版本
# domain = "generalv2"    # v2.0版本

#云端环境的服务地址
Spark_url = "ws://spark-api.xf-yun.com/v1.1/chat"  # v1.5环境的地址
# Spark_url = "ws://spark-api.xf-yun.com/v2.1/chat"  # v2.0环境的地址

def getText(role, content, text = []):
    # role 是指定角色，content 是 prompt 内容
    jsoncon = {}
    jsoncon["role"] = role
    jsoncon["content"] = content
    text.append(jsoncon)
    return text

if __name__ == "__main__":
    prompt = f"Given the sentence, assign a sentiment label from ['positive', 'negative', 'neutral'].   Sentence: Ok, first assesment of the #kindle2 ...it fucking rocks!!!   Return label only without any other text."

    question = getText("user", prompt)
    print(question)
    response = SparkApi.main(appid,api_key,api_secret,Spark_url,domain,question)
    print(response)

3.3.2、本地端口服务调用

命令行1
先运行：
uvicorn spark_api:app

# cmd-> uvicorn spark_api:app
import requests
def get_completion_spark(prompt, temperature = 0.1, max_tokens = 4096):

    api_url = "http://127.0.0.1:8000/spark"
    headers = {"Content-Type": "application/json"}
    data = {
        "prompt" : prompt,
        "temperature" : temperature,
        "max_tokens" : max_tokens
    }

    response = requests.post(api_url, headers=headers, json=data)
    print("response:", response)
    print()
    print()
    return response.text

if __name__ == "__main__":
    ans = get_completion_spark("你好")
    print(ans)

3.4、智谱

先拷贝一些文件，以便好调用。

3.4.1、问答调用

import zhipuai
from zhipuai_llm import ZhipuAILLM

zhipuai.api_key = "******" #填写控制台中获取的 APIKey 信息
model = "chatglm_std" #用于配置大模型版本

def getText(role, content, text = []):
    # role 是指定角色，content 是 prompt 内容
    jsoncon = {}
    jsoncon["role"] = role
    jsoncon["content"] = content
    text.append(jsoncon)
    return text


if __name__ == "__main__":
    # question = getText("user", "你好")
    # print(question)
    # # 请求模型
    # response = zhipuai.model_api.invoke(
    #     model=model,
    #     prompt=question
    # )
    # print(response)

    zhipuai_model = ZhipuAILLM(model="chatglm_std", temperature=0, zhipuai_api_key=zhipuai.api_key)
    response = zhipuai_model.generate(['你好'])
    print(response)

3.4.2、智谱Embedding

import zhipuai
zhipuai.api_key = "*****" #填写控制台中获取的 APIKey 信息

model = "text_embedding" #选择调用生成 embedding 的模型

if __name__ == "__main__":
    text = "要生成 embedding 的输入文本，字符串形式。每个输入不得超过模型的最大输入tokens数量512"
    response = zhipuai.model_api.invoke(
        model=model,
        prompt=text
    )
    print("response: ", response)
    print(response['code'])
    print(f"生成的 embedding 长度为: {len(response['data']['embedding'])}")
    print(f"用户输入的 tokens 数量为: {response['data']['usage']['prompt_tokens']}")
    print(f"用户输入的文本长度为: {len(text)}")
    print(f"本次 token 和字数的换算比例为: {response['data']['usage']['prompt_tokens']/len(text)}, 和理论值 1:1.8 = {1/1.8} 接近")
    print(f"模型输出的 tokens 数量为: {response['data']['usage']['completion_tokens']}")
    print(f"总 tokens 数量为: {response['data']['usage']['total_tokens']}")

4、次数限制

没有
马内
之前，针对OpenAI，ChatGpt的调用次数限制，目前要求每分钟不能调用超过3次，每天要求调用不能超过200次。但是又要完成多轮预测任务，可以参考
代码和数据格式
，从而能完成多轮预测，这个代码主要解决了请求重试问题。

5、其他ChatGPT网站

Poe
提供国外各个大语言模型的聊天窗口。

5.1、爬虫方式请求Poe并获取结果

5.1.1、安装插件

Chrome 浏览器，安装EditThisCookies插件

5.1.2、导出Cookies

将粘贴板上的cookies粘贴到cookies.txt文件中。每一项只保留这些字段（“domain”、“expirationDate”、“httpOnly”、“name”、“path”、“secure”、“session”、“value”、“id”）以及对应值，其余字段删除。

5.1.3、下载chromedriver

chrome://settings/help 查看 浏览器版本。

117/118/119版本通过点击进入到
Chrome for Testing availability
，

5.1.4、简易爬虫代码

from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.common.keys import Keys
import os
import json
import time
import pandas as pd

os.environ['HTTPS_PROXY'] = 'http://127.0.0.1:1080'
os.environ["HTTP_PROXY"] = 'http://127.0.0.1:1080'

def query_sentiment():
    label_space = ["positive", "negative", "neutral"]
    cls_task = f"Given the sentence, assign a sentiment label from {label_space}."
    cls_output = "Return label only without any other text."

    df = pd.read_csv("test.csv")
    text = df['text'].to_list()
    prompts = [(cls_task + "   Sentence: " + ele +"   "+ cls_output) for ele in text]

    return df, prompts

def main():
    option = webdriver.ChromeOptions()
    option.add_experimental_option("detach", True)
    option.add_experimental_option('excludeSwitches', ['enable-automation'])
    option.add_experimental_option('useAutomationExtension', False)

    driver = webdriver.Chrome(executable_path="./chromedriver/chromedriver.exe", options=option)

    driver.execute_cdp_cmd('Page.addScriptToEvaluateOnNewDocument', {'source': 'Object.defineProperty(navigator, "webdriver", {get: () => undefined})'})
    
    # 访问链接地址
    # driver.get("https://poe.com/chat/************")
    driver.get("https://poe.com/chat/***************")
    
    # 添加cookies
    with open('cookies.txt','r') as cookief:
        cookieslist = json.load(cookief)
        print(cookieslist)
        for cookie in cookieslist:
            driver.add_cookie(cookie)
    # 刷新页面
    driver.refresh()

    # 页面下方的聊天窗口元素
    footer = driver.find_element(by=By.CLASS_NAME, value="ChatPageMainFooter_footer__HBGcX")
    # print(footer)
    button = footer.find_element(by=By.CLASS_NAME, value="ChatMessageInputContainer_sendButton__dBjTt")
    # print(button)
    input = footer.find_element(by=By.CLASS_NAME, value="GrowingTextArea_textArea__ZWQbP")
    # print(input)

    df, prompts = query_sentiment()
    predictions = []

    for prompt in prompts:

        time.sleep(6)

        # 页面上可能存在之前的聊天记录
        init_ZEXUz = len(driver.find_elements(by=By.CLASS_NAME, value="ChatMessagesView_messagePair__ZEXUz"))

        input.send_keys(prompt)
        button.click()
        time.sleep(12)

        curr_ZEXUz = driver.find_elements(by=By.CLASS_NAME, value="ChatMessagesView_messagePair__ZEXUz")

        if len(curr_ZEXUz) - init_ZEXUz == 1:

            xkgHx = curr_ZEXUz[-1].find_elements(by=By.CLASS_NAME, value="ChatMessage_chatMessage__xkgHx")

            if len(xkgHx) == 2:

                the_ans = xkgHx[-1].find_element(by=By.CLASS_NAME, value="Markdown_markdownContainer__Tz3HQ").text

                print(prompt + "\nAnswer: " + the_ans)
                print()
        
            else:
                exit
    
    df["prediction"] = predictions
    df["prompt"] = prompts

    output_path = "prediction.csv"
    df.to_csv(output_path, index=False)

if __name__ == '__main__':
    main()

6、总结

学习了国内外不同的大模型API的调用方式，同时基于Poe聊天界面开发一个小的爬虫问答应用，但是Poe的聊天界面也有轮次限制，基于爬虫的方式是高度定制的，针对每个聊天窗口是不太现实的，但是最起码可以自动化问答了，有助于利用大模型进行预测任务的完成。

一、大模型风口已至：月薪30K+的AI岗正在批量诞生

2025年大模型应用呈现爆发式增长，根据工信部最新数据：

国内大模型相关岗位缺口达47万

初级工程师平均薪资28K（数据来源：BOSS直聘报告）

70%企业存在"能用模型不会调优"的痛点

真实案例：某二本机械专业学员，通过4个月系统学习，成功拿到某AI医疗公司大模型优化岗offer，薪资直接翻3倍！

二、如何学习大模型 AI ？

🔥AI取代的不是人类，而是不会用AI的人！麦肯锡最新报告显示：掌握AI工具的从业者生产效率提升47%，薪资溢价达34%！🚀

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

1️⃣ 提示词工程：把ChatGPT从玩具变成生产工具
2️⃣ RAG系统：让大模型精准输出行业知识
3️⃣ 智能体开发：用AutoGPT打造24小时数字员工

📦熬了三个大夜整理的《AI进化工具包》送你：
✔️ 大厂内部LLM落地手册（含58个真实案例）
✔️ 提示词设计模板库（覆盖12大应用场景）
✔️ 私藏学习路径图（0基础到项目实战仅需90天）

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】