主流AI大模型的python代码调用和代码示例
主流AI大模型的python调用代码和示例(gpt、deepseek、doubao、书生浦语、智谱、月之暗面、llama、qwen)
1.智谱大模型的API调用方法:(python示例)
API申请网址:智谱AI开放平台
1.ChatOpenAI调用案例(不支持glm-9b)
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
model = ChatOpenAI(
temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
model='glm-4-plus', #自定义智谱平台支持的大模型(glm_9b模型不能使用)
openai_api_key="Api_key", # 填入智谱平台申请的API_KEY
openai_api_base="https://open.bigmodel.cn/api/paas/v4/"
)
#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content="" #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content) #信息内容导入
#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query) #模型问题回答
2. OpenAI调用案例(不支持glm-9b)
from openai import OpenAI
client = OpenAI(
base_url='https://open.bigmodel.cn/api/paas/v4/',
api_key='Api_key', # 填入智谱平台申请的API_KEY
)
messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
model =("glm-4-plus"), #
messages=messages,
stream=True, #True表示可以流式输出
temperature=0.2 #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)
3. ZhipuAI调用案例(支持glm-9b)
from zhipuai import ZhipuAI
client = ZhipuAI(
base_url='https://open.bigmodel.cn/api/paas/v4/',
api_key='Api_key', # 填入智谱平台申请的API_KEY
)
messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
model =("glm-4-plus"), #
messages=messages,
stream=True, #True表示可以流式输出
temperature=0.2 #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)
2. 千问大模型的API调用方法:(python示例)
1.API申请网址1(每天免费额度1000次):魔搭社区
2. API申请网址2:百炼控制台
1.ChatOpenAI调用案例:
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
#百炼平台
model = ChatOpenAI(
temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
model="qwen-plus" #自定义模型
api_key="Api_key", # 填入百炼平台申请的API_KEY
openai_api_base="https://dashscope.aliyuncs.com/compatible-mode/v1" # 百炼URL
)
#魔塔社区
#model = ChatOpenAI(
# temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
# model="Qwen2.5-7B-Instruct" #自定义模型
# api_key="Api_key", 魔塔社区申请的API_KEY
# openai_api_base="https://api-inference.modelscope.cn/v1/" #魔塔url
# )
#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content="" #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content) #信息内容导入
#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query) #模型问题回答
2.OpenAI调用案例
from openai import OpenAI
#百炼平台
client = OpenAI(
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
api_key='Api_key', # 填入百炼平台申请的API_KEY
)
#魔塔社区
#client = OpenAI(
# base_url="https://api-inference.modelscope.cn/v1/",
# api_key='Api_key', # 填入模塔平台申请的API_KEY
#)
messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
model ="qwen-plus", #填入模型
messages=messages,
stream=True, #True表示可以流式输出
temperature=0.2 #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)
3.豆包大模型的API调用方法:(python示例)
API申请网址:账号登录-火山引擎
1.ChatOpenAI调用案例:(火山填入的是模型ID号,不是模型名称)
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
model = ChatOpenAI(
temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
model='', #自定义豆包平台支持的大模型ID
openai_api_key="Api_key", # 填入豆包平台申请的API_KEY
openai_api_base="https://ark.cn-beijing.volces.com/api/v3"
)
#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content="" #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content) #信息内容导入
#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query) #模型问题回答
2.OpenAI调用案例:(火山填入的是模型ID号,不是模型名称)
from openai import OpenAI
client = OpenAI(
base_url="https://ark.cn-beijing.volces.com/api/v3",
api_key='Api_key', # 填入豆包平台申请的API_KEY
)
messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
model ="", #填入模型ID
messages=messages,
stream=True, #True表示可以流式输出
temperature=0.2 #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)
4.Deepseek大模型的API调用方法:(python示例)
1.API申请网址1(每天免费1000次):魔搭社区
2.API申请网址2:DeepSeek
1.ChatOpenAI调用案例:
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
#deepseek平台
model = ChatOpenAI(
temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
model="" #自定义模型
api_key="Api_key", # 填入deepseek平台申请的API_KEY
openai_api_base="https://api.deepseek.com" # URL
)
#魔塔社区
#model = ChatOpenAI(
# temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
# model="" #自定义模型
# api_key="Api_key", 魔塔社区申请的API_KEY
# openai_api_base="https://api-inference.modelscope.cn/v1/" #魔塔url
# )
#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content="" #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content) #信息内容导入
#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query) #模型问题回答
2.OpenAI调用案例:
from openai import OpenAI
#deepseek官方平台
client = OpenAI(
base_url="https://api.deepseek.com",
api_key='Api_key', # 填入deepseek平台申请的API_KEY
)
#魔塔平台
#client = OpenAI(
# base_url="https://api-inference.modelscope.cn/v1/",
# api_key='Api_key', # 填入魔塔平台申请的API_KEY
#)
messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
model ="", #填入模型名称
messages=messages,
stream=True, #True表示可以流式输出
temperature=0.2 #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)
5.Llama大模型的API调用方法:(python示例)
API申请网址:llama-3.3-nemotron-super-49b-v1 Model by NVIDIA | NVIDIA NIM
1.ChatOpenAI调用案例:
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
#deepseek平台
model = ChatOpenAI(
temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
model="meta/llama-3.3-70b-instruct" #自定义模型
api_key="Api_key", # 填入llama平台申请的API_KEY
openai_api_base="https://integrate.api.nvidia.com/v1" # URL
)
#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content="" #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content) #信息内容导入
#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query) #模型问题回答
2.OpenAI调用案例:
from openai import OpenAI
client = OpenAI(
base_url="https://integrate.api.nvidia.com/v1",
api_key='Api_key', # 填入llama平台申请的API_KEY
)
messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
model ="meta/llama-3.3-70b-instruct", #填入模型名称
messages=messages,
stream=True, #True表示可以流式输出
temperature=0.2 #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)
6.月之暗面(Kimi)大模型的API调用方法:(python示例)
API申请网址:Moonshot AI - 开放平台
1.ChatOpenAI调用案例:
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
#deepseek平台
model = ChatOpenAI(
temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
model="moonshot-v1-128k" #自定义模型
api_key="Api_key", # 填入平台申请的API_KEY
openai_api_base="https://api.moonshot.cn/v1" # URL
)
#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content="" #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content) #信息内容导入
#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query) #模型问题回答
2.OpenAI调用案例:
from openai import OpenAI
client = OpenAI(
base_url="https://api.moonshot.cn/v1",
api_key='Api_key', # 填入平台申请的API_KEY
)
messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
model ="moonshot-v1-128k", #填入模型名称
messages=messages,
stream=True, #True表示可以流式输出
temperature=0.2 #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)
7.ChatGPT大模型的API调用方法:(python示例)
1.官方API申请网址1:https://platform.openai.com/docs/api-reference/admin-api-keys
2.转接API申请网址2:DrWeb
1.ChatOpenAI调用案例:
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
#deepseek平台
model = ChatOpenAI(
temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
model="gpt4" #自定义模型
api_key="Api_key", # 填入平台申请的API_KEY
openai_api_base="https://api.openai.com/v1" # URL
)
#转接api直接修改url为:https://api.openai-hk.com/v1
#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content="" #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content) #信息内容导入
#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query) #模型问题回答
2.OpenAI调用案例:
from openai import OpenAI
client = OpenAI(
base_url="https://api.openai.com/v1",
api_key='Api_key', # 填入平台申请的API_KEY
)
#转接api直接修改url为:https://api.openai-hk.com/v1
messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
model ="gpt4", #填入模型名称
messages=messages,
stream=True, #True表示可以流式输出
temperature=0.2 #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)
8.书生浦语大模型的API调用方法:(python示例)
API申请网址:书生
1.ChatOpenAI调用案例:
from langchain_openai import ChatOpenAI
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnableLambda, RunnablePassthrough
#deepseek平台
model = ChatOpenAI(
temperature=0.2, #可以进行自定义,temperature值范围[0,1],值越大随机度越大
model="internlm3-latest" #自定义模型
api_key="Api_key", # 填入平台申请的API_KEY
openai_api_base="https://chat.intern-ai.org.cn/api/v1/" # URL
)
#模型回答模板
message = """
使用提供的上下文仅回答这个问题:
{question}
上下文:
{context}
"""
#内容,提示模板模板
content="" #内容可以根据需求(可以是解析好的pdf文本)
prompt_temp = ChatPromptTemplate.from_messages([('human', message)]) #提示模板
docs_runnable = RunnableLambda(lambda input: content) #信息内容导入
#langchain链,问题:query, context:docs_runnable,提示模板:prompt_temp,大模型:model
chain = {'question': RunnablePassthrough(), 'context': docs_runnable} | prompt_temp | model
resp = chain.invoke(query) #模型问题回答
2.OpenAI调用案例:
from openai import OpenAI
client = OpenAI(
base_url="https://chat.intern-ai.org.cn/api/v1/",
api_key='Api_key', # 填入平台申请的API_KEY
)
messages=[{"role": "user", "content": content}], #content是问题的内容
response=client.chat.completions.create(
model ="internlm3-latest", #填入模型名称
messages=messages,
stream=True, #True表示可以流式输出
temperature=0.2 #可以进行自定义,temperature值范围[0,1],值越大随机度越大
)
火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。
更多推荐
所有评论(0)