pyllms：终极Python库，一站式连接15+主流LLM模型（OpenAI/Anthropic/Google等）

【免费下载链接】pyllms Minimal Python library to connect to LLMs (OpenAI, Anthropic, Google, Groq, Reka, Together, AI21, Cohere, Aleph Alpha, HuggingfaceHub), with a built-in model performance benchmark. 项目地址: https://gitcode.com/gh_mirrors/py/pyllms

想要在Python项目中快速集成大型语言模型，却不想为每个API单独写代码？🤔 pyllms正是你需要的解决方案！这个强大的Python库让你能够用统一的接口连接超过15个主流LLM服务提供商，包括OpenAI、Anthropic、Google、Groq、Mistral、Ollama等，还内置了模型性能基准测试功能。无论你是AI开发者、数据科学家还是Python爱好者，pyllms都能让你的LLM集成工作变得前所未有的简单高效！✨

🚀 为什么选择pyllms？

在AI快速发展的今天，不同厂商的LLM模型层出不穷，每个都有自己独特的API接口和调用方式。pyllms解决了这个痛点，提供了统一的Python接口，让你可以用完全相同的代码调用不同厂商的模型。这意味着：

• 代码复用性高：一套代码，多个模型
• 学习成本低：只需学习一个API
• 切换成本为零：随时更换模型提供商
• 内置性能测试：自动对比不同模型表现

📦 核心功能一览

pyllms不仅仅是一个简单的包装器，它提供了完整的LLM开发生态：

🔌 统一接口支持

• OpenAI系列：GPT-3.5、GPT-4、GPT-4o、o1、o3系列等
• Anthropic Claude：Claude 3.5 Sonnet、Claude 3.7 Sonnet等
• Google Gemini：Gemini 2.5 Pro、Gemini 2.0 Flash等
• 开源模型：通过Ollama支持Llama、Mistral、Phi等本地模型
• 其他主流：Cohere、AI21、Aleph Alpha、HuggingFace Hub等

⚡ 高级特性

• 异步支持：acomplete()方法支持异步调用
• 流式响应：complete_stream()实现实时流式输出
• 多模型并行：同时测试多个模型的性能
• 内置基准测试：一键对比不同模型的速度和准确性
• 成本计算：自动计算每次调用的token消耗和费用

🛠️ 快速安装指南

安装pyllms非常简单，只需一行命令：

pip install pyllms

对于想要使用本地模型支持的用户，还可以安装额外的依赖：

pip install pyllms[local]

🎯 3分钟快速上手

基础使用示例

import llms

# 初始化模型（默认使用GPT-3.5-turbo）
model = llms.init()

# 发送请求
response = model.complete("你好，请介绍一下Python编程语言")

print(response.text)

多模型并行测试

想要知道哪个模型最适合你的任务？pyllms可以帮你一键测试：

import llms

# 同时测试多个模型
models = ["gpt-4o", "claude-3-5-sonnet", "gemini-2.0-flash"]
model = llms.init(models)

# 并行请求
responses = model.complete("写一首关于春天的短诗")

# 查看所有模型的响应
for response in responses:
    print(f"{response.provider.model}: {response.text}")

📊 内置性能基准测试

pyllms最强大的功能之一就是内置的模型性能基准测试。你可以轻松对比不同模型在速度、准确性和成本方面的表现：

图：pyllms内置的模型性能基准测试结果展示

运行基准测试

import llms

# 初始化要测试的模型
models = ["gpt-4o-mini", "claude-3-5-haiku", "gemini-2.0-flash"]
model = llms.init(models)

# 运行基准测试
results = model.benchmark()

# 查看结果表格
print(results)

基准测试会自动评估：

• 响应速度：每秒处理的token数
• 准确性：在标准测试集上的表现
• 成本效益：每百万token的费用
• 延迟：从请求到响应的时间

🔧 高级配置选项

环境变量配置

pyllms支持通过环境变量配置API密钥，让你的代码更安全：

export OPENAI_API_KEY="your-openai-key"
export ANTHROPIC_API_KEY="your-anthropic-key"
export GOOGLE_API_KEY="your-google-key"

本地Ollama支持

想要在本地运行开源模型？pyllms完美支持：

# 连接到本地Ollama服务
model = llms.init("llama3:latest", ollama_host="http://localhost:11434")
response = model.complete("解释量子计算的基本原理")

混合云和本地模型

你甚至可以同时测试云服务和本地模型：

# 混合云服务和本地模型
models = ["gpt-4o", "llama3:latest", "gemini-2.0-flash"]
model = llms.init(models, ollama_host="http://localhost:11434")

📈 实际应用场景

场景1：内容生成对比

# 比较不同模型的内容生成质量
prompt = "为一家科技创业公司写一段产品介绍"
models = ["gpt-4o", "claude-3-5-sonnet", "gemini-2.0-flash"]
model = llms.init(models)

responses = model.complete(prompt)
# 比较哪个模型写得最好

场景2：代码生成优化

# 测试不同模型在代码生成任务上的表现
prompt = "用Python实现一个快速排序算法"
models = ["gpt-4o", "claude-3-5-sonnet", "deepseek-coder"]
model = llms.init(models)

responses = model.complete(prompt, temperature=0.7)

场景3：多语言支持测试

# 测试模型的多语言能力
languages = ["中文", "English", "Español", "日本語"]
models = ["gpt-4o", "claude-3-5-sonnet"]

for lang in languages:
    prompt = f"用{lang}写一个关于人工智能的简短段落"
    model = llms.init(models)
    responses = model.complete(prompt)

🎨 项目架构设计

pyllms采用了优雅的架构设计，核心文件位于llms/llms.py，提供了统一的LLMS类接口。每个提供商都有独立的实现文件，如llms/providers/openai.py、llms/providers/anthropic.py等。

核心类结构

• LLMS类：主要入口点，管理所有提供商
• BaseProvider：所有提供商的基类
• Result/Results：统一的结果封装
• StreamResult：流式响应支持

🚨 注意事项与最佳实践

API密钥管理

• 使用环境变量存储敏感信息
• 为不同环境设置不同的密钥
• 定期轮换API密钥

成本控制

• 使用count_tokens()方法预估token消耗
• 设置合理的max_tokens参数
• 监控API使用情况

错误处理

try:
    response = model.complete(prompt)
except Exception as e:
    print(f"请求失败: {e}")
    # 可以在这里实现重试逻辑

📚 学习资源与扩展

官方文档

项目提供了详细的README.md文档，包含了完整的API参考和示例代码。

进阶功能

• 自定义提供商：实现自己的LLM提供商接口
• 批量处理：高效处理大量请求
• 缓存机制：减少重复请求的成本
• 监控集成：与Prometheus、Grafana等监控工具集成

🎉 开始你的LLM之旅

无论你是想要：

• 快速原型开发：用最少的代码测试不同模型
• 生产环境部署：选择最适合业务需求的模型
• 学术研究：系统性地对比模型性能
• 成本优化：找到性价比最高的解决方案

pyllms都能为你提供强大的支持。它的简洁API设计、丰富的功能特性和活跃的社区支持，让它成为Python生态中连接LLM的首选工具。

现在就安装pyllms，开始你的多模型AI开发之旅吧！🚀 记住，统一的接口、强大的基准测试和广泛的模型支持，让pyllms成为连接15+主流LLM模型的终极Python库。

提示：项目已迁移到pydantic-ai，但pyllms仍然是一个功能完整且稳定的选择，特别适合需要多模型支持和基准测试的场景。

【免费下载链接】pyllms Minimal Python library to connect to LLMs (OpenAI, Anthropic, Google, Groq, Reka, Together, AI21, Cohere, Aleph Alpha, HuggingfaceHub), with a built-in model performance benchmark. 项目地址: https://gitcode.com/gh_mirrors/py/pyllms