Eino快速开始：5分钟构建首个AI应用

【免费下载链接】eino 项目地址: https://gitcode.com/GitHub_Trending/ei/eino

还在为构建AI应用时的复杂编排和流处理而头疼吗？Eino框架让你在5分钟内就能搭建起功能完整的AI应用！本文将手把手带你从零开始，使用Eino构建你的第一个智能对话应用。

什么是Eino？

Eino（谐音"I know"）是字节跳动CloudWeGo团队开源的Go语言LLM（Large Language Model）应用开发框架。它从LangChain、LlamaIndex等优秀框架中汲取灵感，提供了：

• 🧩 丰富的组件抽象：ChatModel、Tool、ChatTemplate等开箱即用
• 🔗 强大的编排能力：Chain、Graph、Workflow三种编排模式
• 🌊 完整的流处理：自动处理消息流的拼接、转换和复制
• 🎯 类型安全：编译时类型检查，减少运行时错误

环境准备

首先确保你的开发环境满足以下要求：

# 检查Go版本
go version
# 需要Go 1.18或更高版本

# 创建项目目录
mkdir my-first-eino-app
cd my-first-eino-app

# 初始化Go模块
go mod init my-first-eino-app

# 添加Eino依赖
go mod edit -require github.com/cloudwego/eino@latest

第一个Eino应用：智能对话链

让我们从一个最简单的对话链开始，了解Eino的核心概念。

步骤1：导入必要的包

package main

import (
    "context"
    "fmt"
    "log"

    "github.com/cloudwego/eino/compose"
    "github.com/cloudwego/eino/components/model"
    "github.com/cloudwego/eino/components/prompt"
    "github.com/cloudwego/eino/schema"
)

步骤2：创建模拟ChatModel

在实际项目中，你会使用真实的AI模型（如OpenAI、通义千问等）。这里我们先创建一个模拟模型：

// MockChatModel 模拟聊天模型实现
type MockChatModel struct{}

func (m *MockChatModel) Generate(ctx context.Context, input []*schema.Message, opts ...model.Option) (*schema.Message, error) {
    // 模拟AI响应
    return &schema.Message{
        Role:    schema.Assistant,
        Content: "你好！我是基于Eino框架构建的AI助手，很高兴为你服务！",
    }, nil
}

func (m *MockChatModel) Stream(ctx context.Context, input []*schema.Message, opts ...model.Option) (*schema.StreamReader[*schema.Message], error) {
    // 模拟流式响应（简化实现）
    return nil, fmt.Errorf("stream not implemented in mock")
}

步骤3：构建对话链

现在使用Eino的Chain来编排对话流程：

func main() {
    ctx := context.Background()

    // 1. 创建聊天模板
    chatTemplate, err := prompt.FromMessages(schema.FString, []*schema.Message{
        {
            Role:    schema.System,
            Content: "你是一个友好的AI助手，用中文回答用户问题。",
        },
        {
            Role:    schema.User,
            Content: "{query}",
        },
    })
    if err != nil {
        log.Fatalf("创建聊天模板失败: %v", err)
    }

    // 2. 创建聊天模型
    chatModel := &MockChatModel{}

    // 3. 构建对话链：模板 -> 模型
    chain, err := compose.NewChain[map[string]any, *schema.Message]().
        AppendChatTemplate(chatTemplate).
        AppendChatModel(chatModel).
        Compile(ctx)
    if err != nil {
        log.Fatalf("编译链失败: %v", err)
    }

    // 4. 执行对话
    result, err := chain.Invoke(ctx, map[string]any{
        "query": "请介绍一下你自己",
    })
    if err != nil {
        log.Fatalf("执行对话失败: %v", err)
    }

    // 5. 输出结果
    fmt.Printf("AI回复: %s\n", result.Content)
}

步骤4：运行应用

go run main.go

输出结果：

AI回复: 你好！我是基于Eino框架构建的AI助手，很高兴为你服务！

Eino核心概念解析

1. 组件（Components）

Eino提供了多种预构建的组件类型：

组件类型	描述	示例
ChatModel	聊天模型组件	OpenAI、通义千问等
ChatTemplate	对话模板组件	系统提示词、用户消息模板
Tool	工具调用组件	计算器、天气查询等
Retriever	检索组件	向量数据库检索

2. 编排（Orchestration）

Eino提供三种编排模式，满足不同复杂度的需求：

3. 流处理（Stream Processing）

Eino自动处理流式数据的四种范式：

范式	输入	输出	使用场景
Invoke	非流	非流	简单请求-响应
Stream	非流	流	实时生成
Collect	流	非流	流式输入聚合
Transform	流	流	流式转换

进阶示例：带工具调用的智能体

让我们构建一个更复杂的应用，让AI能够调用工具：

// 创建天气查询工具
weatherTool := compose.InvokableLambda(func(ctx context.Context, input map[string]any) (map[string]any, error) {
    city := input["city"].(string)
    return map[string]any{
        "city":    city,
        "weather": "晴朗，25°C",
        "humidity": "45%",
    }, nil
})

// 构建工具调用图
graph := compose.NewGraph[map[string]any, *schema.Message]()
graph.AddChatTemplateNode("template", chatTemplate)
graph.AddChatModelNode("model", chatModel)
graph.AddToolsNode("tools", compose.NewToolsNode(weatherTool))

// 添加边连接节点
graph.AddEdge(compose.START, "template")
graph.AddEdge("template", "model")
graph.AddEdge("model", "tools")
graph.AddEdge("tools", compose.END)

// 编译并执行
compiledGraph, _ := graph.Compile(ctx)
result, _ := compiledGraph.Invoke(ctx, map[string]any{
    "query": "北京今天的天气怎么样？",
})

最佳实践和技巧

1. 错误处理

// 使用WithRecovery选项自动恢复panic
chain, err := compose.NewChain[map[string]any, *schema.Message]().
    AppendChatTemplate(chatTemplate).
    AppendChatModel(chatModel).
    Compile(ctx, compose.WithRecovery(true))

2. 回调处理

// 添加回调处理日志和监控
handler := callbacks.NewHandlerBuilder().
    OnStartFn(func(ctx context.Context, info *callbacks.RunInfo, input callbacks.CallbackInput) {
        log.Printf("开始执行: %s", info.NodeKey)
    }).
    OnEndFn(func(ctx context.Context, info *callbacks.RunInfo, output callbacks.CallbackOutput) {
        log.Printf("执行完成: %s", info.NodeKey)
    }).
    Build()

result, err := chain.Invoke(ctx, input, compose.WithCallbacks(handler))

3. 性能优化

// 使用并行处理提高性能
parallel := compose.NewParallel()
parallel.AddChatModel("model1", model1)
parallel.AddChatModel("model2", model2)

chain.AppendParallel(parallel)

常见问题解答

Q: Eino支持哪些AI模型？

A: Eino通过组件抽象支持所有主流的AI模型，包括OpenAI、Anthropic、通义千问、文心一言等。

Q: 如何处理流式响应？

A: Eino自动处理流式数据的拼接、转换和复制，你只需要关注业务逻辑。

Q: Eino适合生产环境吗？

A: 是的，Eino由字节跳动团队维护，经过大规模生产环境验证，提供完整的监控、日志和错误处理机制。

总结

通过本文的5分钟快速入门，你已经掌握了：

1. ✅ Eino框架的基本概念和优势
2. ✅ 如何搭建第一个Eino对话链应用
3. ✅ Eino的核心组件和编排模式
4. ✅ 流式处理和错误处理的最佳实践

Eino让Go语言开发者能够快速构建复杂、可靠的AI应用，无需担心底层的编排复杂性。现在就开始你的Eino之旅，构建下一个智能应用吧！

---

下一步学习建议：

• 探索Eino的Graph编排模式处理复杂业务流程
• 学习如何集成真实的AI模型服务
• 了解Eino的流式处理能力和性能优化技巧
• 查看官方示例项目获取更多灵感

记得在实际项目中使用时，替换MockChatModel为真实的AI模型服务，并添加适当的错误处理和监控逻辑。

【免费下载链接】eino 项目地址: https://gitcode.com/GitHub_Trending/ei/eino