先看效果

在这里插入图片描述
对话过程被缓存到了Redis 中。

原理

在上一节我们快速入门了SpringAI,具体文章请查看:快速入门Spring AI

创建 ChatClient 的代码如下:

this.chatClient = ChatClient.builder(chatModel)
        .defaultSystem(DEFAULT_PROMPT)
        .defaultAdvisors(new MessageChatMemoryAdvisor(new InMemoryChatMemory()))
        .defaultAdvisors(new SimpleLoggerAdvisor())
        .defaultOptions(OpenAiChatOptions.builder().temperature(0.0d).build())
        .build();

其中new MessageChatMemoryAdvisor(new InMemoryChatMemory()) 会将对话缓存在内存中,查看类InMemoryChatMemory 的源码发现,它实际上实现了ChatMemory 接口,实现了 addget以及clear三个方法。

实现

先添加 Redis 的依赖:

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-data-redis</artifactId>
</dependency>

然后定义一个类 RedisChatMemory 实现 ChatMemory 接口,实现三个方法:

@Override
public void add(String conversationId, List<Message> messages) {
    long time = System.currentTimeMillis();

    for (Message message : messages) {
        redisTemplate.opsForHash().put(conversationId, String.valueOf(time), message);
    }
}

@Override
public List<Message> get(String conversationId, int lastN) {
    Map<Object, Object> entries = redisTemplate.opsForHash().entries(conversationId);
    return entries.entrySet().stream()
            .sorted((o1, o2) -> {
                long time1 = Long.parseLong(o1.getKey().toString());
                long time2 = Long.parseLong(o2.getKey().toString());
                return Long.compare(time1, time2);
            }).limit(lastN)
            .map(e -> new UserMessage(e.getValue().toString()))
            .collect(Collectors.toList());
}

@Override
public void clear(String conversationId) {
    redisTemplate.delete(conversationId);
}

再把 RedisChatMemory 注册成 Bean 对象:

@Bean
public RedisChatMemory redisChatMemory(RedisTemplate<String, Object> redisTemplate) {
    return new RedisChatMemory(redisTemplate);
}

最后替换 ChatClient 定义中的 InMemoryChatMemory

this.chatClient = ChatClient.builder(chatModel)
        .defaultSystem(DEFAULT_PROMPT)
//      .defaultAdvisors(new MessageChatMemoryAdvisor(new InMemoryChatMemory()))
        .defaultAdvisors(new MessageChatMemoryAdvisor(redisChatMemory))
        .defaultAdvisors(new SimpleLoggerAdvisor())
        .defaultOptions(OpenAiChatOptions.builder().temperature(0.0d).build())
        .build();

具体代码:代码地址

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐