文章介绍了"微舆"多智能体舆情分析系统,包含Query Agent、Media Agent、Insight Agent和Report Agent四大组件。通过Agent"论坛"协作机制和多模态能力,实现对国内外社交媒体的全面监控和分析。系统支持自定义业务数据库集成,具有轻量化、高扩展性特点,可应用于多个业务场景。


项目简介

微舆” 是一个从0实现的创新型 多智能体 舆情分析系统,帮助大家破除信息茧房,还原舆情原貌,预测未来走向,辅助决策。用户只需像聊天一样提出分析需求,智能体开始全自动分析 国内外30+主流社媒 与 数百万条大众评论。

不仅仅体现在报告质量上,相比同类产品,我们拥有🚀六大优势:

  1. AI驱动的全域监控:AI爬虫集群7x24小时不间断作业,全面覆盖微博、小红书、抖音、快手等10+国内外关键社媒。不仅实时捕获热点内容,更能下钻至海量用户评论,让您听到最真实、最广泛的大众声音。
  2. 超越LLM的复合分析引擎:我们不仅依赖设计的5类专业Agent,更融合了微调模型、统计模型等中间件。通过多模型协同工作,确保了分析结果的深度、准度与多维视角。
  3. 强大的多模态能力:突破图文限制,能深度解析抖音、快手等短视频内容,并精准提取现代搜索引擎中的天气、日历、股票等结构化多模态信息卡片,让您全面掌握舆情动态。
  4. Agent“论坛”协作机制:为不同Agent赋予独特的工具集与思维模式,引入辩论主持人模型,通过“论坛”机制进行链式思维碰撞与辩论。这不仅避免了单一模型的思维局限与交流导致的同质化,更催生出更高质量的集体智能与决策支持。
  5. 公私域数据无缝融合:平台不仅分析公开舆情,还提供高安全性的接口,支持您将内部业务数据库与舆情数据无缝集成。打通数据壁垒,为垂直业务提供“外部趋势+内部洞察”的强大分析能力。
  6. 轻量化与高扩展性框架:基于纯Python模块化设计,实现轻量化、一键式部署。代码结构清晰,开发者可轻松集成自定义模型与业务逻辑,实现平台的快速扩展与深度定制。

始于舆情,而不止于舆情。“微舆”的目标,是成为驱动一切业务场景的简洁通用的数据分析引擎。

举个例子. 你只需简单修改Agent工具集的api参数与prompt,就可以把他变成一个金融领域的市场分析系统

附一个比较活跃的L站项目讨论帖:https://linux.do/t/topic/1009280

告别传统的数据看板,在“微舆”,一切由一个简单的问题开始,您只需像对话一样,提出您的分析需求

🏗️ 系统架构

整体架构图

Insight Agent 私有数据库挖掘:私有舆情数据库深度分析AI代理

Media Agent 多模态内容分析:具备强大多模态能力的AI代理

Query Agent 精准信息搜索:具备国内外网页搜索能力的AI代理

Report Agent 智能报告生成:内置模板的多轮报告生成AI代理

一次完整分析流程

步骤 阶段名称 主要操作 参与组件 循环特性
1 用户提问 Flask主应用接收查询 Flask主应用 -
2 并行启动 三个Agent同时开始工作 Query Agent、Media Agent、Insight Agent -
3 初步分析 各Agent使用专属工具进行概览搜索 各Agent + 专属工具集 -
4 策略制定 基于初步结果制定分块研究策略 各Agent内部决策模块 -
5-N 循环阶段 论坛协作 + 深度研究 ForumEngine + 所有Agent 多轮循环
5.1 深度研究 各Agent基于论坛主持人引导进行专项搜索 各Agent + 反思机制 + 论坛引导 每轮循环
5.2 论坛协作 ForumEngine监控Agent发言并生成主持人总结 ForumEngine + LLM主持人 每轮循环
5.3 交流融合 各Agent根据讨论调整研究方向 各Agent + forum_reader工具 每轮循环
N+1 结果整合 Report Agent收集所有分析结果和论坛内容 Report Agent -
N+2 报告生成 动态选择模板和样式,多轮生成最终报告 Report Agent + 模板引擎 -

🚀 快速开始

如果你是初次学习一个Agent系统的搭建,可以从一个非常简单的demo开始:Deep Search Agent Demo

环境要求

  • 操作系统: Windows、Linux、MacOS
  • Python版本: 3.9+
  • Conda: Anaconda或Miniconda
  • 数据库: MySQL(可选择我们的云数据库服务)
  • 内存: 建议2GB以上

1. 创建Conda环境

# 创建conda环境conda create -n your_conda_name python=3.11conda activate your_conda_name

2. 安装依赖包

# 基础依赖安装pip install -r requirements.txt# 如果不想使用本地情感分析模型(算力需求很小,默认安装cpu版本),可以将该文件中的“机器学习”部分注释掉再执行指令

3. 安装Playwright浏览器驱动

# 安装浏览器驱动(用于爬虫功能)playwright install chromium

4. 配置系统

4.1 配置API密钥

复制一份 config.py.example 文件,命名为 config.py

编辑 config.py 文件,填入您的API密钥(您也可以选择自己的模型、搜索代理,详情见config文件内):

# MySQL数据库配置DB_HOST = "localhost"DB_PORT = 3306DB_USER = "your_username"DB_PASSWORD = "your_password"DB_NAME = "your_db_name"DB_CHARSET = "utf8mb4"# LLM配置# 您可以更改每个部分LLM使用的API,只要兼容OpenAI请求格式都可以# Insight AgentINSIGHT_ENGINE_API_KEY = "your_api_key"INSIGHT_ENGINE_BASE_URL = "https://api.moonshot.cn/v1"INSIGHT_ENGINE_MODEL_NAME = "kimi-k2-0711-preview"# Media Agent...
4.2 数据库初始化

选择1:使用本地数据库

MindSpider爬虫系统跟舆情系统是各自独立的,所以需要再去MindSpider\config.py配置一下,复制MindSpider文件夹下的 config.py.example 文件,命名为 config.py

# 本地MySQL数据库初始化cd MindSpiderpython schema/init_database.py

选择2:使用云数据库服务(推荐)

我们提供便捷的云数据库服务,包含日均10万+真实舆情数据,目前免费申请

  • 真实舆情数据,实时更新
  • 多维度标签分类
  • 高可用云端服务
  • 专业技术支持

联系我们申请免费云数据库访问:📧 670939375@qq.com

为进行数据合规性审查与服务升级,云数据库自2025年10月1日起暂停接收新的使用申请

5. 启动系统

5.1 完整系统启动(推荐)
# 在项目根目录下,激活conda环境conda activate your_conda_name# 启动主应用即可python app.py

注1:一次运行终止后,streamlit app可能结束异常仍然占用端口,此时搜索占用端口的进程kill掉即可

注2:数据爬取需要单独操作,见5.3指引

注3:如果服务器远程部署出现页面显示问题,见PR#45

访问 http://localhost:5000 即可使用完整系统

5.2 单独启动某个Agent
# 启动QueryEnginestreamlit run SingleEngineApp/query_engine_streamlit_app.py --server.port 8503# 启动MediaEngine  streamlit run SingleEngineApp/media_engine_streamlit_app.py --server.port 8502# 启动InsightEnginestreamlit run SingleEngineApp/insight_engine_streamlit_app.py --server.port 8501
5.3 爬虫系统单独使用

这部分有详细的配置文档:MindSpider使用说明

MindSpider 运行示例

# 进入爬虫目录cd MindSpider# 项目初始化python main.py --setup# 运行完整爬虫流程python main.py --complete --date 2024-01-20# 仅运行话题提取python main.py --broad-topic --date 2024-01-20# 仅运行深度爬取python main.py --deep-sentiment --platforms xhs dy wb

⚙️ 高级配置

修改关键参数

Agent配置参数

每个Agent都有专门的配置文件,可根据需求调整,下面是部分示例:

# QueryEngine/utils/config.pyclass Config:    max_reflections = 2           # 反思轮次    max_search_results = 15       # 最大搜索结果数    max_content_length = 8000     # 最大内容长度    # MediaEngine/utils/config.py  class Config:    comprehensive_search_limit = 10# 综合搜索限制    web_search_limit = 15           # 网页搜索限制    # InsightEngine/utils/config.pyclass Config:    default_search_topic_globally_limit = 200    # 全局搜索限制    default_get_comments_limit = 500             # 评论获取限制    max_search_results_for_llm = 50              # 传给LLM的最大结果数
情感分析模型配置
# InsightEngine/tools/sentiment_analyzer.pySENTIMENT_CONFIG = {    'model_type': 'multilingual',     # 可选: 'bert', 'multilingual', 'qwen'等    'confidence_threshold': 0.8,      # 置信度阈值    'batch_size': 32,                 # 批处理大小    'max_sequence_length': 512,       # 最大序列长度}

接入不同的LLM模型

支持任意openAI调用格式的LLM提供商,只需要在/config.py中填写对应的KEY、BASE_URL、MODEL_NAME即可。

更改情感分析模型

系统集成了多种情感分析方法,可根据需求选择:

1. 多语言情感分析
cd SentimentAnalysisModel/WeiboMultilingualSentimentpython predict.py --text "This product is amazing!" --lang "en"
2. 小参数Qwen3微调
cd SentimentAnalysisModel/WeiboSentiment_SmallQwenpython predict_universal.py --text "这次活动办得很成功"
3. 基于BERT的微调模型
# 使用BERT中文模型cd SentimentAnalysisModel/WeiboSentiment_Finetuned/BertChinese-Lorapython predict.py --text "这个产品真的很不错"
4. GPT-2 LoRA微调模型
cd SentimentAnalysisModel/WeiboSentiment_Finetuned/GPT2-Lorapython predict.py --text "今天心情不太好"
5. 传统机器学习方法
cd SentimentAnalysisModel/WeiboSentiment_MachineLearningpython predict.py --model_type "svm" --text "服务态度需要改进"

接入自定义业务数据库

1. 修改数据库连接配置
# config.py 中添加您的业务数据库配置BUSINESS_DB_HOST = "your_business_db_host"BUSINESS_DB_PORT = 3306BUSINESS_DB_USER = "your_business_user"BUSINESS_DB_PASSWORD = "your_business_password"BUSINESS_DB_NAME = "your_business_database"
2. 创建自定义数据访问工具
# InsightEngine/tools/custom_db_tool.pyclass CustomBusinessDBTool:    """自定义业务数据库查询工具"""        def __init__(self):        self.connection_config = {            'host': config.BUSINESS_DB_HOST,            'port': config.BUSINESS_DB_PORT,            'user': config.BUSINESS_DB_USER,            'password': config.BUSINESS_DB_PASSWORD,            'database': config.BUSINESS_DB_NAME,        }        def search_business_data(self, query: str, table: str):        """查询业务数据"""        # 实现您的业务逻辑        pass        def get_customer_feedback(self, product_id: str):        """获取客户反馈数据"""        # 实现客户反馈查询逻辑        pass
3. 集成到InsightEngine
# InsightEngine/agent.py 中集成自定义工具from .tools.custom_db_tool import CustomBusinessDBToolclass DeepSearchAgent:    def __init__(self, config=None):        # ... 其他初始化代码        self.custom_db_tool = CustomBusinessDBTool()        def execute_custom_search(self, query: str):        """执行自定义业务数据搜索"""        return self.custom_db_tool.search_business_data(query, "your_table")

自定义报告模板

1. 在Web界面中上传

系统支持上传自定义模板文件(.md或.txt格式),可在生成报告时选择使用。

2. 创建模板文件

ReportEngine/report_template/ 目录下创建新的模板,我们的Agent会自行选用最合适的模板。

如何学习AI大模型 ?

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。【保证100%免费】🆓

CSDN粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传CSDN,朋友们如果需要可以扫描下方二维码&点击下方CSDN官方认证链接免费领取 【保证100%免费】

读者福利: 👉👉CSDN大礼包:《最新AI大模型学习资源包》免费分享 👈👈

(👆👆👆安全链接,放心点击)

对于0基础小白入门:

如果你是零基础小白,想快速入门大模型是可以考虑的。

一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

👉1.大模型入门学习思维导图👈

要学习一门新的技术,作为新手一定要先学习成长路线图,方向不对,努力白费。

对于从来没有接触过AI大模型的同学,我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。(全套教程文末领取哈)
在这里插入图片描述

👉2.AGI大模型配套视频👈

很多朋友都不喜欢晦涩的文字,我也为大家准备了视频教程,每个章节都是当前板块的精华浓缩。
在这里插入图片描述

在这里插入图片描述

👉3.大模型实际应用报告合集👈

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(全套教程文末领取哈)

在这里插入图片描述

👉4.大模型实战项目&项目源码👈

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战项目来学习。(全套教程文末领取哈)
在这里插入图片描述

👉5.大模型经典学习电子书👈

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。(全套教程文末领取哈)
在这里插入图片描述

👉6.大模型面试题&答案👈

截至目前大模型已经超过200个,在大模型纵横的时代,不仅大模型技术越来越卷,就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道,我总结了大模型常考的面试题。(全套教程文末领取哈)
在这里插入图片描述

为什么分享这些资料?

只要你是真心想学AI大模型,我这份资料就可以无偿分享给你学习,我国在这方面的相关人才比较紧缺,大模型行业确实也需要更多的有志之士加入进来,我也真心希望帮助大家学好这门技术,如果日后有什么学习上的问题,欢迎找我交流,有技术上面的问题,我是很愿意去帮助大家的!

这些资料真的有用吗?

这份资料由我和鲁为民博士共同整理,鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位,在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利,同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。

在这里插入图片描述
在这里插入图片描述

CSDN粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传CSDN,朋友们如果需要可以扫描下方二维码&点击下方CSDN官方认证链接免费领取 【保证100%免费】

读者福利: 👉👉CSDN大礼包:《最新AI大模型学习资源包》免费分享 👈👈

(👆👆👆安全链接,放心点击)
Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐