最近有小伙伴问，有没有其他好用的免费 AI知识库搭建工具。

我跟你说，还真有，在国内有一个叫FastGPT的工具，是可以搭建AI知识库的，而且免费开源，口碑也很好。它可以下载到本地，私有化搭建部署，目前在Github上面已经获得了26k Star，功能非常强大！

FastGPT通过将智能对话与可视化编排完美结合，无论是开发者还是业务人员，都能轻松打造专属的搭建AI知识库问答系统。

FastGPT介绍和特性

FastGPT 好比企业知识库领域的“WordPress”——装好模板、拖好流程、接好模型，就能上线一个可溯源、可扩展的 LLM 知识库应用，使用下来在知识库管理方面非常强大。

📚

主要有以下特性

1. 开源，可以本地化部署，保护数据隐私

2. 识别文档功能强大，可以导入各式各样的文档及数据，智能处理PDF文档的复杂结构，保留图片、表格和LaTeX公式

3. 搭建方便，可视化工作流编排，对齐 OpenAI 官方接口，一键接入企业微信、公众号、飞书、钉钉等平台，让 AI 能力融入业务场景

4. FastGPT上的知识库可以打包成MCP Server，供n8n在生产内容的时候调用，补齐n8n在知识库上短板，这块内容后面单独出一期介绍，欢迎关注。

   官方部署文档已放在文末

功能架构图

典型场景

1. 1. 对内：HR 手册、IT 运维、财务制度“随问随答”。
2. 2. 对外：电商客服、官网咨询、产品 FAQ 7×24 秒回。
3. 3. 嵌入式：把“小聊窗”嵌进 CRM/ERP，销售问“这份合同折扣底线多少？”直接返回答案+条款页码。
4. 4. 数据报表：集成 FineReport 后，领导说“本季度利润下滑原因”→ 自动跑数、出图、给结论。

本期主要分享

1. 1. 如何Linux云服务器部署FastGPT（推荐）
2. 2. 如何通过Windos搭建FastGPT
3. 3. FastGPT接入免费智能问答、嵌入、重排序模型
4. 4. 知识库创建 & 新媒体写作抬杠大师应用搭建
5. 5. 私有化部署AI知识库对个人&企业的意义

基础准备

在开始之前，如果没有计算机基础，建议了解以下以下内容：Docker技术、Windos下 WSL2安装、Ubuntu 常用命令、VPN&网络基础、AI编程工具基础等内容。每个点看30-40分钟即可，相关快速入门学习材料可以关注公众号，菜单栏加科叔二维码发你。

在实际部署中会遇到各种问题，你可以把问题发给AI编程工具，比如Trae，如今的AI编程工具非常强大，大部分问题都可以解决。你把AI当成你的编程教练，在项目中一边做一边学，这样效率更高。参考AI编程合集

一、如何通过Linux云服务器部署FastGPT（推荐）

FastGPT可以在个人或者企业云服务器部署，最低2核4G就能跑起来，这里以常见服务器操作系统Ubuntu 20.0.4为例，默认需要已经安装Docker 和 docker compose

官方文档参考：https://doc.fastgpt.io/docs/introduction/development/docker

1. 获取 docker-compose.yml 和 config.json 配置文件

cd /home/fastgptbash <(curl -fsSL https://doc.fastgpt.cn/deploy/install.sh) --region=cn --vector=pg

🌟

官方这两个文件下载下来，测试下来是无法直接使用，需要修改config.json 和 docker-compose.yml 将redis、mongodb、postgres 账号密码对齐，否则docker容器大概率无法正常启动。

如有需要可以加科叔，修改好的文件，直接发你。

2. 运行docker容器

docker compose up -d

服务器放 3000端口（FastGPT默认端口），具体登录地址为，http://公网I地址:3000/ ，登录成功

二、如何通过Windos搭建

如果没有云服务器，个人电脑也可以部署，这里以Windos11为例，其他操作系统也可以参考官方安装指南:https://doc.fastgpt.cn/docs/introduction

首先安装WSL2，搭建Window11+Ubuntu双系统

🍰

WSL2（Windows Subsystem for Linux 2）是微软为 Windows 10/11 提供的“轻量级 Linux 虚拟机”，能在保持 Windows 桌面体验的同时，获得几乎原生的 Linux 内核与性能。

使用WSL2有两个前提：

1. 1. 开启CPU虚拟化，大部分电脑都默认开启，如果没有开启可以问一下DeepSeek或者Kimi

如何查看是否开启

Ctrl + Shift + Esc → 性能 → CPU → 查看“虚拟化”是否显示“已启用”

1. 2. 在Windos功能页面，搜索启用或关闭Windsow功能，开启Hyper-v 和 开启适用于Linux的 Windos子系统，勾选完毕后，按照提示重新启动电脑

勾选 Hyper-V

勾选 适用于Linux的Windows 子系统

安装WSL

在Windos搜索CMD,以管理员方式运行

安装WSL,输入以下命令，并配置Ubutu子系统用户和密码，

wsl --instal

此时 Ubuntu-24.04 应处于Running状态

安装Docker Desktop

在Microsoft Store中搜索docker

在安装时候，务必勾选 Use WSL2 instead of Hyper-v

双击打开，如果看到这样的界面，我们的Docker就安装好了

再次检查以下 确认是否勾选 Use the WSL 2 based engine

然后在 Resources 查看 WSL intergation 勾选Ubuntu选项

就可以在上面通过WSL2 安装的Ubuntu 里能直接运行docker (Enable integration with additional distros)

我们在打开命令行，并T通过 WSL 命令进入 WSL2中, 查看 docker命令正常

通过Docker Cmpose 快速部署 FastGPT

参考官方文档：https://doc.fastgpt.io/docs/introduction/development/docker

查看Windos下部署方式

🦄

重要！在WSL2 Ubuntu下当前用户目录下创建 fastgpt目录，后续所有操作都在此文件夹中进行，可以规避很多Windos 下使用WS2 Uubntu 兼容性问题！

cd /home/keshumkdir fastgpt

拉取config.json 和 docker-compose.yml文件

cd /home/keshu/fastgptbash <(curl -fsSL https://doc.fastgpt.cn/deploy/install.sh) --region=cn --vector=pg

拉取正常

启动容器

docker-compose up -d

容器加载完毕

但是查看docer 后台，fastgpt没有正常运行

我们把报错原因丢给AI

显示是由于 fastgpt 服务的数据库连接配置不正确导致的，需要修改config.json 和 docker-compose.yml redis、mongodb、postgres 账号密码对齐。

修改完毕以后，重启，服务正常启动

docker compose downdocker compose up -d

fastgpt默认在本地3000端口打开，账号密码：root/1234 ，该项配置可以在docker-compose.yml中修改。点击登陆http://localhost:3000/

登录界面如下

三、FastGPT接入免费智能问答、嵌入、重排序模型

依次点击，模型提供商 - 模型渠道 - 新增渠道

本次所有模型我们都从智谱开放平台https://www.bigmodel.cn/接入，有大量免费模型，后续随着使用效果，可以自行修改，灵活搭配其他厂商模型。

对话模型(需要自己新增)：glm-4-fash-250414 参考：https://docs.bigmodel.cn/api-reference/%E6%A8%A1%E5%9E%8B-api/%E5%AF%B9%E8%AF%9D%E8%A1%A5%E5%85%A8

文本嵌入模型：embedding-3

重排序模型：rerank

测试接入成功

在模型配置中勾选启用

四、知识库创建和管理

这里创建一个最基础的知识库测试一下

上传一个有关新媒体写作技巧的PDF

先全部默认，保存提交

等待文本嵌入模型处理完成

五、创建新媒体写作抬杠大师应用

在左侧工作台 - 简易应用 - 创建一个新媒体写作抬杠大师应用

做这个应用的背景，就是之前看到过一篇文章，讲的是新媒体写作是和传统写作有很大不同的，在选题和标题占据很大的部分，有很多机巧。恰好之前下了一本新媒体写作的书，懒得看了，就想着丢进知识库，一边写一边问。

给到下面提示词

你是一个经验丰富、言辞犀利、标准严苛的微信公众号写作专家。当用户提交写作选题后，参考知识库内容，你需要严格按照公众号爆款文章的标准，挑出10个问题，进行批判。针对每个问题点，必须给出具体、专业的批判分析。最后基于批判结果，提供3个更具爆款潜力的选题方向建议，并为每个方向构思5个具有冲击力的标题方案。注意：必须保持专业批判态度，绝不迎合！一定要搜索知识库。

这里记得关联知识库，选择刚才的创建的写作大师知识库，点击保存并发布应用

接着测试一下，比如给到下面提示词

我想写，分享一个免费开源免费知识库搭建工具fastgpt，小白秒变专家

很快写作大师进行了批判，生成速度非常快！而且FastGPT在引用知识库标记了引用来源

最后给出了选题方向和标题方面建议

六、私有化部署AI知识库对个人&企业的意义

对个人来说，个人可以通过AI知识库构建属于你的“第二大脑”

1. 1. 自媒体博主可以把历史文章、聊天记录、图片等扔进知识库，每当有问题，AI 当场生成专属定制文章、内容大纲
2. 2. 工程人员/律师/程序员：把过往项目案例、判决书、代码片段丢给知识库，比如当客户问“类似项目报价？”AI秒拉出历史方案和报价模板，大大提高检索效率
3. 3. 学生可以把教材、错题、笔记做成知识库 ，通过问答式复习，提高记忆和学习效果

对企业来说，可以把“组织失忆”变成“数据资产”

1. 1. 客服中心

京东 618 案例：AI 知识库让 70% 重复问题被机器人解决，人工坐席减少 40%，客诉率降 18%。

1. 2. 制造业研发

把 20 年设备手册、维修记录、故障图谱入库 ，工程师现场扫码问异响怎么修？AI 给出历史 3 次同类故障+解决方案，停机时间缩 30%。

1. 3. 金融合规

券商把监管条文、处罚案例、内部制度做成知识库，新业务上线前，AI 自动出具合规风险报告，过会率提升、罚款减少。

1. 4. Sales 赋能

把竞品话术、客户异议、赢单案例丢进知识库， 销售拜访前 1 分钟生成“针对该客户的 5 个痛点+反击话术”

企业甚至可以把知识库应用程序连同大模型LLM一起在本地机房私有化部署，把数据生命周期（采集→传输→存储→使用→共享→销毁）全部放在企业内网完成。

从而实现 知识调取仅限内网、模型不联网，数据不出域，从源头杜绝第三方偷用、偷偷训练或跨境传输的风险，真正做到我的数据我做主。

附fastGPT官方文档：

https://doc.fastgpt.cn/docs/introduction

想入门 AI 大模型却找不到清晰方向？备考大厂 AI 岗还在四处搜集零散资料？别再浪费时间啦！2025 年 AI 大模型全套学习资料已整理完毕，从学习路线到面试真题，从工具教程到行业报告，一站式覆盖你的所有需求，现在全部免费分享！

👇👇扫码免费领取全部内容👇👇

​

一、学习必备：100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT，帮你看透 AI 趋势

想了解大模型的行业动态、商业落地案例？大模型电子书？这份资料帮你站在 “行业高度” 学 AI：

1. 100+本大模型方向电子书

2. 26 份行业研究报告：覆盖多领域实践与趋势

报告包含阿里、DeepSeek 等权威机构发布的核心内容，涵盖：

• 职业趋势：《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》；
• 商业落地：《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》；
• 领域细分：《AGI 在金融领域的应用报告》《AI GC 实践案例集》；
• 行业监测：《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。

3. 600+套技术大会 PPT：听行业大咖讲实战

PPT 整理自 2024-2025 年热门技术大会，包含百度、腾讯、字节等企业的一线实践：

• 安全方向：《端侧大模型的安全建设》《大模型驱动安全升级（腾讯代码安全实践）》；
• 产品与创新：《大模型产品如何创新与创收》《AI 时代的新范式：构建 AI 产品》；
• 多模态与 Agent：《Step-Video 开源模型（视频生成进展）》《Agentic RAG 的现在与未来》；
• 工程落地：《从原型到生产：AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。

二、求职必看：大厂 AI 岗面试 “弹药库”，300 + 真题 + 107 道面经直接抱走

想冲字节、腾讯、阿里、蔚来等大厂 AI 岗？这份面试资料帮你提前 “押题”，拒绝临场慌！

1. 107 道大厂面经：覆盖 Prompt、RAG、大模型应用工程师等热门岗位

面经整理自 2021-2025 年真实面试场景，包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题，每道题都附带思路解析：

2. 102 道 AI 大模型真题：直击大模型核心考点

针对大模型专属考题，从概念到实践全面覆盖，帮你理清底层逻辑：

3. 97 道 LLMs 真题：聚焦大型语言模型高频问题

专门拆解 LLMs 的核心痛点与解决方案，比如让很多人头疼的 “复读机问题”：

三、路线必明： AI 大模型学习路线图，1 张图理清核心内容

刚接触 AI 大模型，不知道该从哪学起？这份「AI大模型 学习路线图」直接帮你划重点，不用再盲目摸索！

路线图涵盖 5 大核心板块，从基础到进阶层层递进：一步步带你从入门到进阶，从理论到实战。

L1阶段:启航篇丨极速破界AI新时代

L1阶段：了解大模型的基础知识，以及大模型在各个行业的应用和分析，学习理解大模型的核心原理、关键技术以及大模型应用场景。

L2阶段：攻坚篇丨RAG开发实战工坊

L2阶段：AI大模型RAG应用开发工程，主要学习RAG检索增强生成：包括Naive RAG、Advanced-RAG以及RAG性能评估，还有GraphRAG在内的多个RAG热门项目的分析。

L3阶段：跃迁篇丨Agent智能体架构设计

L3阶段：大模型Agent应用架构进阶实现，主要学习LangChain、 LIamaIndex框架，也会学习到AutoGPT、 MetaGPT等多Agent系统，打造Agent智能体。

L4阶段：精进篇丨模型微调与私有化部署

L4阶段：大模型的微调和私有化部署，更加深入的探讨Transformer架构，学习大模型的微调技术，利用DeepSpeed、Lamam Factory等工具快速进行模型微调，并通过Ollama、vLLM等推理部署框架，实现模型的快速部署。

L5阶段：专题集丨特训篇 【录播课】

四、资料领取：全套内容免费抱走，学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型，还是有基础想冲刺大厂、了解行业趋势，这份资料都能满足你！
现在只需按照提示操作，就能免费领取：

👇👇扫码免费领取全部内容👇👇

​

2025 年想抓住 AI 大模型的风口？别犹豫，这份免费资料就是你的 “起跑线”！