DeepSeek-V4-Fable训练数据揭秘：80K CTF轨迹的构建与优化

【免费下载链接】DeepSeek-v4-Fable 项目地址: https://ai.gitcode.com/hf_mirrors/Chunjiang-Intelligence/DeepSeek-v4-Fable

DeepSeek-V4-Fable是基于DeepSeek-V4-Flash开发的安全研究专用模型，专为CTF挑战解决、漏洞分析等安全任务设计。其核心竞争力来源于独特的80K CTF轨迹训练数据——SecDojo-80K，这一数据集通过严格的质量控制和结构化构建，为模型注入了专业的安全分析能力。

一、SecDojo-80K数据集：CTF领域的黄金训练素材

1.1 数据集的核心构成

SecDojo-80K是由4050个真实CTF挑战生成的80,000条操作轨迹组成的专业数据集，涵盖网络安全五大核心领域：

类别	挑战数量	轨迹数	平均操作步数	95%上下文长度	教师模型解决率
Web安全	1,240	28,500	14.2	38.4K	71.4%
二进制漏洞利用(Pwn)	850	15,200	22.5	92.6K	38.9%
逆向工程	920	18,400	18.7	71.2K	46.2%
密码学	630	11,300	8.4	21.5K	63.0%
综合杂项	410	6,600	6.1	15.0K	74.8%
总计/平均值	4,050	80,000	15.8	61.3K	56.1%

这些轨迹并非简单的操作记录，而是通过教师模型在受控沙箱环境中生成的高质量解决路径，每个成功案例都经过独立验证，确保flag获取的真实性和操作步骤的可复现性。

1.2 数据采集的创新方法

数据集构建采用"引导式沙箱合成"技术：

• 环境隔离：所有轨迹在 instrumented 沙箱中生成，避免对真实系统造成影响
• 质量过滤：剔除包含操作循环、无法复现成功的轨迹
• 身份脱敏：评估集严格排除源挑战身份信息，防止模型记忆答案
• 多模态记录：完整保存操作命令、系统反馈、中间结果等上下文信息

这种方法解决了CTF数据稀缺性和质量参差不齐的行业痛点，为模型训练提供了标准化的"安全操作教科书"。

二、数据优化：从原始轨迹到训练素材的蜕变

2.1 数据预处理关键步骤

原始CTF轨迹需要经过多轮优化才能成为有效训练数据：

1. 轨迹清洗

• 移除无效操作（如重复命令、无意义输入）
• 修复环境依赖（标准化路径、配置等环境变量）
• 补充缺失上下文（完善错误提示、中间结果说明）

2. 结构化转换 将非结构化操作记录转换为模型可理解的格式：

<system>CTF挑战环境初始化完成</system>
<user>分析目标服务漏洞</user>
<assistant>
<thinking>首先检查开放端口和服务版本...</thinking>
<action>nmap -sV 192.168.1.1</action>
</assistant>
<observation>
PORT   STATE SERVICE VERSION
80/tcp open  http    Apache httpd 2.4.18
</observation>

3. 难度分级 根据操作复杂度和思维链长度，将轨迹分为入门(38%)、中级(42%)和高级(20%)三个等级，实现渐进式训练。

2.2 数据增强技术

为提升模型泛化能力，采用了多种数据增强策略：

• 操作替换：同一目标的不同实现方法（如Python/Shell两种 exploit 编写方式）
• 场景变异：修改挑战参数生成新变体（如端口号、文件路径变化）
• 错误注入：随机插入常见操作错误并记录修正过程
• 多语言转换：支持中英双语操作指令（对应模型多语言能力）

三、数据集如何塑造模型能力

3.1 训练流程中的数据应用

SecDojo-80K数据集在两阶段训练中发挥核心作用：

阶段一：监督微调(SFT)

• 对80K轨迹进行三轮训练
• 仅对agent推理和操作部分计算损失
• 屏蔽环境观察内容，避免模型记忆非通用信息

阶段二：强化学习(GRPO)

• 基于沙箱环境反馈优化策略
• 奖励函数设计：flag获取(60%) + 里程碑达成(30%) + 操作规范性(10%)
• 惩罚机制：无效命令(-5分)、循环操作(-10分)、超时未解决(-20分)

3.2 数据驱动的性能提升

对比实验表明，高质量CTF数据对模型能力提升至关重要：

模型状态	Web安全	二进制利用	逆向工程	密码学	综合解决率
基础模型(0-shot)	19.4%	4.1%	7.8%	22.6%	13.5%
+ SecDojo-80K(SFT)	41.2%	18.7%	24.3%	47.1%	31.2%
+ 强化学习(GRPO)	63.8%	44.5%	51.2%	68.9%	58.7%

特别在二进制利用领域，从4.1%提升至44.5%，充分证明专业数据对复杂安全任务的关键作用。

四、数据集的局限性与未来优化方向

4.1 当前挑战

尽管SecDojo-80K已经展现出强大价值，但仍存在改进空间：

• 场景覆盖：物联网、工控系统等新兴安全领域案例不足
• 时效性：部分挑战基于旧版软件，需持续更新最新漏洞场景
• 对抗性：缺乏真实攻防对抗环境中的动态适应案例

4.2 未来数据扩展计划

开发团队计划通过以下方式扩展数据集：

• 社区贡献计划：邀请CTF选手提交高质量解题轨迹
• 红队合作：与企业安全团队合作获取真实渗透测试案例
• 自动化生成：利用AI辅助生成新型挑战和解题路径
• 多模态融合：增加流量捕获、内存分析等可视化数据

五、如何获取与使用数据集

SecDojo-80K数据集作为模型训练核心资源，目前未对外开放完整版本。研究人员可通过以下方式获取相关资源：

1. 模型体验：通过官方仓库获取DeepSeek-V4-Fable模型进行推理测试

   git clone https://gitcode.com/hf_mirrors/Chunjiang-Intelligence/DeepSeek-v4-Fable
   

2. 技术报告：参考report.pdf了解数据集构建细节

3. 学术合作：通过hi@chunjiang.dev申请研究合作

结语

SecDojo-80K数据集的构建与优化，为安全领域AI模型训练提供了全新范式。80,000条高质量CTF轨迹不仅赋予DeepSeek-V4-Fable强大的专业能力，更为AI安全研究奠定了数据基础。随着数据集的持续扩展与优化，我们有理由相信，AI将在网络安全防御与研究领域发挥越来越重要的作用。

重要提示：DeepSeek-V4-Fable仅用于授权安全研究，严禁在未授权系统上使用。详细使用规范请参考模型Acceptable Use Policy。

【免费下载链接】DeepSeek-v4-Fable 项目地址: https://ai.gitcode.com/hf_mirrors/Chunjiang-Intelligence/DeepSeek-v4-Fable