背景：提示调优很容易受到下游任务不可知后门的影响，这些后门存在于预训练的模型中，可以影响任意的下游任务。（提示调优与任务不可知后门攻击的强绑定原因：提示调优冻结预训练模型的所有权重，意味着后门攻击的权重不会随着调优而修改或删除）

本文工作：提出LMSanitator，一种不改变模型参数的情况下，检测和移除Transformer模型上与任务无关的后门的新方法。与直接反演触发器不同，LMSanitator旨在反演任务不可知后门的预定义攻击向量(输入嵌入触发器时预训练模型的输出)，从而获得更好的收敛性能和后门检测精度。LMSanitator进一步利用了冻结预训练模型的即时调优特性，在推理阶段执行准确、快速的输出监控和输入清除。

LMSanitator步骤：

  1. PV挖掘： 目的：反转攻击者设计的向量
  2. PV过滤：筛除由软提示造成的异常输出，得到最终的PV集。
  3. PV监控：让输入经过预训练的模型，再将其送入特定任务的模型，计算两个输出的相似度。

（第一次阅读相关领域的论文，如有错误，欢迎指出）

# 机器学习 # 论文阅读 # 网络安全
Logo
火山引擎 ADG 社区

火山引擎开发者社区是火山引擎打造的AI技术生态平台，聚焦Agent与大模型开发，提供豆包系列模型（图像/视频/视觉）、智能分析与会话工具，并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长，新用户可领50万Tokens权益，助力构建智能应用。

更多推荐

OpenClaw 本地部署完整指南（Windows + Ollama）

本文档基于实际部署经验编写，旨在帮助你在 Windows 系统上从零开始搭建 OpenClaw，并连接本地 Ollama 模型（如 Qwen2.5 或 Qwen3），使其具备完整的智能体能力。文档包含了所有关键步骤以及常见问题的解决方案。

avatar 火山引擎 ADG 社区

OpenClaw 小白安装指南（Windows版）

（类似一个能自动执行任务的AI机器人），不是游戏。API Key只保存在你本地电脑的加密文件里，不会上传到任何地方。访问：https://github.com/miaoxworld/openclaw-manager/releases。: 一键安装脚本会自动安装Node.js 22+，如果失败，手动下载安装：https://nodejs.org/：在PowerShell中，鼠标右键就是粘贴，不需要按

avatar 火山引擎 ADG 社区

飞书 × OpenClaw 接入指南：不用服务器，用长连接把机器人跑起来

这个项目存在的意义，就是把“飞书接 OpenClaw”这件事，整理成一套的配置入口，并把官方文档没覆盖到的坑集中写成排查清单。先说清楚它的角色：OpenClaw 现在已经内置官方飞书插件 @openclaw/feishu，功能更完整、维护也更及时。，说明飞书 + AI 的接入已经走通。另外，仓库也推荐了一个新项目：把 OpenClaw 变成“多 Agent 团队”，用多个 Agent 分工，Sla

avatar 火山引擎 ADG 社区