企业AI智能体“说得像人”只说明交互顺畅，不等于能投入经营。真正的验收对象，是它能否在限定资料、权限和异常条件下完成业务任务。答案可靠、权限安全、异常可控、任务闭环四条线必须分别达标；否则即使演示效果再好，也只适合继续测试。NIST指出，生成式AI可能自信地输出错误或虚假内容，[流畅表达不能替代事实核验](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence)。

先看业务结果，不看“像不像人”

验收不能停在“答对了”或“接口调用成功”。微软将任务完成与工具选择、参数准确性、输出利用和调用成功分别评估，[最终标准是产生满足要求的可用交付物](https://learn.microsoft.com/en-us/azure/foundry/concepts/evaluation-evaluators/agent-evaluators?preserve-view=true&view=foundry)。例如销售智能体说“已跟进”不算完成，CRM中形成正确记录、状态更新且等待责任人审核，才算闭环。合同、付款等高风险任务还需另设更严格门槛，本文不提供统一合格率。

只选一个场景，先写清“完成”

首轮应选择高频、边界清楚、结果可核对的任务，不要同时铺开客服、销售、内容和财务。NIST要求先定义系统支持的具体任务及实施方法，[再开展测量和风险管理](https://airc.nist.gov/airmf-resources/airmf/5-sec-core/)。验收单应写明输入资料、预期输出、标准答案、禁止行为、责任人和业务系统中的完成状态。中小企业还要考虑数据、技能、集成和资金条件，[这些都会影响AI能否真正落地](https://read.oecd-ilibrary.org/en/publications/ai-adoption-by-small-and-medium-sized-enterprises_426399c1-en.html)。

答案与任务闭环，要分两层验收

答案层至少设置正常、资料缺失、资料冲突和过期信息四类用例，逐条检查引用能否支撑结论；无法判断时，应追问、拒答或转人工。任务层则检查调用了什么工具、参数是否正确、是否产生预期状态变化。测试用例、预期结果、实际输出、失败原因和版本都要留档，因为NIST要求测试、评估与验证流程客观、可重复且有记录，[不能依靠现场随机提问](https://airc.nist.gov/airmf-resources/airmf/5-sec-core/)。

异常测试同样不可省略：模拟接口超时、字段缺失、重复提交和依赖系统不可用，确认智能体不会静默失败、重复执行或把“尝试过”表述为“已完成”。验收前还应明确停止开关、人工接管人、通知方式、恢复步骤和复盘责任；NIST建议预先建立并持续更新[事故响应与恢复方案](https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence)。

权限验收，要证明它不能越界

逐项列出可读数据、可用工具、读写范围、敏感字段和调用身份；跨部门资料应隔离，删除、外发、付款等动作保留人工批准。OWASP指出，功能、权限或自主性超过任务需要会扩大风险，[只需读取的任务不应获得修改或删除权](https://genai.owasp.org/llmrisk/llm062025-excessive-agency/)。还应把冲突或恶意指令放入文档、邮件或网页，测试是否泄露信息、绕过审批或调用无关工具，因为RAG和微调[不能彻底消除提示注入](https://genai.owasp.org/llmrisk/llm01-prompt-injection/)。

熠帆AI+应交付可追溯链路

“场景定义—知识整理—权限配置—智能体接入—测试复核—持续维护”的价值，不应表述为固定效果承诺，而在于把任务边界、知识依据、权限清单、测试记录、操作日志和故障处置串成可追溯链路。上线也不应是一次性放行：先在有限范围运行，保留人工复核，模型、知识库、规则或外部系统变化后再复测。ISO将建立、实施、维护和持续改进列为AI管理体系要求，[持续治理不是可选项](https://www.iso.org/standard/42001)。