智能体接入工具后风险会变化
只回答公开资料的问题,和调用企业系统查询、生成、提交或修改业务数据,是完全不同的风险等级。
当智能体具备工具调用能力时,项目需要设计谁能触发动作、动作是否需要确认、执行结果如何记录,以及错误时如何人工介入。
权限、日志和复核的基本设计
- 权限控制:按用户、角色、资料、系统和动作限制访问范围
- 日志追踪:记录问题、检索来源、模型输出、工具调用和执行结果
- 人工复核:对高风险回答、外发内容或业务动作设置确认机制
- 失败降级:无依据、权限不足、接口失败或置信不足时停止执行
- 验收用例:用典型任务和边界任务验证智能体是否按规则运行
把智能体当作业务系统交付
企业智能体不是一个独立聊天窗口,而是业务系统的一部分。它需要与企业资料、工具接口、权限体系和运营流程一起设计。
ASWORK 在智能体项目中会把工具调用、流程编排、权限日志、人工复核和部署维护作为工程范围进行确认。