重点摘要
- AI 代理会动手执行,管控要回答两件事:能碰什么,多快能叫停。
- 七个核心术语:停止开关、代理身份、最小权限、AI 网关、登记册、审批关口、环境隔离。
- 香港私隐专员公署 2026 年 8 月的指引明确,代理处理的个人资料,责任仍在机构。
业务部门提议让 AI 代理自动比价、生成采购单。首席财务官没有先问效率,而是问:它半夜出错,谁来按停?下面七个术语,就是回答这类问题的共同语言。
什么是 AI 代理紧急停止开关?
紧急停止开关(Kill Switch)让获授权人员立即停止单个或全部代理,并阻止其自行重启,保证出问题的代理在排查期间无法继续操作。停用期间业务转为人工运行。
对企业的意义:2026 年 11 月 3 日,CrowdStrike 推出 AI Kill Switch,先在 AI 网关拦截代理。开关要有明确责任人和人工兜底方案。
场景:跨境电商的定价代理因数据源异常批量改错价,值班负责人一键停用,改为人工定价。
什么是 AI 代理身份?
AI 代理身份是为每个代理单独设立的账号,与员工账号分开,系统因此能准确记录哪个代理做了什么,并可单独停用而不影响员工。收回权限时也不必连带员工。
对企业的意义:借用员工账号的代理无法独立管控,这是其他管控的前提。
场景:连锁酒店把预订代理从前台主管邮箱迁到专用账号,审计日志从此清晰分开。
什么是 AI 代理的最小权限原则?
最小权限原则是代理只拿到完成任务所必需的权限:摘要代理只能读,发票代理只能起草不能审批,即使失误或遭遇提示注入攻击,损失也能降到最低。
对企业的意义:香港私隐专员公署的代理式 AI 指引指出代理默认权限往往过宽,上线前和每季度都应复核。
场景:证券公司收回研究代理访问客户账户的权限,风险等级由高调为中。
什么是 AI 网关?
AI 网关是部署在代理与模型之间的控制点,所有调用都经过它,因此可以记录用量、过滤敏感数据、设置费用上限,并在必要时拦截某个代理。策略只需配置一次即全面生效。
对企业的意义:停止开关、模型白名单、成本上限大多在网关落地,代理一多就值得优先投入。
场景:零售集团发现新模型文案质量下降,通过网关一次切回旧版,代理无需改动。
什么是代理资产登记册?
代理资产登记册列明机构运行的每个代理:用途、责任人、可访问的数据、自主程度和复核时间。你无法治理一个你不知道存在的代理。登记册也是审计的起点。
对企业的意义:Gartner 预测 2026 年底 40% 的企业应用将内置任务型代理,应定下“未登记不得上线”。
场景:咨询集团摸底后发现在用代理 23 个,技术部门原先只掌握 6 个。
什么是人工审批关口?
人工审批关口是工作流中预设的节点,必须由指定人员批准后代理才能继续,设在代价高、不可逆或涉及个人信息的操作上,日常步骤自动完成,无需等待任何人。
对企业的意义:可按金额和可逆性分级,关口太多省不了事,太少则承担未定价的风险。
场景:制造企业允许采购代理在额度内自动补货,超额或新供应商才交经理审批。
什么是 AI 代理的环境隔离?
环境隔离是把代理部署在独立空间,配备各自的网络规则、数据副本和账号,确保测试中或出错的代理无法触及生产系统或无关数据。这与分开测试服务器的道理相同。
对企业的意义:能操作电脑或浏览器的代理尤其需要,应先在沙箱用模拟数据运行。
场景:医疗服务机构先用虚拟病人数据测试四周,才让代理接入正式系统。
把术语表变成上线检查清单
上线前,请团队或供应商拿证据逐一回答七问:有独立身份吗?登记了吗?权限最小吗?经过网关吗?关口在哪?做了隔离吗?谁握着停止开关?答不上来的,就是你的整改清单。
懂AI,更懂你 UD相伴,AI不冷
在第一位 AI 员工上岗之前,先把管控做好
UD AI 员工方案数据存放香港、配合私隐条例,$0 开通费。预约免费 AI 员工配置评估,看看哪个岗位最适合先起步。
常见问题
香港私隐专员公署的代理式 AI 指引有法律约束力吗?
没有。指引属于原则性、非强制文件,但《个人资料(私隐)条例》本身依然适用,机构须对代理处理的个人资料负责。
供应商已经提供停止开关,我们还要自己设吗?
要。你需要明确机构内谁有权启动、多快生效,以及停用后业务如何继续。
什么是代理审计日志?
审计日志按时间记录代理的每一步操作、所用数据和获得的审批,让你能向监管机构、客户或审计师解释任何结果。