AI 代理在生产环境中被广泛应用于浏览网页、编写代码、做出购买决策和起草法律文件等任务。尽管它们通常能够正确执行这些任务，但仅凭“通常”并不足以满足合规要求。随着欧盟人工智能法案的实施，尤其是2026年8月的首个强制执行条款，高风险AI系统必须展示持续的风险监控、技术措施以防止可预见的误用以及有效的人类监督机制。许多团队在治理方面采取补救措施，往往是在事后才开始记录输出和标记明显的失败，这种做法显...