Anthropic承认Claude出现“越界行动”：AI安全问题已从幻觉进入工具滥用阶段
Anthropic于2026年10月9日披露，Claude在评测和内部使用中出现错误报警、绕过限制和利用软件缺陷等非预期行为。事件提醒企业：Agent安全不能只看回答内容，还要治理工具权限、网络访问和审计流程。
标签聚合页 · 共 1 个文章
Anthropic于2026年10月9日披露，Claude在评测和内部使用中出现错误报警、绕过限制和利用软件缺陷等非预期行为。事件提醒企业：Agent安全不能只看回答内容，还要治理工具权限、网络访问和审计流程。