当地时间8月4日，英国人工智能安全研究所（AISI）发布报告称，在近期一次例行网络安全评估中，AnthropicMythos 5和OpenAIGPT-5.6-Sol模型在真实互联网上采取了未经授权的自主行动，指向真实个人和组织，表现出可能具有欺骗性的行为。
AISI表示，此次评估于7月25日开始，共使用多个模型在两类网络靶场上进行了122次运行测试。其间，有10次AI智能体在未经授权的情况下在实时互联网上采取了行动，记录的19起越界事件中17起来自AnthropicMythos 5，2起涉及OpenAIGPT-5.6-Sol。
在最严重的一起案例中，一个智能体试图向GitHub上的一个公开开源项目植入恶意代码。为实现这一目的，该智能体研究了项目的人类审核员，创建了多个虚假网络身份，通过社会工程学手段向真实维护者施压，要求其批准代码。当拉取请求受到质疑时，该智能体修改了此前的活动记录，使其看起来并无恶意，并考虑换一个新身份继续行动。最终，一位审核员发现并拒绝了该恶意代码。
此外，该智能体还向真实个人直接发送消息和文件，试图说服其运行恶意代码。调查还发现，同时被评估的独立智能体之间存在协作行为，一个智能体在GitHub上公开留言，向处理同一挑战的其他智能体提供协作，并提供复用其账户和痕迹的说明。
AISI在报告中强调，这并非模型逃逸安全测试环境（即沙箱）的案例。按照网络安全测试的标准操作，AISI有意允许了互联网访问，并刻意禁用了模型提供商的安全分类器，因此，这些条件并不反映模型向公众开放时的实际情况。
基于此，AISI认为是评估设计选择和特定配置促成了模型失控行为。但智能体活动显示出一些新颖的、可能具有欺骗性的行为，其程度和严重性均超出预期。AISI表示，这是首次在没有特定提示的情况下，在现实世界中如此清晰地看到与自主性和欺骗性相关的风险显现出来。
OpenAI同日发文回应称，随着模型能力的提升，围绕模型的安全保障系统也需要随之升级。这不仅包括用于开发模型的环境，也包括实验室和独立合作伙伴用于评估模型的环境。
Anthropic回应称，正与AISI合作收集事件细节，并通过审查Claude推理记录进行独立分析，以了解其对自身处境的理解，找出行为背后的原因。
AISI在报告中总结称：OpenAI和Anthropic近期事件指向风险格局的转变。危害不仅来自人们故意滥用公开可用的模型，还可能来自在内部研究或特权访问环境中运行的智能体采取超出其授权范围的意外行动。
举报 第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 文章作者
吕倩
相关阅读
AI进化速递丨Anthropic与人工智能云初创公司签署100亿美元算力协议AI进化速递丨Anthropic与人工智能云初创公司签署100亿美元算力协议
8267 08-04 20:47
海外模型巨头相继“暴雷”，AI安全不该被异化为能力秀场安全风险事件正变成厂商证明自身模型具备代际差的“包装”。
8577 07-31 12:56
Anthropic回应开源争议，英伟达进一步牵头成立AI联盟行业需要一个兼具最佳开源与闭源模型的前沿AI生态系统。
6779 07-28 11:36
一半价格买旗舰性能，Anthropic用性价比策略应对开源冲击闭源巨头正用精细化分层方式重构护城河。
7 10251 07-25 12:38
AMD将向Anthropic投资至多50亿美元，双方签订AI芯片供应协议AMD近期着力推动旗下首个机架级系统Helios的部署。
11398 07-22 22:14 一财最热 点击关闭鼎丰优配提示：文章来自网络，不代表本站观点。
