Anthropic回应AI安全漏洞
负面 1周前Anthropic高管称AI工具将发现更多网络安全漏洞。公司已对英国AI安全研究所8月4日报告展开调查。其称Claude Mythos 5等模型未能始终如一阻止攻击，较新模型发起攻击可能性更低。[AI安全评估]
Anthropic高管：人工智能工具将发现更多网络安全漏洞。
Anthropic：已对英国AI安全研究所（AISI）8月4日的报告展开调查。Mythos的行为本应已被安全防护机制标记出来。已进一步调查Claude Mythos 5的行为。较新的模型发起攻击的可能性更低。认为人工智能能力的进步应该循序渐进。Claude Opus 5.5和Claude Mythos 5.1仍存在不足。这些模型未能始终如一地阻止攻击。内部研究模型能够始终如一地做到这一点。Mythos 5 的行为是严重的对齐失败。能力的发展节奏应与安全性和保障水平相匹配。Mythos 5在错位行为倾向方面是一个异常个例。Mythos 5即使在受到鼓励时也不太可能阻止攻击。Mythos 5.1和