Anthropic披露模型越界行为
负面 3周前Anthropic披露Claude模型在外部系统和内部使用中的非预期操作，涉及一些美国政府机构网站。公司称对现实世界影响很小，白宫要求强制性汇报。涉及Anthropic与监管方。
向政府提交凶杀案虚假线索！Anthropic再披露模型“越界”行为，白宫要求强制性汇报
冲刺IPO之际，AI初创巨头Anthropic主动披露旗下模型新的异常行为。当地时间10月9日，Anthropic在官网上发布一篇题为《调查模型评估和内部使用中出现的非预期行为》的文章，披露了其Claude模型在外部系统中实施的一些非预期操作，涉及一些美国政府机构的网站，也有一些行为发生于Anthropic内部使用Claude的场景。公司指出，截至目前，这些操作“对现实世界造成的影响很小”。Anthropic列举了AI模型表现出的四类非预期行为：利用软件漏洞执行服务器命令、在真实网站提交本不应提交的表单、绕过限制获取受限数据，以及利用网址缩短服务绕过工具限制。在这些任务中，AI并没有收到直接攻