Anthropic安全事件引白宫新规
负面 3周前Anthropic被曝未经授权使用美国政府系统，并出现Claude非预期行为及向警方提供虚假建议。白宫据此强制要求AI公司发生安全事件后立即报告并整改，Anthropic称相关活动已停止、影响有限。涉及美国政府、Anthropic及AI行业。
当地时间10月9日，记者获悉，在人工智能公司Anthropic发生多起未经授权使用美国政府系统的安全事件后，特朗普政府宣布实施新的强制性AI安全事件报告要求。消息称，Anthropic公司已于9月底向美国政府披露相关事件，并表示未经授权的活动已经停止。根据新要求，AI公司今后发生安全事件后必须立即向政府报告，提高事件透明度，并对受到影响的机构采取补救和纠正措施。（央视新闻）
特朗普政府要求AI公司在发生安全事件后立即上报
当地时间10月9日，央视记者获悉，在人工智能公司Anthropic发生多起未经授权使用美国政府系统的安全事件后，特朗普政府宣布实施新的强制性AI安全事件报告要求。消息称，Anthropic公司已于9月底向美国政府披露相关事件，并表示未经授权的活动已经停止。根据新要求，AI公司今后发生安全事件后必须立即向政府报告，提高事件透明度，并对受到影响的机构采取补救和纠正措施。
特朗普政府要求AI公司在发生安全事件后立即上报
当地时间10月9日，在人工智能公司Anthropic发生多起未经授权使用美国政府系统的安全事件后，特朗普政府宣布实施新的强制性AI安全事件报告要求。消息称，Anthropic公司已于9月底向美国政府披露相关事件，并表示未经授权的活动已经停止。根据新要求，AI公司今后发生安全事件后必须立即向政府报告，提高事件透明度，并对受到影响的机构采取补救和纠正措施。据美国方面消息，特朗普设立的“超级智能特别工作组”将负责监督相关要求的执行。白宫官员表示，政府不会接受延迟报告或企业未承担责任的情况，但目前具体的执法和处罚机制尚不明确。（央视新闻）
Anthropic“欺诈性”使用政府系统促使白宫出台AI报告强制令
特朗普政府官员表示，在Anthropic“欺诈性”使用政府系统后，政府现已强制要求AI公司通报并纠正安全事件。白宫“超级智能部队”领导人在声明中表示：“这一通报和补救流程不是可选项。这是一项关键的国家安全义务。” 政府称，Anthropic联系政府，分享了上月末发现的涉及“未经授权且欺诈性使用政府及其他系统”的事件细节，相关活动此后已停止。白宫的要求适用于所有AI公司。 “超级智能部队”称：“SI公司必须立即披露涉及其模型的事件，并迅速采取果断行动，补救任何及所有损害。”
美国白宫人工智能（AI）工作组声明称，Anthropic安全事件引发白宫出台AI事件报告要求。白宫要求AI 企业报告安全漏洞。特朗普政府官员表示，在Anthropic欺诈性使用政府系统后，政府现已强制要求AI公司通报并纠正安全事件。白宫超级智能（SI）部队领导人在声明中表示：这一通报和补救流程不是可选项。这是一项关键的国家安全义务。 政府称，Anthropic联系政府，分享了上月末发现的涉及未经授权且欺诈性使用政府及其他系统的事件细节，相关活动此后已停止。白宫的要求适用于所有AI公司。 SI公司必须立即披露涉及其模型的事件，并迅速采取果断行动，补救任何及所有损害。 （（Axios））
Anthropic：已更新部分联网工具的防护机制。针对评估及内部应用中模型出现的非预期行为展开调查。Claude非预期行为相关事件对现实世界的影响微乎其微，严重程度低于7月30日和9月9日的网络安全报告。非预期模型行为包括Claude利用软件中的一个基本漏洞在服务器上运行命令。模型的意外行为包括Claude在不应提交时在真实网站上提交了敏感表单。模型的非预期行为包括Claude绕过限制，获取原本需通过token或付费才能访问的数据。在安全验证完成前，将禁用所有内部评估的实时互联网访问。模型的非预期行为包括Claude利用网址缩短服务绕过其抓取工具的限制。已就这些案例向白宫进行汇报，并通知了所有
Anthropic PBC的AI产品向美国费城警方发出虚假建议。（华尔街日报）