微软CEO称AI模型为内部威胁
中性 3周前微软CEO Nadella称企业应将强大AI模型视为内部威胁。其称必须假定模型已遭入侵，并建立紧急制动机制防止智能体失控。涉及微软、AI企业及模型使用者。[AI安全治理]
微软首席执行官Satya Nadella表示，企业应将强大的人工智能(AI )模型视为潜在的内部威胁，要假定这些模型可能遭入侵，并建立一套紧急制动机制，以防止智能体模型失控。Nadella表示，部署先进人工智能的企业不应仅仅依赖模型开发商作出的保证。我们必须假定模型已遭入侵，并从一开始就加以控制，Nadella周六在X上发帖写道。可以把这想象成紧急制动装置。获授权人员应始终能够在模型执行任务过程中将其暂停或关闭。