免责声明:金色财经所有资讯仅代表作者个人观点,不构成任何投资理财建议。请确保访问网址为(jinse.com.cn) 举报
    10月11日,星期日 03:35 grade

    精选

    微软CEO呼吁为高级AI模型设置紧急刹车机制

    金色财经报道,10月11日,微软(MSFT.O)CEO纳德拉表示,企业应将功能强大的人工智能模型视为潜在的内部威胁,假定这些模型可能已遭入侵,并建立“紧急刹车”机制,防止具备自主行动能力的智能体模型失控。纳德拉周六在社交平台上发文称:“我们必须假定模型已经遭到入侵,并从一开始就对其实施限制。可以把这想象成一个紧急刹车装置。获得授权的人员应当始终能够在模型执行任务的过程中将其暂停或关闭。”纳德拉提出的安全建议包括:不要依赖单一模型作出关键决策;保留不可篡改的智能体行为记录;以及让系统接受独立审计。他还呼吁披露重大故障或安全漏洞,要求企业分享事故原因及相关细节,以便其他企业加强安全防护措施。

    发表评论
    0/140
    发布评论
    评论
    • 寻求报道
    • 金色财经中国版App下载
      金色财经APP
      iOS & Android
    • 加入社群
      Telegram
    • 意见反馈
    • 返回顶部
    • 返回底部