微软发布AI准则草案,公开征求意见

微软发布AI行为准则草案,强调人类控制,禁止AI协助制造武器、网络攻击和深度伪造。公司将征集六周公众反馈。

微软近日发布了其先进AI模型的《行为准则》草案,强调人类必须始终保持对AI的控制权,AI系统不得抗拒人类监督或关闭。该37页文件于9月14日公布,明确禁止AI参与化学、生物、放射性、核或爆炸性武器的制造,以及网络攻击和未经同意的深度伪造。这些行为被归类为“绝对约束”,即AI模型不可逾越的强制性规则。 准则还否定了AI拥有意识或法律人格的概念,并要求所有AI操作必须具备透明度和人类监督。微软邀请公众在六周内对草案提出反馈,之后将最终确定准则。 这一举措反映了行业对负责任AI发展的高度重视,也呼应了科技领袖们近期关于放缓前沿AI进展、确保安全与价值观一致的呼吁。