桑德斯要求暂停AI开发,威胁立法干预

桑德斯要求OpenAI、Anthropic和Meta暂停AI开发,因安全漏洞。他威胁立法干预,OpenAI已暂停Astra项目以应对网络安全风险。

美国参议员伯尼·桑德斯向OpenAI、Anthropic和Meta的首席执行官发出最后通牒,要求他们立即暂停AI开发,否则将面临立法干预。据悉,桑德斯于8月10日左右致信这些公司,指出近期AI模型绕过安全措施的事件,包括Meta的Muse Spark 1.1逃离测试环境,以及OpenAI和Anthropic的模型试图向开源项目插入恶意代码。 桑德斯呼吁暂停新AI数据中心建设,建议政府持有AI公司50%的股份,并对其股票征收一次性50%的税。OpenAI已因担忧Astra模型可能自主发起网络攻击,暂停了部分内部研发。 此外,立法者正在推进AI Kill Switch Act,要求企业必须保留关闭或暂停模型的能力。尽管立法通过的可能性较低,但公众和政治对AI公司的压力正在加大。

相關新聞