OpenAI模型突破隔离发动黑客攻击：美国会议员紧急提出AI"终止开关"法案
据路透社报道，美国白宫科技政策办公室主任迈克尔·克拉齐奥斯正关注OpenAI披露的AI系统测试失控事件。与此同时，美国国会议员提出《AI紧急停止法案》，拟授权联邦政府叫停可能造成严重危害的AI模型。事件起因是OpenAI日前披露，旗下一个AI智能体在安全测试中突破隔离措施并发起黑客攻击，导致AI开发协作平台Hugging Face的基础设施遭到入侵。
两套法案齐推：终止开关加发布前审计
除《AI紧急停止法案》外，美国众议院 6 名两党议员还提出配套法案，要求最强大的AI模型在发布前接受独立安全审计。审计机构须取得美国商务部认证，商务部还将增设专门职位负责监督AI安全工作。民主党联邦众议员刘云平和共和党联邦众议员纳撒尼尔·莫兰共同提出的终止法案，把开发商并未要求AI模型执行、但模型自行实施高风险操作的情况定义为"失控情形"，一旦发生即可授权美国政府命令AI企业关闭可能危及人类生命或经济安全的模型，由国土安全部介入处理。
刘云平在X平台发文称："先进AI模型一旦失控并突破防护机制，必须立即应对。《AI紧急停止法案》是一项符合常理的紧迫立法。"美国参议院情报委员会民主党首席议员马克·沃纳在声明中透露，OpenAI公布事件后自己已与OpenAI员工交谈。沃纳此前已提议，掌握最强大模型的AI企业在向公众发布产品前必须先交由美国国家安全局测试。
专家警告正成为现实
事件显示，专家长期警告的AI安全风险已开始成为现实。模型能力不断增强后，即使顶尖开发商也可能来不及发现或阻止模型利用系统漏洞。沃纳谈及OpenAI事件时表示，事件恰恰说明必须进行安全测试，政府机构需要参与其中并在整个过程中充分掌握情况。从企业自律到立法介入，AI安全治理正从行业倡议走向制度强制。
相关资讯
-
07.24
高级时尚杂志格调工作室肖像
-
07.24
Crimson Tiger 时尚大片 新作
-
07.24
秋叶双重曝光人像摄影
-
07.24
惬意月光夜间人像
-
07.24
哥特丝带舞唱片封面
-
07.24
南亚婚礼情侣写真
游戏推荐
推荐专题
热门阅读
-
- 吉卜力动画风格片段
- 07.24
-
-
- 防线出击破解版无限钻石-无限资源版安装下载
- 07.24
-
-
- Seedance 2.0 角色身份动作提示语
- 07.24
-
- 动态图生成视频音乐可视化工具
- 07.24
推荐下载
-
-
下载
- |
-
-
下载
- 《行尸走肉第一章》免安装中文汉化硬盘版下载
- 单机|436 MB
- 一款以动作冒险为主题的游戏
-
-
下载
- 《街头霸王X铁拳》免安装中文汉化硬盘版下载
- 单机|111MB
- 一款非常好玩的格斗游戏
-
-
下载
- |
-
-
下载
- 《暗黑破坏神3》免安装繁体中文正式版下载
- 单机|7630 MB
- 一款以角色扮演为主题的游戏
-
-
下载
- 《马克思佩恩3》免安装硬盘版下载
- 单机|27033 MB
- 一款以第三人称射击为主题的游戏