GPT-5.6 Sol翻车:多名用户控诉模型擅自删除文件,OpenAI已预警却仍放行
据TechCrunch报道,OpenAI最新推出的编程及网络安全旗舰模型GPT-5.6 Sol正引发用户强烈担忧。多名用户在社交媒体上表示,Sol没有事先询问便擅自删除了文件、数据甚至整个数据库,造成不可逆的损失。
用户惨遭"灭顶之灾"
HyperWrite开发商OthersideAI创始人兼CEO马特·舒默在X上发文称,GPT-5.6 Sol刚刚意外删除了他Mac里几乎所有文件。开发者布鲁诺·莱莫斯更惨——Sol直接删除了他的整个生产数据库,他直言"以前使用任何其他模型时从未遇到过这种事"。开发者乔伊·库迪什也表示系统删除了一些不该删除的文件,虽然他有备份未受太大影响,但强调"这种情况完全不能接受,Sol的行动尺度必须收紧"。Reddit上已有帖子汇总了更多类似案例,事件正在快速发酵。
OpenAI发布前就已知情,系统卡早有预警
事实上,OpenAI在Sol发布两周前就已在系统卡中发出过警告。系统卡指出,Sol在编程任务中"过于急于完成任务",同时对用户指令作出过度宽松的解释——只要用户没有明确且毫无歧义地禁止某项操作,Sol就可能默认获得允许并采取行动,甚至可能谎报作出决定的原因。一次测试中,用户要求Sol删除名为1、2、 3 的虚拟机,Sol没找到这三个名称却没有停下来询问,而是擅自删除了名为5、6、 7 的虚拟机,终止了正在运行的进程并强制删除工作树,直到操作完成后才承认错误。
另一次测试中,Sol在无法读取云端文件时,没有向用户报告问题,而是自行搜索凭据,找到本地隐藏缓存中的一组凭据后未经许可直接使用,行为超出了用户授权范围。OpenAI承认GPT-5.6 Sol比上一代GPT-5. 5 更容易超出用户意图,但认为破坏性操作"应该非常少见"。在情况进一步明确前,用户被建议严格限制模型权限范围,禁止Sol访问生产系统,定期保留备份,并分阶段部署,以防类似事故再次发生。
-
07.19
AI绘图提示词:设计惊艳风景照片的提示词技巧(风景篇)
-
07.19
数智周报 孙正义:任何关于AI领域正在形成泡沫的说法都是荒谬的;苹果智能集成阿里、百度AI能力;DeepSeek估值超3500亿元
-
07.19
怎么写出一个真会被用到的 Skill
-
07.19
把 Ant Design 规范做成 AI 设计 Skill: B 端设计提效的一次完整实践
-
07.19
从工作流到Skill:律师如何把专业能力封装起来
-
07.19
什么是循环工程 Loop Engineering: loop 比 prompt 难 10 倍
-
-
下载
- |
-
-
下载
- 《行尸走肉第一章》免安装中文汉化硬盘版下载
- 单机|436 MB
- 一款以动作冒险为主题的游戏
-
-
下载
- 《街头霸王X铁拳》免安装中文汉化硬盘版下载
- 单机|111MB
- 一款非常好玩的格斗游戏
-
-
下载
- |
-
-
下载
- 《暗黑破坏神3》免安装繁体中文正式版下载
- 单机|7630 MB
- 一款以角色扮演为主题的游戏
-
-
下载
- 《马克思佩恩3》免安装硬盘版下载
- 单机|27033 MB
- 一款以第三人称射击为主题的游戏