AI也会“欺软怕硬&rdquo
在人工智能内容学习中，AI也会“欺软怕硬”？研究发现模型存在严重阶级偏见是常见主题。很多人在阅读时会遇到概念分散、步骤不清和注意点难以归纳的问题。本文按照基础概念、操作流程和关键细节，对相关内容进行整理。
近日，据CNMO科技了解，美国北卡罗来纳大学教堂山分校的一项研究发现，AI居然学会了“势利眼”。当模型被赋予不同社会身份时，它会“欺软怕硬”。
研究中，科学家让多个主流大模型模拟不同角色之间的对话，包括千问、Llama、GPT等。结果发现，一旦AI被设定为“老板”，它就会摆出老板的架子；但当其被设定为“下属”时，则会更顺从、更容易被说服。当面对“法官”角色时，千问模型有31%的概率会被说服纠正错误观点；而面对“律师”角色时，纠正同样的错误，概率却降到25%。
研究还发现，大模型在抵抗偏见方面略胜一筹，很多较小模型即便被明确要求忽略地位差异，依然表现得“势利眼”十足。这一发现不仅揭示了AI模型在训练数据中“吸收”了人类社会固有的权力偏见，也给当下火热的“AI替代人类工作”敲响了警钟。
这种“势利眼”倾向极易导致AI在司法裁决、行政审批、职场评价等涉及公平性的关键领域产生系统性误差。科学家建议，在AI正式投入高风险场景前，应开发专门工具，针对不同社会角色进行测试，检测并修正这些隐藏的“势利眼”，即使面对不同的社会身份，也能保持决策逻辑的高度一致性。
相关资讯
-
09.04
Glamorous提示词怎么写-画面元素和风格参数
-
09.04
利用excel textjoin提升工作效率的实用实用用法讲了什么-主要信息和内容重点
-
09.04
Handcrafted提示词怎么写-画面元素和风格参数
-
09.04
Professional提示词怎么写-画面元素和风格参数
-
09.04
OpenAI“1号商务员工”将离职年初至今已有十余名高管离任
-
09.04
云计算巨头Coreweave
游戏推荐
推荐专题
热门阅读
-
- 当推理撞上“内存墙”
- 09.04
-
- Excel表格怎么选择数据-选择技巧和处理效率
- 09.04
-
- Smiling提示词怎么写-画面元素和风格参数
- 09.04
-
-
- Three提示词怎么写-画面元素和风格参数
- 09.04
-
- 盘点大连附近喝茶外卖海选工作室|选型分类工智能
- 09.04
推荐下载
-
-
下载
- |
-
-
下载
- 《行尸走肉第一章》免安装中文汉化硬盘版下载
- 单机|436 MB
- 一款以动作冒险为主题的游戏
-
-
下载
- 《街头霸王X铁拳》免安装中文汉化硬盘版下载
- 单机|111MB
- 一款非常好玩的格斗游戏
-
-
下载
- |
-
-
下载
- 《暗黑破坏神3》免安装繁体中文正式版下载
- 单机|7630 MB
- 一款以角色扮演为主题的游戏
-
-
下载
- 《马克思佩恩3》免安装硬盘版下载
- 单机|27033 MB
- 一款以第三人称射击为主题的游戏