毕竟，「AI能否理解」，这个问题既模糊，又在社区内存在极大的争议和分歧。

Hinton坚决反驳了一种流行的观点，即LLM仅仅是统计技巧，并不能真正理解自然语言的含义。

他表示，这是完全错误的。类似于「词袋」（bag of words）或者N元组（N-gram）这种曾经的语言模型，内部保存了一个很大的有概率分数的单词组合表，的确是依靠统计概率工作。

说到这里，身为英国人的Hinton非常自然地用国菜开始举例。

比如单词表里会显示，「鱼」和「薯条」经常出现在一起。因此模型看到「鱼」这个单词，自然就会预测下一个单词是「薯条」，丝毫不考虑上下文。

这就是为什么，曾经的统计语言模型在自动补全功能上的表现很差。

但当今LLM的工作原理已经完全不同了。现在，模型预测下一个单词的方法是理解你到目前为止所说的话。

比如，想要回答人类的问题，LLM必须首先理解问题的含义，否则根本无法预测答案的第一个单词。从这个角度理解，单词预测任务（next token prediction）相当于是倒逼LLM发展出理解能力。

Hinton的言语中透露出，他也相信Scaling Law的存在。随着模型逐渐扩展，加上更多Transformer这样的技术突破，AI终将变得比人类更智能，只不过是时间早晚的问题。

主持人反问他，变得更聪明的技术一定会带来风险吗？

Hinton的回应一针见血——「你能举出多少例子，说明更聪明的在被不太聪明的控制？」「拜登当选之后就不再有了吧？」

他提到，好友Yann LeCun的观点就与自己不同，认为AI非常安全。但Hinton的论据是，AI已经达到了构建智能体（agnet）的程度，能够自主创建目标。

这些目标会驱动智能体攫取更多控制权，会希望避免毁灭、建立自我保护，某种程度上这是一种自身利益，也许就是进化的开始。

那么人类呢？

Hinton预言，如果AI开始进化、最强的一方获胜，人类就会被遗忘，被碾压进尘土（原话：left in the dust）。AI将从孩子变成我们的父母，接管一切。

这听起来的确是科幻小说的场景，但对Hinton是认真的，「我不再认为这听起来很科幻，而是现实存在的威胁。」

超级AI取代人类

上面彭博的这篇最新采访中，Hinton谈到了AI取代人类的可能。

Reddit网友随后翻出了一个去年12月的访谈视频，同样涉及「AI取代人类」的话题，但这一次，Hinton的观点更加让人惊讶——

他宣称，自己实际上是支持AI的！

事情起源于采访最后的一名观众提问，原问题是这样的：

「如果一个超级智能AI摧毁了人类，但客观上创造了一种意识层面上更好的物种，您个人是支持还是反对这种结果？如果反对，您建议用什么方法，在面对超级智能AI时维持人类意识的存在或主导地位？」

接下来，Hinton用平静的语气回答道：「我实际上是支持的，但我认为表示反对是更明智的说法。」

采访者表示，你展开说说？

但Hinton只是非常谨慎地给出了一句话，「人们不喜欢被取代」。

采访者继续追问原因，Hinton首先叠甲，「人类有很多好的方面，也有很多不那么好的方面」。

之后给出了一段令人深思的解释：「目前我们还不清楚什么是最好的智能形式。显然，从人的角度来看，一切都与人有关。但未来有一天，我们可能会把『人文主义』看成一种类似于种族主义的概念。」

这段对话在Reddit上同样是一石激起千层浪。

发帖的博主都十分惊讶于Hinton的激进态度，而且他被要求展开解释时似乎态度非常坚决，即使他心知肚明，「表示反对是更明智的说法」。

有人严厉批评，认为他不顾人类这个物种的生存和整体福祉，这是「愤世嫉俗」、「虚无主义」的表现。毕竟，人都没了， 要那么先进的AI技术有什么用呢？

「很难想象比这更愤世嫉俗的行为了。」

「我认为很多未来主义者都嘲讽人文主义的价值，希望在任何可能的情况下将人类因素从『方程』上移走。」

但也同样有支持和理解的声音，认为Hinton并不是愤世嫉俗、憎恶人类，只是清醒意识到了一个现实——人类不是造物的顶峰。

进化会继续，更好的物种必然出现，他只是用一种更开放、坦然的心态接受了这个事实。

参考资料

https://www.youtube.com/watch?v=iWPo7Yhg7Vc&t=3327s

https://www.youtube.com/watch?v=g_Lhmhj1894