Post

Michael I. Jordan on a Complete Intelligence

以下为 机器之心 一篇文章中的三段摘录。文章编译自播客 MLST(Machine Learning Street Talk)对 Michael I. Jordan(统计机器学习的奠基人之一、加州大学伯克利分校教授;不是篮球运动员)的访谈,围绕他的论文《A Collectivist, Economic Perspective on AI》展开。原文链接见文末。

在他看来,今天相当一部分 AI 叙事背后,仍然是一个非常旧的想法:人类是智能的,大脑像一台计算机;只要我们模仿它、放大它、并行化它,它自然就会做出伟大的事情。问题是,话往往就停在这里了。

它没有进一步回答:我们究竟要解决社会中的什么问题?这项技术为谁创造价值?成本由谁承担?收益又如何分配?它只是隐含着一种期待:技术会替我们解决问题,然后人类就会幸福。

在 Jordan 看来,这不是严肃的工程思维,而是在用隐喻代替系统设计。

主持人随后提出了一个典型的硅谷式反驳:如果像 Ilya Sutskever 这样的硅谷 AI 领袖认为,只要把 LLM 组织成多智能体系统,经济学里的那些复杂性就会自然涌现,Jordan 会怎么看?

Jordan 的回答毫不客气:「这就好像 1940 年代的化学工程师说,我们把一堆东西扔在一起,让它自己工作就好了。你确实可以这么做,但你会得到很多在经济上根本不可行的东西,还会伤害很多人。」

更重要的是,社会为我们的智识提供了语境。在这个语境里聪明的行动,换一个语境可能就是蠢的。智能本身高度情境化,也高度依赖当下。

所谓语境,就是外面可能有人正在试图利用我,也可能有人想和我合作,而我并不真正知道对方的意图。所以我必须试探,必须发出信号,必须设计一些机制,让我们能够有效互动。经济学正是以一种数学化的方式研究这些问题。

这让他得出结论:如果不引入经济学和社会科学,我们就根本没有在讨论「完整的智能」。

他的框架最终落在三个顶点组成的三角形上:计算机科学(算法、抽象与模块化)、统计学(推断与不确定性量化)、经济学(激励机制与博弈均衡)。

这是经典统计学的领地:我观察到的数据,是不是足以支撑这个结论?但他用一个鸭子的比喻说明,即使是这种最基础的不确定性,一旦放进社会语境就会变形。

假设有一只统计学家鸭子,它发现湖的左边比右边有两倍的谷粒,也就是 2:1。一个纯粹做最大期望效用计算的贝叶斯鸭子,会每次都去左边。但真实的鸭子不是这样。它们大概会有 2/3 去左边,1/3 去右边,恰好对应那个比例本身。


来源:机器之心 · 微信公众号原文(节选,版权归原作者所有)。

This post is licensed under CC BY 4.0 by the author.