马斯克与哈佛教授“互怼”，AI到底是不是威胁？

Elon Musk 最近与Steven Pinker（史蒂芬·平克，著名的认知心理学家和科普作家，TED演讲人、世界超级语言学家，图右）开吵，说Pinker不懂广义AI与狭义AI的区别。之前Elon Musk还与Mark Zuckerberg开吵，说Zuckerberg对AI懂得有限。当然，Musk都是反击式的，因为那两位名人都说Musk的AI威胁论有些太夸张了。不过，之前Rodney Brook说过他不认为Elon Musk真懂AI。

AI威胁论从何而来

先看看AI威胁论从何而来？Elon Musk，Stephen Hawking，Royal Martin Rees。共同特点是玩物理的名人。物理玩深了是什么？哲学。（曾经还有名人提到AI的威胁，Warren Buffet 和 Bill Gate，不过是从经济、工作角度。而且现今的Bill Gates 已经改口认为AI并没有那么恐惧）

再看与Elon Musk（属ai威胁论）对着的AI 乐观论的名人们：Steven Pinker，Rodney Brook，Mark Zuckerberg，Bill Gates…共同特点是搞AI研究及或软件的，McGill、MIT、Harvard帮的，那里基本是AI发源地及研究最前沿。

所以吵架基本上是玩AI的说玩物理的对AI认识夸大了，玩物理的说玩AI的不懂AI……

AI离弱AI还很远，更何谈超越人类

Musk敢想敢干是很成功的名人，隧道、电池、汽车、航天以及机器制造等都主要是物理范畴，是工程上的不断提升与完善的事情。这上面Musk过五关斩六将，世人叹服。AI主要不是物理范畴的问题，因此先需要把“盲目崇拜”的心理剔除。

AI威胁论实际上更多是从哲学角度的一种思考：机器可以超越人类。类似对宇宙的思考，会探究宇宙的起源等。在研究宇宙的起源上，大爆炸也好，奇点问题也罢，都认为人可以置身宇宙之上而探究出所以然来。这一类的哲学观自然认同机器可以超越人类。但从另一种哲学观角度，我认为探讨宇宙起源根本没有穷尽。因为宇宙的概念应该是所有的一切，包括大爆炸前的一切以及目前所知道的“宇宙”边缘外的一切。即“起源”之前是什么，目前所谓的“宇宙”之外是什么，怎么回事也应该弄清楚。因此宇宙应该是件无穷尽的事情。这其中的分子，人，是超越不出宇宙的。同理，AI、机器是人的世界中的工具，可以是人的增强及代替人很多方面功能的工具，但再发达，永远超越不了人的世界，人的智能对于AI，也是无穷尽的。

所谓广义AI或强AI，不过是机器可以完全独立于人去智能的思考与行动，不断进化，成为另一种智类（注意，这里连用“生命”都牵强）。很多AI目前都是基于仿生的进化算法，并取得了显著成效。这也是Musk看到的。但这并不等于说AI会沿着这个方向无限发展并超越人类。事物往往是可以被加速追赶并被逼近的，但最后的哪怕是1%往往是最难甚至是现实的极限。类似于光速，虽然我们可以尽情畅想着回到几十年前去确保自己的父母相爱以便回到现在。而且，数码计算机、深度学习等当今的AI基础，相比人类脑子有着很多致命的弱点。人类也没真正弄清楚人类智慧本身，更何谈超越？

放开哲学上的讨论，身处AI前沿的名人们真实感受到当今AI离弱AI还很远，更不用说强AI。

AI的背后，许多问题任待提升

我们看到Alpha Go完胜人类但没看到其团队深知其很容易错得脑残一般；我们知道iPhone人脸识别很酷但不知道大多数情况用户是去输密码……特斯拉的全自动驾驶如同其Model 3量产一样被延迟，不同的是Model 3量产问题是可以通过优化工程解决的，而全自动驾驶的问题绝非Musk想的那样简单。

Musk所谓的狭义AI与广义AI其实不是如同0、1那样界限分明。以全自动驾驶为例，当遇到或撞人或撞车两难情况时，如何选择？当遇到持枪劫匪拦车抢劫时是否需要首先保障劫匪不受伤害？……在众多这种近似强AI的问题无法解决之前，所谓弱AI的全自动驾驶很难通行（有条件的、更改交通系统现状的有限定的使用有可能）。如果相信这上面的问题可以很好地以人的意志及利益解决，那么更广义范畴的问题也一样会得到解决而后行。这是AI乐观派们的理念，即无论强弱AI，都将会在人的努力中不断完善为人服务，否则人是不会放行的。

规范AI研究是个伪命题，Don't Panic

AI威胁论主张规范AI研究。一个例子是AI可以引发战争而损害人类。但实际上AI一定会被人用于战争。战争是科学进步的原动力，高速公路、航空航天、核、计算机、互联网、……的发展都是军事上的需求促进的，滞后很久才开放到民用。科技本身就是双刃剑，对于人类的利害也因时因人而变。原子弹在1945年灭了日本就是人类之幸，在当今是人类之威胁。科技的潜在威胁永远存在，而且是个变量。规范科研是个伪命题，因为“范”的定义不是恒定的。

AI的前景与功能被夸大了，至少目前我是这样认为的，类似于矛与盾的故事，Alpha Go 对弈Alpha Go，市场如果一律AI炒股等等，谁是输家？矛与盾也好，AI也好，最终不过是人类的工具，输赢在人不在具。

AI离着超越人类智慧（如果能超越的话）还很远，目前规范不仅没有必要，也无“范”可规。AI将来也未必能够被规范。AI的威胁如同时间机器一样，暂且只不过是科幻很好的题材。在探索AI的旅程中，我们大可也如那辆遨游在太空中的红色Tesla Roadster一样，标上：Don’t Panic!