马斯克传记作家爆料：10 年前，他就开始担心AI毁灭人类

原文标题：《马斯克传记作家曝重磅内幕：10 年前，他就开始担心 AI 毁灭人类》

原文作者：常嘉帅

原文来源：华尔街见闻

如果能拥有超越常人的远见、精力和幸运，以及随之而来的巨额财富，你会做什么？

马斯克的答案是：亲自运营六家公司，保存人类意识的火种，对抗危险的 AI。

周三，马斯克传记作者 Walter Issacson 在《时代》杂志上刊出即将出版的传记部分章节，讲述了马斯克十几年来一以贯之的对 AI 的恐惧和担忧，以及他对人类未来命运的思考，华尔街见闻进行了重点摘录。

对 AI 降临的恐惧

马斯克对 AI 的恐惧，源于 2012 年与 AI 研究员 Demis Hassabis 的一次会面。

当时，马斯克邀请他参观了 SpaceX 工厂，并解释说，自己之所以造能上火星的火箭，是为了在核战争、小行星撞击这样的末日降临时刻，保存人类文明的火种。

Demis 提醒他，末日清单上应该再加一条——AI，机器的智能未来可能超越人类，甚至也许想消灭人类。

马斯克思考了一分钟，然后认为 Demis 是正确的，并立即向 DeepMind 投资 500 万美元，以「监控它在做的事情」。

这次谈话几周后，马斯克向认识十几年的老朋友、谷歌联合创始人拉里·佩奇介绍了 DeepMind，而且经常深夜找佩奇聊 AI 对人类的威胁，但后者对此嗤之以鼻。

2013 年，在马斯克的生日派对上，他们展开了一场激烈的辩论。马斯克认为，如果不立刻行动起来、建立保障措施，飞速发展的 AI 可能会让人类灭绝。

但佩奇完全不在乎，他反问道：如果有一天机器在智力甚至意识上超越了人类，那又有什么关系呢？这只不过是进化的下一个阶段而已。他指责马斯克是一个「物种主义者」，偏袒自己所属的物种。

马斯克也大方承认了：「是的，我他妈就是喜欢人类。(I f-cking like humanity, dude.)」

创办 OpenAI，是为了制衡谷歌

当年年底，佩奇领导下的谷歌计划收购 DeepMind 的消息传到了马斯克耳朵里，他很担心，强大的 AI 如果被佩奇这样不关心人类的人掌握，会发生什么。

所以，他拉来朋友、PayPal 联合创始人 Luke Nosek，想筹钱阻止这笔交易，但没能成功，谷歌在 14 年 1 月完成收购。作为对马斯克担忧的回应，佩奇同意成立一个「安全委员会」，让马斯克和前面提到的 AI 专家 Demis 当了委员，其他成员还包括谷歌董事长 Eric Schmidt、领英联合创始人 Reid Hoffman 等人。

然而，在参加了「安全委员会」第一次也是唯一一次会议后，马斯克变得更加不信任佩奇和谷歌，认为委员会里的人都在胡说八道。他开始密集地组织聚会，讨论如何对抗谷歌和促进 AI 安全。

2015 年 5 月，他还和时任美国总统奥巴马进行了一对一长谈，解释 AI 的风险，并提议总统对 AI 进行监管。但奥巴马并没有采纳他的提议。

于是，OpenAI 创始人 Sam Altman 就在这个时候登场了。马斯克和他都相信，相比由少数大公司掌控 AI，大量相互竞争、相互制衡的 AI 系统更加安全。在一场晚宴上，两个人一拍即合，决定共同创办一家非营利性人工智能研究实验室，并将其命名为 OpenAI。

不过，在 2018 年，由于当时特斯拉也要研发 AI 以驱动其自动驾驶软件，为了规避潜在利益冲突，马斯克无法继续留在 OpenAI。他尝试说服 Altman 把 OpenAI 并入特斯拉，但遭到了拒绝；此外，他也对 OpenAI 逐渐走向商业化的方向非常不满，于是最终与 OpenAI 团队决裂。

回看马斯克如今的商业版图，每家公司都代表着他对 AI 危机的解决方案：SpaceX 可以建造保存文明火种的诺亚方舟；脑机接口公司 Neuralink，可以让人类的肉体之躯变得更加强大；特斯拉每天从汽车摄像头上接收并处理 1600 亿帧视频，这些真实世界数据可以用于「通用人工智能（AGI）」训练，而人形机器人 Optimus 将成为 AGI 的物理载体。种种资源，都可以整合到它的新公司——xAI 里。

今年上半年，OpenAI 引领的 AI 浪潮不仅抢走了马斯克的聚光灯，也让他更加担心，这些被大公司控制得 AI 系统，可能会传播「觉醒文化病毒」，毒害美国青少年的心灵；他还担心，如今那些能够自我学习的 AI 系统可能会对人类产生敌意，以及，用推特数据训练的机器人可能会生产虚假或诈骗信息。

他迫不及待地想要入局，对自己创立并资助了 OpenAI 但现在却被置身事外感到愤恨。AI 是正在酝酿的最大风暴。没有人比马斯克更喜欢风暴了。

于是，上半年，马斯克对 OpenAI 和 Altman 个人发起了猛烈的攻击，Altman 能理解马斯克的攻击性，在一场采访中，他说马斯克虽然表现得像个混蛋，但他相信他是真的很关心 AI 领域，并且在担忧人类的未来。

马斯克认为，在 AGI 赛道上，自己处于领先的位置。

虽然没能在 AI 浪潮最火的时候赶时髦、做出 AI 聊天机器人。但马斯克相信自己在通往 AGI 的竞赛中仍然领先。

他相信，只能生成文本的聊天机器人作用有限，重点是有智慧的实体机器人。一方面，特斯拉已经有了先进的自动驾驶技术和人形机器人 Optimus；另一方面，推特上数亿名用户的推文和特斯拉车身的摄像头，也为研发 AGI 提供了足够的数据。

所以，他有信心能比 OpenAI 更快创造出 AGI：「特斯拉在现实世界中的 AI 能力被低估了，想象一下，如果特斯拉和 OpenAI 必须交换任务。他们必须制造自动驾驶汽车，而我们必须制造大型语言模型聊天机器人。谁会赢呢？我们赢。」

直到最近，马斯克仍然在思考如何减少 AI 风险，让人类意识能够代代流传。

他认为，人类的智力水平正在趋于平稳，新生儿已经越来越少。与此同时，计算机的智能却在呈指数级增长，就像「打了类固醇的摩尔定律」。生物脑力与数位脑力相形见绌。

马斯克相信，AI 以不受控的速度独自前行、将人类甩在身后的「奇点时刻」，会比我们预想的更快到来。

「我不能无所事事，随着人工智能的到来，我有点怀疑该不该花那么多时间去考虑推特。当然，我也许可以让它成为世界上最大的金融机构。但我每天只有那么多精力和时间，我又不需要赚更多钱什么的。 那我的时间应该花在什么地方？启动星际飞船。现在去火星要紧迫得多。另外，我需要集中精力确保人工智能的安全。这就是我要创办一家 AI 公司的原因。」

原文链接