编者按：「那些声称最担心人工智能会带来危机的人，却是最坚决要创造它并享受它所带来的财富的人。」
这篇来自《纽约时报》的特写报道，为我们回溯了从 2010 年就已经开始酝酿的硅谷 AI 之争：
1. 马斯克和 Google 联合创始人拉里·佩奇在 2015 年的派对上「闹翻」，两人对 AI 发展持对立态度。
2. DeepMind 创始人丹米斯·哈撒比斯最开始是用国际象棋获得了彼得·蒂尔的关注。在蒂尔的支持下，DeepMind 获得马斯克关注和投资，逐渐成长。
3.「AI 教父」杰弗里·辛顿举行了一场「拍卖会」，「卖」的是自己和团队。最后 Google 成功将辛顿博士团队收入囊中。
4. 这场拍卖象征着硅谷巨头正式进入 AI 战争。DeepMind「知难而退」，决定出售。
5. 出售后的 DeepMind 原设有「道德委员会」来确保 AI 的安全发展，但这个委员会最终变得形同虚设。
6. OpenAI 和马斯克决裂，走向和微软的合作。
7. OpenAI 的达里奧·阿莫迪离开，创立 Anthropic。
8. OpenAI 通过了比尔·盖茨的「考试」，GPT 被后者视为具有革命性的创新。
原文地址：
https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.html
原文作者：Cade Metz、Karen Weise、Nico Grant & Mike Isaac
2015 年 7 月，埃隆·马斯克在加利福尼亚的葡萄酒乡村度假村庆祝他的 44 岁生日，这是他的妻子为他举办为期三天的派对，度假村里布满了小木屋。只有家人和朋友受邀参与，孩子们在这家纳帕谷的高档物业中奔跑玩耍。
这时离 Twitter 成为 X 和特斯拉能盈利还有几年。马斯克先生和他的妻子塔卢拉·莱利(Talulah Riley)—— 一位在 HBO 科幻剧《西部世界》中饰演美丽但危险的机器人的女演员 —— 离他们第二次婚姻的结束还有一年。派对的客人拉里·佩奇(Larry Page)，那时还是 Google 的首席执行官。而人工智能只是在几年前开始被公众所知，当时它被用来在 YouTube 上识别猫 —— 准确率为16%。
当马斯克和佩奇在第一晚的晚餐后，坐在泳池边上的篝火旁聊天，人工智能是他们谈论的主题。这两位亿万富翁已经是十多年的好友，马斯克有时开玩笑说，他不时会在通宵玩游戏后在佩奇先生的沙发上过夜。
但那个明朗的夜晚的气氛很快变得紧张起来，因为两人开始在争论人工智能最终到底是会提升人类还是毁灭人类。
随着讨论延伸至清凉的夜，气氛变得越来越紧张，30 多号来参加派对的人里已有一些聚集起来，靠近倾听。因声带受到一个不寻常的疾病影响十多年，佩奇用低声细语来描述他的数字乌托邦愿景。他说，人类最终会与人工智能机器融为一体。有一天，会有许多种智能竞争资源，而最好的会赢。
如果那样的事情发生，马斯克说，我们就完了。机器会毁灭人类。
带着一丝挫败的嘶哑，佩奇坚称我们应追求他所描述的乌托邦。最后，他称马斯克为「物种主义者」，一个偏爱人类而不是未来数字生命形态的人。
马斯克后来说，那个羞辱是「最后一根稻草」。
当人群散去，许多人看起来对此感到惊愕，但也觉得有趣，他们觉得，这也只是硅谷派对上经常出现的那种深奥辩论。
然而，八年以后，这两人间的辩论看起来颇有先见之明。人工智能到底是会提升世界还是毁灭它 —— 或者至少造成严重的损害 —— 已经构成了硅谷创业者、聊天机器人用户、学者、立法者和监管者之间，关于我们是应该控制或任由其发展的持续辩论框架。
那场辩论使得世界上一群最富有的人相互对立：马斯克，佩奇，Meta 的马克·扎克伯格(Mark Zuckerberg)，科技投资人彼得·蒂尔(Peter Thiel)，微软的萨蒂亚·纳德拉(Satya Nadella)和 OpenAI 的萨姆·奥特曼(Sam Altman)。他们都努力地在这个可能有朝一日价值数万亿美元业务中争一杯羹，还有争夺去塑造它的权力。
这场竞争的核心是一个让人费解的悖论。那些声称最担心人工智能的人，却是最坚决要创造它并享受它所带来的财富的人。他们以一个坚定的信念来为自己的野心正名 —— 只有他们自己才能避免人工智能对地球造成危险。
那个夏日派对过去不久后，马斯克和佩奇就不联系了。几周后，马斯克与当时正在运营一家科技孵化器的奥特曼以及几位研究员在加州门洛帕克的瑰丽酒店的私人房间里共进晚餐。这是一个相当受欢迎的聊合作的地方，因为它离沙山路上的 VC 办公室很近。
那顿晚餐促成了一家名为 OpenAI 的创业公司在同年晚些的成立。得到了来自马斯克和其他投资者的数亿美元支持，这个实验室承诺保护世界免受佩奇的愿景影响。
▲ 马斯克和佩奇因对 AI 理念出现分歧而分裂
多得它的 ChatGPT 聊天机器人，OpenAI 已经从根本上改变了科技行业，并向世人展示了人工智能的风险和潜力。据两位熟悉该公司最新融资轮的人士透露，OpenAI 的估值超过 800 亿美元，尽管马斯克和奥特曼的合作并未能延续。从那以后，两人已经不再对话。
「其中存在分歧、不信任、自我主义，」奥特曼说。「人们越是朝着同一个方向前进，分歧就越有尖锐。你在教派和宗教团体中也能看到这一点。正是那些最亲近的人，之间会有激烈的争斗。」
上个月，这场内斗来到了 OpenAI 的董事会。反叛的董事会成员试图逼走奥特曼，因为他们认为，他们再也不能信任他能构建可以造福人类的 AI。在五天的混乱中，OpenAI 看起来马上就要崩溃了，直到重要投资者和员工施压并威胁要跟随奥特曼离开，董事会才让步。
OpenAI 内部的戏剧性争斗让世界首次窥见了那些将决定 AI 未来的人之间的激烈争斗。
但在 OpenAI 这次几乎崩塌事件发生的几年前，硅谷就有一场鲜为人知但激烈的竞争，争夺着现在正在快速重塑世界的技术，它正在改写的方面从我们该如何教育孩子延伸到该如何打仗。《纽约时报》采访了 80 多位高管、科学家和企业家，包括两位参加了马斯克 2015 年生日派对的人，来讲述这个关于野心、恐惧和金钱的故事。
DeepMind 的诞生
在纳帕谷那场派对发生的五年前，以及 YouTube 上猫咪视频大获成功两年前，34 岁的神经科学家丹米斯·哈撒比斯(Demis Hassabis)走进了彼得·蒂尔在旧金山的联排别墅举办的鸡尾酒会，他意识到自己找到了金矿。在蒂尔那俯瞰着当地的艺术宫和天鹅池的客厅里，摆放着一副棋盘。哈撒比斯博士曾经是 14 岁以下类别中世界排名第二的棋手。
「我为那次会面准备了一年，」哈撒比斯博士说。「我以为那会是我独特的切入点：我知道他喜欢下棋。」
▲ 丹米斯·哈撒比斯
2010 年，居住在英国的哈撒比斯博士和他的两位同事，正在寻找资金来开始构建「人工通用智能」或称为 A.G.I.，这是一种能做任何大脑能做的事情的机器。当时，很少有人对人工智能感兴趣。经过半个世纪的研究，人工智能领域未能产出任何接近人脑的东西。
然而，一些科学家和思考者已经对 AI 的负面影响产生了固执的看法。许多人，如这三位来自英国的年轻人，都和互联网哲学家、自学成才的 AI 研究者埃利泽·尤多科夫斯基(Eliezer Yudkowsky)有所关联。尤多科夫斯基先生是是一个自称为「理性主义者」的社区领导者，后来，这也被称为「有效利他主义者」。
他们相信人工智能可以找到治疗癌症的方法或解决气候变化问题，但他们担心人工智能机器人可能会做出其违背其创造者意图的事情。如果机器变得比人类更聪明，理性主义者们辩称，机器可能会反过来对付他们的创造者。
蒂尔通过对 Facebook 的早期投资以及和马斯克在 PayPal 早期的合作，积累了巨大的财富。他对奇点产生了极大的兴趣，这是科幻小说的一个主题，描述的是当智能技术无法再被人类控制的那一刻。
在蒂尔的资助下，尤多科夫斯基扩大了他的 AI 实验室，并创建了一个关于奇点的年度会议。多年前，哈撒比斯博士的两位同事之一遇到了尤多科夫斯基。他在会议上为他们争取到了发言的机会，确保他们被邀请到蒂尔的派对。
尤德科夫斯基先生向蒂尔介绍了哈撒比斯博士。哈撒比斯以为，派对上会有许多人试图从蒂尔那里挤出钱。他的策略是安排另一次会面。他告诉蒂尔，主教和骑士之间的关系很紧张。这两个棋子的价值相同，但最好的玩家明白，他们的优势大不相同。
▲ 彼得·蒂尔
这奏效了。被迷住的蒂尔邀请他们第二天再来，在厨房见面。东道主刚刚完成早晨的锻炼，身上闪亮的运动满是汗。一个管家递给他一瓶健怡可乐。他们三人讲述了自己的提案，很快，蒂尔和他的风险投资公司同意向他们的初创公司投入 140 万英镑(大约 225 万美元)。他是他们的第一位重要投资者。
他们将公司命名为 DeepMind，这是对「深度学习」(一种通过分析大量数据让 AI 系统学习技能的方式)，神经科学以及科幻小说《银河系漫游指南》中的深思超级计算机的致敬。到了 2010 年秋天，他们已经在构建自己梦想中的机器。他们坚信，因为理解其中风险，所以他们对于保护世界有独特的优势。
「我并不认为这是一个矛盾的立场，」DeepMind 的三位创始人之一 穆斯塔法·苏莱曼(Mustafa Suleyman)说。「这些技术将带来巨大益处。目标不是消除或暂停它们的发展。目标是减少它们的负面影响。」
在赢得了蒂尔的支持后，哈撒比斯博士逐渐进入了马斯克的视野。大约两年后，他们在蒂尔的投资基金组织的一次会议上相遇，该基金也投资了马斯克的公司 SpaceX。哈撒比斯博士安排了一次 SpaceX 总部的参观。之后，就在天花板挂着火箭壳的食堂，两人共进午餐并进行了交谈。
马斯克先生解释说，他的计划是殖民火星，用来躲避地球上人口过度和其他危险。哈撒比斯博士回应说，这个计划会奏效 —— 前提是超级智能机器不会跟着人类到火星，并在火星上把人类也摧毁了。
马斯克无言以对。他从未考虑过这个特定的危险。马斯克很快就和蒂尔先生一起投资了 DeepMind，以便能更接近这项技术的创造。
拥有充足的资金，DeepMind 聘请了专门研究神经网络的研究人员，这些复杂的算法以人脑为原型。神经网络本质上是一个巨大的数学系统，它花费数天、数周甚至数月的时间在大量的数据中识别模式。这些系统最初在 1950 年代被开发出来，它们可以学会自行处理任务。例如，分析了数百个信封上手写的名字和地址后，它们可以阅读手写文本。
DeepMind 进一步发展了这个概念。它构建了一个系统，可以学习玩经典的雅达利游戏，如《太空侵略者》《乓》和《Breakout》，以展示其潜力。
这引起了硅谷另一巨头 Google，特别是拉里·佩奇的注意。他看到了 DeepMind 的机器玩雅达利游戏的演示。他想参与其中。
人才拍卖
在 2012 年秋季，多伦多大学一位 64 岁的教授杰弗里·辛顿(Geoffrey Hinton)和两名研究生发表了一篇研究论文，向世界展示了人工智能的能力。他们训练了一个神经网络来识别常见的物体，如花朵、狗和汽车。
科学家们对于由辛顿博士和他的学生们构建的技术的准确性感到惊讶。尤其关注到这个的人是余凯，他是一位人工智能研究员，曾在一次研究会议上遇到过辛顿博士，并于最近开始为中国的互联网巨头百度工作。据三位熟悉此事的人士透露，百度曾向辛顿博士和他的学生们开价 1200 万美元，希望他们加入位于北京的公司。
辛顿博士拒绝了百度，但这笔钱引起了他的注意。