转自：新智元
如涉版权请加编辑微信iwish89联系
哲学园鸣谢
【新智元导读】OpenAI的出现，源自马斯克和拉里佩奇的一场争论。那是在2015年，特斯拉刚刚盈利，佩奇还是谷歌的CEO。就是这场争吵的几周后，OpenAI在一次晚饭上诞生。
最近，OpenAI工程师惊人曝出：ChatGPT的开发竟然只用了8天！
这位工程师表示，一年前的今天，自己报名了这项全世界演示的研究预览。
8天内，团队完成了产品制作和上线的全部流程。
那时，没人能预料，世界会发生怎样的变化。
下面是一些关于那个「疯狂第一夜」的截图。
众所周知，从GPT-2到GPT-3，用了很多年，为什么ChatGPT的诞生却只要8天？
据悉，当时OpenAI的一些「叛逃员工」成立的Anthropic，马上就要发布大模型产品了。为了抢在他们前面发布AI聊天机器人，OpenAI团队用Next.js写了个网页、调了个接口。
然后，掀起全世界AI风暴的ChatGPT，就此诞生。
就在今天，纽约时报也发出一篇长文，揭秘了关于谷歌、DeepMind、OpenAI和Anthropic起源的戏剧性故事。
自我、恐惧和金钱：AI导火索是如何点燃的
2015年7月，马斯克迎来了44岁的生日，他的妻子为他举办了为期三天的派对。那一年，特斯拉刚刚盈利，拉里佩奇还是谷歌的CEO。佩奇作为马斯克的10多好友也受邀参加派对。
那天晚上，当两个人聊到人工智能会让人类受益还是毁灭人类时，讨论变成了争吵。
30多个在场的朋友中，都开始静下来听着两人的争论。
因为声带异常疾病的困扰，佩奇对于数字乌托邦抱有愿景。
他相信，人类最终会与人工智能机器融合。而终有一天，各种智能会争夺资源，最好的智能会赢。
马斯克说，如果这种情况发生，机器会摧毁人类，我们注定会失败。
而佩奇认为，他理想中的乌托邦值得被追求。最后，他称马斯克为「物种主义者」，认为他更偏爱人类，而不是未来的数字生命形式。
马斯克后来说，这种侮辱是最后一根稻草。
在场的许多人都被吓得目瞪口呆，然而八年后，大家发现，两人之间的争论到处都在上演。
AI会造福人类还是毁灭人类？这个问题，已经在硅谷创始人、用户、学者、立法者、监管机构之间引发了一场旷日持久的大战。
这场辩论，让世界最富有的一些人相互对抗——马斯克、佩奇、小扎、Peter Thiel、纳德拉、Sam Altman。
所有人都在为这项可能有朝一日价值数万亿美元的事业而战。
而这场比赛的核心，是一个令人费解的悖论。
那些说着最担心AI的人，也是最有强烈的决心要创造AI、享受其财富的人。他们用坚定的信念来证明自己的野心是合理的，只有他们才能阻止AI毁灭人类。
那年夏天，马斯克和佩奇在派对结束后，就不再和彼此说话。
OpenAI的诞生
几周后，马斯克于当时经营着科技孵化器的Altman和几个研究人员一起共进晚餐。就是这次晚餐，促成了OpenAI的诞生。
在马斯克和其他投资者数亿美元的支持下，OpenAI承诺，保护世界免受佩奇的愿景的影响。
现在，OpenAI用ChatGPT从根本上改变了科技行业，据内部人士透露，OpenAI的估值已经超过了800亿美元。
不过，现在马斯克和Altman也已经分道扬镳。
在上个月，OpenAI董事会也发生了内讧。董事会中的「叛徒」试图赶走Altman，因为他们不再相信他会制造造福人类的AI。
OpenAI内部的戏剧性事件，也让世界第一次看到，在那些决定AI未来的人之间，存在着激烈的争斗。
其实，在OpenAI剧变的前几年，硅谷就曾发生一场鲜为人知的激烈斗争，争夺着这项技术的主动权。
纽约时报采访了80多位高管、科学家，包括2015年参加了马斯克生日派对的两个人，重现了这个关于野心、恐惧和金钱的故事。
DeepMind的诞生
在马斯克生日排队的五年前，34岁的神经科学家Demis Hassabis走进Peter Thiel旧金山联排别墅的鸡尾酒会，意识到自己赚了。
在Thiel的客厅里，有一个国际象棋棋盘，而Hassabis，曾经是14岁以下世界上排名第二的象棋选手。
「我为那次会面准备了一年。我知道这将是我独特的魅力所在：他喜欢国际象棋。」
2010年，Hassabis和同事正在寻找资金，来建立AGI。
当时，很少有人对AI感兴趣。
当时，这三位来自英国的年轻人都与自学成才的AI研究者Eliezer Yudkowsky有联系，Yudkowsky领导的社区理性主义者，后来发展成了有效利他主义者。
他们相信AI可以治愈癌症，解决气候变化，但他们担心AI机器人可能出令自己的创造者出乎意料的事。
Thiel通过早期对Facebook的投资，以及在PayPal早期与马斯克的合作，变得非常富有。他对奇点产生了浓厚的兴趣。
在Thiel的资助下，Yudkowsky扩大了他的人工智能实验室，举办了一个关于奇点的年度会议。
几年前，Hassabis的一位同事中的一位见过Yudkowsky，他为他们安排了会议上的演讲名额，确保他们被邀请参加Thiel的聚会。
随后，Yudkowsky顺利地把Hassabis介绍给了Thiel。
Hassabis告诉Thiel，主教和骑士之间存在着一种紧张关系，最好的棋手会明白，它们的价值看起来先沟通，但优势截然不同。
Hassaibs成功了。Thiel被迷住了，在刚完成晨练后，邀请他们来到厨房和自己聚会。
很快，Thiel和自己的风投公司同意向他们的创业公司投资225万美元，这是他们获得的第一笔大投资。
他们将公司命名为DeepMind，这是对深度学习、神经科学以及《银河系漫游指南》中的Deep Thought超级计算机的致敬。
到2010年秋天，他们开始建造自己梦想中的机器。他们相信自己了解风险，所以能够保护世界。
「我不认为我们的立场矛盾，」DeepMind的三位创始人之一Mustafa Suleyman说。「这些技术带来了巨大的好处。我们的目标不是消除它们或暂停它们的发展，而是减轻不利因素。」
DeepMind创始人：Mustafa Suleyman（左）、Demis Hassabis（中）和Shane Legg（右）
获得Thiel的投资后，Hassabis进入了马斯克的社交圈。
大约两年后，他们在Thiel的投资基金组织的一次会议上相遇。Hassabis参观了SpaceX总部，然后和马斯克在自助餐厅聊起天来。
马斯克解释说，自己的计划是殖民火星，以此规避地球上人口过剩等危险。Hassabis回答说，这个计划会奏效的——只要超级智能不会跟着人类上火星，也不会摧毁人类。
马斯克无言以对，他没有想过这种危险。
很快，马斯克和Thiel一起投资了DeepMind，这样他就可以更接近这项技术。
DeepMind手握大笔钞票，聘请了专门研究神经网络的研究人员。
神经网络是以人脑图像创建的复杂算法。它本质上是一个巨大的数学系统，需要花费数天、数周甚至数月的时间，来识别大量数字中的模式。
这些系统于1950年代首次开发，可以学习自行处理任务。比如，在分析了数百个信封上潦草的姓名和地址后，系统就可以阅读手写文本。
DeepMind进一步推进了这一概念。它建立了一个系统，可以学会玩经典的雅达利游戏，比如《太空侵略者》、《乒乓》和《突围》。
这引起了另一家硅谷巨头谷歌的注意，尤其是拉里·佩奇。
看完Deep Mind的机器玩雅达利游戏的demo，他也想投资。
人才拍卖会
2012年秋天，多伦多大学64岁的教授杰Geoffrey Hinton和两名研究生发表了一篇论文，他们训练了一个神经网络来识别常见的物体，比如鲜花、狗和汽车。
人们对这项技术非常惊讶，尤其引起了AI研究者余凯的注意。
百度为Hinton和他的学术提供了1200万美元，邀请他们加入百度。
Hinton并没有选择百度，但这笔钱引起了他的注意。
作为一个在剑桥受教育的英国侨民，Hinton的大部分时间都在学术界度过，偶尔会在微软和谷歌任职。
他对金钱并不那么在意，但因为有一个患有神经变异的孩子，这笔钱意味着经济上的安稳。
在咨询律师和专家后，他提出这个计划——组织一次拍卖。
谷歌、微软、百度等大科技公司相信，神经网络是通往AI的途径。
佩奇在谷歌大脑实验室看到了类似技术，他相信Hinton的研究会对谷歌大脑大有裨益。
他给谷歌工程高级副总裁Alan Eustace一张空白支票，让他雇佣谷歌需要的任何AI人才。
领导谷歌大脑的Eustace和Jeff Dean在拍卖会的前一晚，飞往Hinton和学术所在的太浩湖，和他们共进晚餐，劝说他们来谷歌工作。
第二天，Hinton在酒店房间里主持了拍卖会。
由于背部旧伤，他很少坐下。他把一个垃圾桶倒过来放在桌子上，把笔记本电脑放在上面，接下来两天，出价滚滚而来。
谷歌微软都出价了，随着价格不断上涨，DeepMind迅速推出。
出价到了2000万美元，然后是2500万美元。价格超过3000万美元时，微软退出了，随后，它又以3700万美元的价格重新加入竞标。
Hinton说，那种感觉就像在看电影一样。
然后，微软第二次退出了。
只剩下百度和谷歌，出价推到了4200万美元，4300万美元。最后，在4400万美元价格时，Hinton和他的学生停止了拍卖。
出价仍在攀升，但他们想为谷歌工作。而且钱的数目已经很惊人了。
这次拍卖事件表明，财力雄厚的大公司决心买下最有才华的AI研究者。
此前，Hassabis一直告诉员工，DeepMind会一直是一家独立的公司，唯有这样才能确保AI不会危及人类。
但随着大型科技公司开始加入人才竞赛，他知道自己别无选择：是时候选择出售DeepMind了。
据三位知情人士透露，到2012年底，谷歌和Facebook正争相试着收购DeepMind伦敦实验室。
Hassabis和联合创始人坚持两个条件：DeepMind的技术不能用于军事目的，其AGI技术必须由一个由技术专家和伦理学家组成的独立委员会监督。
谷歌出价6.5亿美元。Facebook扎克伯格出价更高，但不同意这些条件。于是DeepMind卖给了谷歌。
扎克伯格决心建立一个自己的人工智能实验室。他聘请了法国计算机科学家Yann LeCun。
在Hinton的拍卖会一年后，扎克伯格和LeCun飞往Tahoe湖，参加了同样的人工智能会议。
扎克伯格在赌场的一间套房里闲逛，同顶级的AI研究人员交谈，很快，他们就获得了数百万美元的薪水和股票。
曾经被嘲笑过的AI，正在让硅谷最富有的人掏出数十亿美元，来防止自己落后。
失落的道德委员会
当马斯克投资DeepMind时，他打破了自己以往的准则——不投资任何不是自己经营的公司。
跟佩奇的吵架一个月后，他发现这个决定的弊端很明显了。
2015年8月14日，DeepMind伦理委员会召开了第一次会议。成员们在马斯克在SpaceX办公室外的一间会议室里开了会，但马斯克的控制就到此为止了。
当谷歌收购DeepMind时，买下了整个公司。马斯克出局了。
牢牢控制着DeepMind的三位谷歌高管出席了会议：佩奇；谷歌联合创始人兼特斯拉投资者谢尔盖·布林；以及谷歌董事长Eric Schmidt。其他与会者包括PayPal的另一位创始人里德·霍夫和研究「存在风险」的澳大利亚哲学家Toby Ord。
DeepMind的创始人报告说，他们正在推进工作，但也意识到：这项技术存在严重的风险。
DeepMind的联合创始人Suleyman，做了一个题为「干草叉来了（The Pitchforkers Are Coming）」的演讲。
他告诉董事会，AI可能会导致虚假信息的爆炸式增长。他担心，这项技术在未来几年可能会取代无数工作岗位，公众会指责谷歌砸掉了他们的饭碗。
他认为，谷歌需要与数百万失业的人分享财富，并保证「普遍的基本收入」。
马斯克对此表示同意。但很明显，谷歌的高管们并不打算重新分配自己的财富。
Schmidt说，他认为这些担忧完全被夸大了。
佩奇也表示同意。他认为，人工智能创造的就业机会将多于它带走的就业机会。
八个月后，DeepMind取得了震惊AI社区和全世界的突破。
AlphaGo在围棋比赛中击败了世界上最好的人类棋手。全球2亿多人观看了这场比赛。
大多数研究者认为，AI还需要10年才能做到这一点。
理性主义者、有效利他主义者和其他担心AI风险的人声称，AI的胜利证实了他们的担忧。
即将加入DeepMind担任AI安全研究院的Victoria Krakovna写道，「这个迹象表明，AI发展得如此之快，甚至比许多专家预期的还要快。」
DeepMind的创始人越来越担心，谷歌会用自己的发明做什么。
2017年，他们试图脱离公司。谷歌的回应是，提高DeepMind创始人及其员工的工资和股票奖励待遇。于是他们留下了。
道德委员会从未召开过第二次会议。
分手
马斯克确信，佩奇对AI看法太乐观了，并且对于失去DeepMind感到愤怒，于是建立了自己的实验室。
马斯克向成立于2015年底的OpenAI注入了资金，他的前Paypal好友Hoffman和Thiel也来了。
几个人向项目投入了10亿美元，为了让OpenAI开始，他们从谷歌挖走了Ilya Sutskever。（Ilya就是谷歌在Hinton拍卖会上买下的研究生之一）
最初，马斯克希望把OpenAI作为非营利组织运营，不受经济激励的影响。
但当谷歌用围棋的噱头让科技界惊叹不已时，马斯克改变了主意。他迫切希望OpenAI能发明世界想象力的东西、缩小与谷歌的差距。
然而，OpenAI并没有作为非营利组织在工作。
据知情人士透露，在17年底，他制定了一项计划，从Altman和其他创始人手中夺取OpenAI的控制权，并将其转变为和特斯拉联手的商业公司，依靠后者开发的超算。
当Altman和其他人提出异议时，马斯克辞职了。
当他说明OpenAI需要加快行动时，一位研究者反驳他说他很鲁莽。马斯克骂他混蛋，然后带着自己雄厚的钱袋冲了出去。
于是，OpenAI需要新的融资。
Altman飞往太阳谷参加一个会议时，遇到了微软CEO 纳德拉。
新的合作顺理成章。
Altman认识微软的CTO Kevin Scott。微软从OpenAI董事会成员Hoffman手中买下LinkedIn。纳德拉告诉Scott要完成这件事。交易于2019年完成。
Altman和OpenAI在最初的非营利组织下，成立了一家营利性公司。他们拥有10亿美元的新资本，而微软能将AI构建到其庞大的云计算服务中。
并非OpenAI的每个人都高兴。
Dario Amodei是一位与有效的利他主义社区有联系的研究员。他领导的实验室在2020年夏天发布了GPT-3。
OpenAI、谷歌和其他公司的研究人员认为，这项技术可能是通往AI的一条道路。但Amodei博士对于微软的交易并不满意，他认为这正在将OpenAI带入真正的商业方向。
据五位知情人士透露，他和其他研究人员前往董事会，试图将Altman赶下台。失败后，他们离开了，就像曾经DeepMind的创始人一样。
2021年，大约15名工程师和科学家创建了一个名为Anthropic的新实验室。他们计划是按照有效利他主义者认为应该做的方式构建AI——通过非常严格的控制。
「Anthropic的联合创始人没有试图将Sam Altman从OpenAI中移除，」Anthropic的发言人Sally Aldous说。「他们希望离开OpenAI创办自己的公司，于是向OpenAI的领导层透露了这一点，并在几周内，以双方都同意的条件谈判退出。」
两年后，Anthropic接受了亚马逊的40亿美元投资，又接受了谷歌的20亿美元投资。
揭秘GPT-4
在OpenAI从微软获得20亿美元投资后，Altman和另一位高管Greg Brockman拜访了比尔·盖茨位于西雅图的豪宅。那时，这位微软创始人已不再参与公司日常工作，只是与高管定期保持联系。
晚餐时，盖茨告诉他们，自己怀疑大型语言模型是否能奏效。
他说，除非LLM能执行需要批判性思维的任务，比如通过AP Bio的大学生物学考试。
五个月后，也就是2022年8月24日，Altman和Brockman再次来找盖茨，还带来了另一位OpenAI研究员Chelsea Voss。她在高中时曾获得国际生物奥林匹克竞赛的奖牌。
出席会议的还有纳德拉和其他微软高管。
在现场，OpenAI的工作人员展示了GPT-4技术。
Brockman让GPT-4做高级生物学考试的多项选择题，Voss给答案打分。
第一个问题涉及极性分子，GPT-4做出了正确回答，还解释了这么选择的原因。
Brockman解释说，本来他们只是训练GPT-4提供答案，并没有设计让它解释，但是它自动做到了。
60个问题中，GPT-4只做错了一道题。
盖茨在椅子上坐了起来，睁大了眼睛。
上一次他有这样的反应， 是在1980年，当时研究人员正在向他展示后来成为现代个人电脑基础的图形用户界面。
毫无疑问，他相信GPT是革命性的。
到了10月，微软已经在必应搜索引擎等服务中集成GPT-4。现在，每周都有1亿人在使用ChatGPT。
OpenAI击败了Anthropic的有效利他主义者。谷歌的乐观主义者匆忙发布了Bard，但人们公认谷歌已经输给了OpenAI。
ChatGPT发布三个月后，谷歌股价下跌了11%。
而这仅仅是个开始。
https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.html?smid=nytcore-android-share
