2

揭开OpenAI创业秘史,ChatGPT的真正推手原来是他

 1 year ago
source link: https://www.36kr.com/p/2206778036907396
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

揭开OpenAI创业秘史,ChatGPT的真正推手原来是他

智东西·2023-04-09 02:27

随着ChatGPT一战成名,很多人开始关注背后OpenAI成功的奥秘。从The Information的讲述我们看到,这家创企实际上也面临和众多AI同行一样的问题,包括技术和产品团队磨合、理想与面包的矛盾等等,过程也很艰辛。

OpenAI的成功有其自然的必然可解释的原因,能力超群而有定力的领导人是其中一个原因,组织、资本层面的因素也同时起作用,这也为国内AI创业提供了参考。

作者 |李水青

编辑 |心缘

为什么全球热门应用ChatGPT诞生在OpenAI?

近日,外媒The Information的一篇深度稿件试图道出原因。根据多方采访,一个长达五年的ChatGPT产品研发落地故事浮出水面,背后的第一推手也随之显现。

时间追溯到2017年,OpenAI还是一家50人的非营利组织,时任OpenAI首席技术官的格雷格·布罗克曼(Greg Brockman)担心被谷歌旗下的DeepMind等对手甩在身后,因此他带头开始了一场旷日持久的作战。

ChatGPT项目团队试练是在DOTA2游戏,一种很新的协作方式随之诞生,而布罗克曼则作为“游走总裁”在各个部门“搅局”,80%时间亲自下场写代码。OpenAI CEO萨姆·阿尔特曼(Sam Altman)及其他董事会成员都称他是ChatGPT产品化的第一推手、“在科技界是罕见的”、“谷歌没有这样的人”。尽管如此,他也造成了OpenAI代码的混乱,带来新的麻烦。

v2_2e3761b14a494f3f8de0ff998d125942@453363432_oswg38523oswg696oswg392_img_000

▲格雷格·布罗克曼(左)和萨姆·阿尔特曼(右)

如果说阿尔特曼是OpenAI的招牌,那么布罗克曼就是OpenAI的秘密武器。

布罗克曼是一个从小镇走出、从哈佛和MIT辍学创业的标准硅谷传奇人物,他在偶然的机会参与了2015年那场瑰丽酒店晚宴的OpenAI创业大筹划,而后成为OpenAI最得力的“问题解决者”。在众多项目中,他都擅长“优化OpenAI系统的速度和成本”到极致,包括ChatGPT项目。

ChatGPT项目的进展并不是一帆风顺的。2017年,OpenAI由于非盈利性质面临巨大压力,创始人之一埃隆·马斯克因此退出,转而基于商业公司特斯拉做AI开发。布罗克曼是在此背景下开战DeepMind的,就像所有的AI创企面临的问题一样,AI开发成本翻番、“要理想还是面包”等问题横亘在布罗克曼面前。副总裁达里奥·阿莫迪(Dario Amodei)等人带队离职创业,也让工作更难开展,OpenAI内部一度蔓延着焦虑和担忧。

v2_8feaf875c7b04369b651f51dc32f5c9e@453363432_oswg94488oswg1080oswg607_img_000

▲萨姆·阿尔特曼(左)和埃隆·马斯克(右)

但布罗克曼的担忧并没有成为现实,相反,ChatGPT在2023年注册人数激增,让谷歌和DeepMind措手不及,追赶着开发自己的AI聊天机器人Bard。

微软一直在努力将自己的AI研究转化为能够产生收入的产品,已经向OpenAI投入了数十亿美元以获得其技术,使得OpenAI成立7年估值超200亿美元。

从技术展望来看,通用人工智能(AGI)系统将比ChatGPT先进得多,能够做从开创性研究到创办公司的所有事情。布罗克曼看好这一技术的前景,将和团队继续加紧研发。他说:“如果我们认为我们今天思考问题的方式会在五年后保持不变,那就太天真了。”

01.ChatGPT的诞生:追溯到DOTA2游戏项目,总裁游走“搅局”

一款产品的成功不是一个人的功劳,但往往有一个能力卓绝的人在主要推动。在ChatGPT产品的成功背后,人们知道有近百个全球顶尖科学家和工程师作出贡献,但鲜少听说幕后推手如何掌控全局。

1、AI游戏软件项目,为ChatGPT提供研发项目范本

2017年,OpenAI还是一家50人的非营利组织,时任OpenAI首席技术官的布罗克曼担心被谷歌旗下的DeepMind等对手甩在身后,因此他带头发起了一项计划:让OpenAI的研究人员和工程师协作,开发出可以玩复杂在线战斗游戏DOTA2的软件OpenAI Five。

前OpenAI员工说,两个团队的职责相似——研究人员专注于训练新模型,而工程师则开发软件让这些模型工作,但在OpenAI的其他项目上,这两个团队之间的关系一直很紧张,这是科技公司内部普遍存在的一种状态。经过几个月的通宵工作,他们的软件最终在游戏中取得了成功,到2019年初,它在数千场游戏中击败了世界上最高阶的人类DOTA2玩家。

这一计划的成功迅速引起了游戏和技术界轰动,并成为ChatGPT项目的模仿范本。

v2_9f64a70678e04b75b7e06da1890a7122@453363432_oswg42942oswg1080oswg735_img_000

2、“游走”总裁:ChatGPT产品化的第一推手

接近布罗克曼的人称,布罗克曼是为推动ChatGPT项目中各类技术人员实现合作贡献最大的人。

ChatGPT的魔力不在于技术研发的重大突破,而在于将象牙塔里的AI技术用到了执行现实世界任务中去。与布罗克曼同为OpenAI董事会成员的问答网站Quora CEO亚当·德安吉洛(Adam D 'Angelo)说,过去的AI研究都大多在实验室里,要把技术转化为产品很难,布洛克曼是那个让AI成功产品化的人。

虽然OpenAI的CEO萨姆·阿尔特曼(Sam Altman)是公司的形象代表,但34岁的布罗克曼是该公司的秘密武器。他是OpenAI的总裁,但没有直接下属,这让他摆脱了通常的管理苦差事;相反,他在接受The Information采访时表示,他80%的时间都花在编程上。

阿尔特曼说:“格雷格有很强的能力,既能看到技术问题每一部分的极致细节,也能看到每一个层面的重点,然后还能非常战略性地思考如何把所有的部分组合在一起。”

布罗克曼是一个“流动员工”,在不同的团队之间游走,设定目标,并推动他们提高软件开发效率。然后,他会转向新的项目,把这些项目交给经理管理。布罗克曼说:“我一直在‘搅局’。”

v2_3d05f3f463714ce69154ebe8df7426a3@453363432_oswg70257oswg1080oswg608_img_000

▲格雷格·布罗克曼

3、是1顶10的工程师,但也引起OpenAI代码混乱

布罗克曼的做法也难以避免地带来了一些弊端。两名与布罗克曼共事过的人说,在他自己编写了项目的关键部分后,其他OpenAI工程师可能需要几个月的时间才能弄清楚布罗克曼是如何解决技术问题的。其中一名知情人士说,2022年初,布罗克曼坚持从头重写该公司用于训练模型的一个主要软件,迫使OpenAI的其他员工不得不去适应新系统。

布罗克曼承认,自己插手项目,通过命令改变团队的优先事项来否决其他经理,可能会惹恼同事。他说,他已经在提高人际交往技巧,以学会少惹同事生气。“我工作方式的失败之处可能是让人感觉受到了打击。”

尽管如此,布罗克曼的影响力解释了为什么其他人尊敬他。

与他共事过的人形容布罗克曼是典型的“10X工程师”这是硅谷俚语,指的是比普通员工多产10倍的程序员。

阿拉温德·斯里尼瓦斯(Aravind Srinivas)曾在谷歌和OpenAI工作,去年创立了人工智能搜索引擎Perplexity。他直言不讳地描述了这位前同事的影响力:“OpenAI工作最努力的人是格雷格·布罗克曼,他将编码、产品决策和团队争论结合在一起,这在科技界是罕见的。谷歌没有这样的人!”他说。

02.OpenAI初创业时代:从麻省理工辍学,谋划对抗谷歌技术垄断,成为问题解决者

布罗克曼来自哪里?为什么有如此的卓绝能力?这要从他的成长经历说起。

1、从麻省理工辍学创业,曾在中国学编程

布罗克曼在一个靠近明尼苏达州边境的一个人口约1100人的小镇长大。作为红河高中的学生,他在2006年国际化学奥林匹克竞赛中获得了银牌,在高中10年级时数学课程经达到极限,而后开始在大福克斯的北达科他州大学学习。

布罗克曼说:“我的校长要求我在高中每学期上三门课,然后我可以在大学里上任何我想上的课。”

2008年,布罗克曼进入哈佛大学,计划主修数学和计算机科学,在俄罗斯和中国度过Gap年期间学会了编程。但当他觉得自己无法从学校的同学那里学到更多关于软件的东西时,他就从哈佛退学了。他转到麻省理工学院,认为那里的学生更了解软件。

布罗克曼的目标是成立自己的软件公司,之后他遇到了创业家帕特里克和约翰·科里森(Patrick and John Collison),支付公司Stripe的创业者,跟他一起干。

2010年的一个周四,布罗克曼从麻省理工学院辍学,并于下一周的周一登上飞机,前往旧金山加入科里森夫妇的公司。布罗克曼在Stripe工作了五年,最终成为该公司的首席技术官。在此期间,Stripe经历了爆炸式增长,成为科技行业最有价值的初创公司之一。

v2_3899d0faa1e14411b1ae912714330ad2@453363432_oswg35167oswg1080oswg439_img_000

▲格雷格·布罗克曼

2、2015年瑰丽酒店晚宴,结识OpenAI发起者

OpenAI的起源可以追溯到2015年底在瑰丽酒店(Rosewood Hotel)举行的一场晚宴,布罗克曼和十几位其他科技名人一起出席了晚宴,包括特斯拉首席执行官埃隆·马斯克(Elon Musk),以及当时的谷歌研究科学家伊利亚·苏茨克弗(Ilya Sutskever)和达里奥·阿莫代(Dario Amodei)。布罗克曼说,阿尔特曼是通过帕特里克·科里森(Patrick Collison)认识他的。

当时,阿尔特曼将该项目定位为Alphabet等AI技术巨头囤积的关键平衡力量。他认为,将先进的AI交到强大的企业利益集团手中,可能会导致一项技术只惠及少数人,而不是全人类。当时布罗克曼刚离开Stripe,对这个项目很心动。

OpenAI最早的支持者包括布罗克曼、阿尔特曼、马斯克、领英联合创始人里德·霍夫曼、Y Combinator创始合伙人杰西卡·利文斯顿和PayPal联合创始人彼得·蒂尔,他们共同承诺为这个新的非营利组织提供10亿美元的资金。

在OpenAI的早期,每个人的职责是不固定的,有时也很平淡和普通。布罗克曼上班的第一天,就在与OpenAI的联合创始人萨茨克弗和约翰·舒尔曼(John Schulman)的头脑风暴会上四处寻找一块白板,以便在上面写字。

3、成为“问题解决者”,极限优化AI系统速度和成本

布罗克曼说:“我只是一个解决问题的人,花几周时间找到第一个工程问题,而后成为这个问题的解决者。”

据两位相关人士透露,在OpenAI成立的头几年里,布罗克曼和萨茨克弗做出了大部分日常决策,布罗克曼管理初创公司的软件工程师,萨茨克弗监督研究人员。布罗克曼说,同时他在工作中一直在与阿尔特曼通电话。

布罗克曼公司必须解决的一个难题是,如何让研究人员和工程师从同样的角度出发去工作。内部人士称,一些OpenAI工程师低估了研究人员贡献的重要性,研究人员则把工程师视为技术人员而不是科学家。

但布罗克曼领导的DOTA2项目帮助打破了僵局。为了推动这项工作,布罗克曼与DOTA2的开发人员进行了数小时的电话交谈,以弄清楚如何让玩游戏的软件工作,这是一个技术挑战,因为游戏和OpenAI的算法是用不同的编程语言编写的,三位知情人士说。

前员工说,这些进步也将帮助布罗克曼成为OpenAI的生成式AI模型开发的关键人物。在谷歌的研究人员发表了一篇题为《注意力机制是你所需要的(Attention Is All You Need)》的研究论文之后,这些模型的研究工作也于2017年开始。这篇论文展示了一种名为“Transformer”的深度学习模型如何帮助人们更有效地构建更大的模型。

一位知情人士表示,虽然GPT主要不依赖于OpenAI的底层研究突破,但它帮助这家初创公司开发了一款不会因为数百万人使用而崩溃的产品。致力于优化OpenAI系统的速度和成本,布罗克曼称自己“痴迷于可以获得的每一点收益”。

v2_a03591c6a5744019a71bc53107d67f71@453363432_oswg53369oswg1080oswg697_img_000

03.AI军备竞赛打响:平息“理想和面包”之争,ChatGPT一战成名

ChatGPT的诞生并非一番风顺,而是一开始就伴随着激烈的内部分歧和不断的组织震荡。

1、研发成本翻番,非盈利的OpenAI面临压力

2017年底,马斯克在OpenAI的办公室召开了一次会议,表达了对OpenAI的担忧。

v2_23008e668d6e44948ef99fe9d638f13c@453363432_oswg840414oswg1080oswg598_img_000

▲埃隆·马斯克

据一位与会者透露,当时OpenAI进展缓慢,可能输给DeepMind。马斯克担心DeepMind的技术正处于加速到无法企及的边缘。

马斯克觉得,特斯拉是一家营利性公司,有能力筹到更多资金,因此能够更好地开发AGI。

一些OpenAI员工则认为,马斯克这样做会助长一场将速度置于安全之上的AI军备竞赛。大家都想率先抵达AGI。

纷争过后,马斯克于2018年离开OpenAI董事会。

尽管闹出过一些分歧,阿尔特曼和布罗克曼还是将特斯拉创始人的评论牢记在心,尤其是在训练AI软件的成本不断上升的情况下。

据此前报道,2018年OpenAI每年在谷歌云服务上的支出约为3400万美元,第二年支出直接翻番。

一位直接了解相关工作的人士透露说,有一次,仅DOTA2项目团队每月在计算能力上的花费,就超过200万美元,占其当时每月计算开销预算的90%以上。

但是要开发AGI,OpenAI需要更多的资金,多至数十亿美元。

2、ChatGPT项目引争议,副总裁带头离职

布罗克曼回忆说,他遭到了投资者的强烈怀疑,他们不愿将数百万美元投入研究性非营利组织,因为他们没有希望获得财务上的好处。“我们只是意识到这是不可能的,我们需要调整实体。”

结果,OpenAI于2019年3月创建了一家营利性子公司,有可能为外部支持者带来回报,但回报上限为初始投资的100倍。

阿尔特曼没有持有这家营利性部门的股权。布罗克曼说自己确实获得了股权,但没说具体持有多少,他的股份可能在一个方面限制了他对OpenAI的影响:他是OpenAI的董事会董事,公司的章程规定,在这家非营利机构的投资者和营利性子公司的投资者的利益可能出现分歧的情况下,只有没有财务股份的董事会成员才能投票。

在OpenAI内部,一些员工对创建营利性部门感到不安。一些人认为OpenAI正在放弃其开发不受企业影响的AI系统的理想。最终大多数人同意了这一改变,他们认为公司领导者正试图取得平衡,让OpenAI仍然负责任地追求其创建AGI的目标。

随着OpenAI不断完善GPT,它的一些员工已经对布罗克曼发布新产品的方法不再抱有幻想。例如,ChatGPT因散布错误信息和行为怪异而受到一些批评家的抨击。

2020年底,由OpenAI研究副总裁达里奥·阿莫迪(Dario Amodei)领导的一群员工离职,成立了一个名为Anthropic的竞争对手。

按布罗克曼的说法,与Amodei和其他Anthropic联合创始人的争论在于发布AI软件之前要等待多长时间的意识形态差异。布罗克曼更喜欢开放产品并通过客户反馈来改进它们。

3、ChatGPT突然成功,布罗克曼成OpenAI功臣

当ChatGPT于11月推出时,它的成功让布罗克曼措手不及。

“对我们来说,我们会查看所有的缺陷——它对这个不起作用,对那个不起作用,对这个不起作用——但你有点错过了一个事实,因为它对所有事情都很有用,实际上很多人会在它身上发现令人惊讶的效用。”他说。

科技行业正争相开发类似的聊天机器人。

Alphabet的两个AI实验室对手DeepMind和谷歌大脑首次开始合作,试图赶上OpenAI。3月,Anthropic发布了ChatGPT的竞争对手Claude。

同时,马斯克今年早些时候招募了DeepMind研究员Igor Babuschkin,以在马斯克拥有的另一家公司Twitter内推出一个新的“anti-woke”AI实验室。

布罗克曼也在继续推动OpenAI的产品向前发展。3月,他对OpenAI演示了最新的AI模型GPT-4,展示了这个先进模型如何仅根据网站设计的粗略草图为网站生成代码。

“如果没有他的参与,我认为整个项目的质量不会达到这种水平。”阿尔特曼说。

v2_9cf90052bf03447285733bfe7eb8fd2c@453363432_oswg90037oswg1080oswg540_img_000

04.结语:穿越迷雾,OpenAI成AI创业范本

随着ChatGPT一战成名,很多人开始关注背后OpenAI成功的奥秘。从The Information的讲述我们看到,这家创企实际上也面临和众多AI同行一样的问题,包括技术和产品团队磨合、理想与面包的矛盾等等,过程也很艰辛。

OpenAI的成功有其自然的必然可解释的原因,能力超群而有定力的领导人是其中一个原因,组织、资本层面的因素也同时起作用,这也为国内AI创业提供了参考。

来源:The Information

该文观点仅代表作者本人,36氪平台仅提供信息存储空间服务。


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK