OpenAI动荡的五天:利益战胜了理想

彭新2023-11-26 08:55

就在阿尔特曼(Sam Altman)在拉斯维加斯出席上周末的体育盛会——F1大赛时,收到了一条谷歌会议链接。

点开这条链接之前,阿尔特曼像一位摇滚明星般被世人瞩目。一年前他所在的公司OpenAI发布了ChatGPT、彻底敲开了AI时代的大门后,阿尔特曼一直在公开场合露面——举办发布会,开启公司宏大的商业化进程;与各国政要会面,确定全球AI政策议程;他还将敲定一笔融资,对OpenAI的估值将达到860亿美元,是今年早些时候的近三倍。

回到酒店,他加入了会议,发现公司董事会成员都在盯着他。不妙的是,自己最亲密的盟友、OpenAI董事长、CTO布罗克曼(Greg Brockman)也不在场,董事会成员、OpenAI首席科学家伊利亚·苏茨克韦尔(Ilya Sutskever)告诉阿尔特曼,他被解雇了,这个消息很快就会传出去,关于阿尔特曼为何解雇并没有任何解释。

随后,就是那份震惊世界的公告。

OpenAI在官网公告中称,罢免阿尔特曼符合公司的使命。这是在董事会经过慎重审查之后得出的结论,阿尔特曼在与董事会的沟通中“始终不坦诚”,阻碍了董事会履行职责的能力,因此董事会不再对他继续领导OpenAI的能力抱有信心。同时,布罗克曼从董事会中除名,但继续担任公司职务。

消息公布后,错愕的布罗克曼愤然宣布离职。他在社交媒体上说,“我对8年前从我的公寓开始这一事业(OpenAI)感到骄傲,我们一起经历了低谷和高光,克服了许多困难,但得知今天的新闻后,我退出(I quit)。”

OpenAI原董事会成员包括阿尔特曼、布罗克曼、伊利亚、问答网站Quora首席执行官Adam D'Angelo、Tasha McCauley以及Helen Toner组成。在罢免阿尔特曼的行动中,有四位董事支持这一决定。

在OpenAI故事的起点,参与各方曾期待实现一个实现各自抱负的宏伟蓝图,但8年后,最新一幕却是一场令人惊讶的风波。它不是“茶杯里的风暴”,而是牵动着人工智能世界的未来。

五天后,风波暂时平息。11月22日,OpenAI表示,阿尔特曼将在被董事会解雇几天后,重新担任公司的首席执行官,并组建由布莱特·泰勒(Bret Taylor)、拉里·萨默斯(Larry Summers)和亚当·迪安杰罗(Adam D'Angelo)组成的新董事会,泰勒将担任董事会主席。

新董事会已接手公司,其中布莱特·泰勒为Facebook首席技术官,他还曾担任全球知名SaaS公司Salesforce的CEO和Twitter董事长;拉里·萨默斯是著名经济学者,曾任职美国前财长;亚当·迪安杰罗是此次事件发生前OpenAI的董事会成员、问答网站Quora的首席执行官。OpenAI还表示,各方正在努力“合作厘清细节”,在五天前参与罢免阿尔特曼的四名董事会成员中,有三名不会成为初始董事会成员。

“如果你看现在这个董事会的组成,应该说这就是各方的最大公约数,是结束现在这场’政变’的最大公约数。”一位关注此事的科技业观察人士称,台面上的冲突暂告一段落,但未来博弈依旧还未结束。舞台将转至公司内部,阿尔特曼仍未掌握董事会,OpenAI最大的投资方微软也未列席其中,甚至数天前选择支持解雇阿尔特曼的亚当·迪安杰罗还依旧名列新董事会成员名单,这家科技公司的未来仍不太确定。

而曾坚决要求将阿尔特曼从公司中清理出去的OpenAI首席科学家伊利亚,目前处境微妙。在事件中,他的态度曾发生大幅反转,“我从未有意伤害OpenAI,我爱我们一起创造的一切,我会尽可能使公司团聚。”他在社交媒体上说,并在一封超过700名OpenAI员工联署公开信中参与署名,指责原董事会的行为已表明董事会没有能力监管OpenAI,并要求原董事会辞职。

被激怒的OpenAI投资人也向原董事会施压,要求召回阿尔特曼重新担任公司CEO,包括微软、兴盛资本(Thrive Capital)等OpenAI投资方均在积极撮合阿尔特曼。微软甚至表示,若阿尔特曼无法回归,将会加入微软并领导一个新的先进AI研究团队,并欢迎OpenAI离职员工加入。

董事会联合罢免管理层,却遭到大多数股东和员工集体反对,导致公司陷入僵局,是商业史上罕见的一幕。一来一回的事态发展,更将OpenAI内部隐藏的矛盾彻底踢爆,业内一片哗然。

阿尔特曼则是责怪自己没有更好地管控董事会,他认为董事会被一些过度关注AI安全并受“有效利他主义”影响的人接管了,这些恐惧失控的AI可能会对人类生存构成威胁的董事会成员们,对于公司前景并不是特别关心。

从2015年成立,到之后陷入罢免创始人风波,OpenAI呈现了人工智能加速时代下,一家理想主义公司的崎岖命运。

OpenAI的成立,最初是多方共识的结果。

阿尔特曼与埃隆·马斯克、领英创始人里德·霍夫曼等几位科技领袖于2015年底组局成立了OpenAI。带着10亿美元的投资承诺,OpenAI目标是开发“通用人工智能(AGI)”技术,希望实现这一目标以造福人类,并将专利和研究成果全部开放。

从0到1的发展过程中,OpenAI的进展缓慢而烧钱,早期的目标是让AI能够掌握一款名为《刀塔2》的电子竞技游戏,因为他们发现最有前途的技术路线需要海量数据和大量计算资源,亟需大笔资金才能运作。那时,还在为创业加速器YC工作的阿尔特曼,角色变得重要了起来。

2019年初,阿尔特曼辞去YC总裁的职务,接手已经运转4年的OpenAI。他在OpenAI做的第一件事,就是组建子盈利公司,然后自己担任首席执行官(CEO),寻找融资。

阿尔特曼没有要求获得OpenAI的股份,在最新的一轮内部冲突使得阿尔特曼处于不利位置之前,他在OpenAI的地位与他的创始人身份、以及其和硅谷的深厚关系有关。

期间,阿尔特曼和马斯克之间出现过裂痕。随着特斯拉销量激增、加大了人工智能研究投入,马斯克便退出OpenAI董事会,称双方有“利益冲突”。

OpenAI的潜力迎来了微软的注意,2019年7月,微软宣布将向OpenAI投资10亿美元。阿尔特曼在随后的一次活动中透露,微软投资的10亿美元是现金,而不仅是OpenAI使用微软Azure云计算服务的使用额度。后来,微软可能累计向OpenAI投资了超过130亿美元,成为OpenAI最大的投资人。

即使如此巨额的投资,也没有让微软在日后OpenAI的公司治理中保有足够的话语权。一方面,OpenAI制定了复杂的财务设计来保证非盈利初衷:董事会下设非盈利组织OpenAI Nonprofit,该组织全资拥有一家“有限盈利公司”,该实体有权控制和管理营利性子公司。

此外,投资者最多只能获得其初始投资本金100倍的投资回报。OpenAI不向投资者分配股权,而是分配不涉及所有权的未来利润,微软仅是这家“有限盈利公司”的少数股东,并无决策权。

简单来说,一个非营利董事会控制着OpenAI公司的运营,并能够更换其领导层。

后来,即使是阿尔特曼自己,也承认这一架构非常奇怪(可能也是马斯克退出的原因之一),在OpenAI做最新一轮融资时,一些潜在投资者被其复杂的结构吓退了,它后来也导致了阿尔特曼短暂下台。

把阿尔特曼赶走的OpenAI原董事会,过去一年也不稳定,它先后失去了三位董事会成员,其中最引人注目的是里德·霍夫曼。里德·霍夫曼将自己创办的职场社交平台领英卖给微软后,对于创建OpenAI营利性子公司的计划一直是主要支持者。其他离开的OpenAI董事会成员还有脑机接口公司Neuralink高管Shivon Zilis和美国德州前众议员Will Hurd。

外界认为,过去一年OpenAI董事会的变动,使得该机构倒向学术派和外部人士,“他们对阿尔特曼及其愿景的忠诚度没那么高。”《华尔街日报》称。

特殊的非盈利目标和与“奇怪”的公司架构设计,让OpenAI有了一种崇高的使命感,获得了独立发展的空间,但这种架构极不稳定,也为矛盾埋下种子——在在这家公司逐渐变得利益牵扯众多、诉求各异的过程中,一旦环境发生变化,暂时的稳定状态被打破,事态走向不可控制。

OpenAI的特殊性在于,它的董事会不需要向投资人负责,而董事会成员更关心公司的使命、愿景、价值观是否实现。这也是原董事会一再坚定要求解雇阿尔特曼的原因,因为阿尔特曼失去了董事会的信任,即他没有领导OpenAI去构建造福人类的通用人工智能。

原董事会随后向OpenAI员工解释称,这是一个治理问题,是董事会如何履行职责并推进OpenAI使命的核心问题,他们的目的很明确:换掉阿尔特曼。

在这场政变式的公司动荡前,OpenAI内部曾发生过一次严重的内部不和。

2021年,当OpenAI前员工Dario Amodei、Daniela Amodei等人愈发担心公司变得过于商业化,并在安全问题上与OpenAI管理层发生冲突后,他们选择离开,成立了对手企业Anthropic。

Anthropic的几位联合创始人在OpenAI看到,只要为AI模型提供更多的数据和计算能力,就能让模型变得更智能,而不需要对模型底层架构做出重大更改。这让他们担心,当模型越来越大,便会触及某种危险的临界点。

用阿尔特曼的话说,Dario Amodei等人出走创业的最大动机之一是对如何获得安全的生成式人工智能与OpenAI不同,分歧主要发生在2019年OpenAI拿到微软投资以后,过快的商业化进展超过Anthropic创始团队的预期。

"作为OpenAI的安全团队,我们关注到的是,在训练大型语言模型和生成模型时,把安全放在首要位置。"Daniela Amodei说。为了保障其理想主义式的研究,Anthropic已注册为一家治理结构特殊的公益公司, 这种法律结构使其免受市场压力影响。

目前,Anthropic被普遍认为是OpenAI的“最强对手”,他们也被视为人工智能行业早期理想回荡至今的具象。

对比来看,从这次“政变”具体操作上,OpenAI董事会和阿尔特曼看起来是仓促地进入了风暴。

很多年来,在硅谷,一个由人工智能研究人员和活动人士组成的圈子一直发出警告:人工智能系统正变得过于强大,失控的人工智能可能会对人类的生存构成威胁。

通用人工智能的发展正在逐渐加速。2015年的时候,还有业界专家指出,担忧AI对人类的威胁就像“担心火星上人口过剩”,八年之后,这个威胁确实变得更明显了。

这使得人工智能末日论者和有效利他主义者正逐渐走向主流,他们公开呼吁,警告监管机构认真对待人工智能安全问题。受这些观念影响的就包括一些OpenAI原董事会成员,直到上周五,他们扳倒了世界顶级人工智能公司的首席执行官。

导致原董事会决定罢免阿尔特曼的并不是某一具体事件,而是随着时间推移,信任在流失,这让他们越来越感到不安。此外,阿尔特曼不断增加的AI相关外部投资项目也让事情变得更加复杂,这让董事会对OpenAI如何使用自己的技术产生了疑问。

但原董事会按照自己的主张取得了部分成功,他们担心阿尔特曼在建立功能强大、可能有害的人工智能系统方面进展过快,于是阻止了他。这对于他们的追求来说是一场胜利,即使这是以牺牲公司为代价。

反噬也是巨大的,因为他们未能赢得OpenAI员工的支持。如果OpenAI最终因阿尔特曼被解雇而受到无法弥补的伤害,人们会指责原董事会破坏了硅谷最有前途的初创企业之一,无法在理念上的妥协, 将导致公司架构的持续性将受到威胁。

在阿尔特曼回归后,OpenAI的做法可能照旧,两种观点之间的斗争似乎结束了。在接下来的几个月里,新董事会有很多工作要做。他们需要再次来扩大董事会,探索对OpenAI的治理结构进行实质性变革,包括微软在内的投资者和高管都期待一种新的制衡机制,来限制董事会突然赶走创始人,最终危及数以十亿美元计商业利益。但他们不再会具有否决权,也不会像过去的董事会那样有能力立即关闭公司。

但这不是原董事会在推动OpenAI“政变”时想象的场景。推动政变的伊利亚·苏茨克韦尔等原董事会成员,对人工智能既恐惧又敬畏,担心人工智能技术超出人类的控制能力,希望将技术的破坏性影响降到最低。

最终,企业利益战胜了对未来的担忧,人工智能作为一项有可能引领第四次工业革命的技术,不太可能长期被那些想要减缓其发展的人所控制。《纽约时报》感叹“人工智能现已属于资本主义”。

我们正在加速冲向风险吗?

来源:界面新闻 作者:彭新

版权与免责:以上作品(包括文、图、音视频)版权归发布者【彭新】所有。本App为发布者提供信息发布平台服务,不代表经观的观点和构成投资等建议