复盘OpenAI“五日事变”: 分歧与对齐

高杰2023-12-02 10:54

高杰/文

11月中下旬的五天之内,全世界围观的人工智能顶级超新星公司Ope-nAI“政变”大戏暂时落下帷幕,起初被突然罢免的创始人、CEO萨姆·奥特曼(SamAltman)经过多轮反转与博弈“王者归来”,重新担任CEO,董事会成员被重新调整或改组,主要反对与驱逐他的“执剑人”首席科学家伊利亚·苏茨克维(IlyaSutskever)重新支持了奥特曼,其他两位董事会成员出局。

那几天美国睡眠监测应用EightSleep披露了一个数据,称旧金山地区睡眠不足的用户突然增加了27%,其实不止旧金山,全球科技界、创投圈以及各行业人士都在以X平台(前推特)为主的社交平台上无时无刻地关注这次OpenAI的宫斗大戏,突然性强、反转次数多、顶尖公司的内斗商战等各种吸睛戏剧元素齐聚,比很多商战影视剧都精彩,也难怪受到全世界的关注。

短短5天时间,微软CEO纳德拉、前OpenAI创始人马斯克等科技大佬与OpenAI纷纷下场参与或表态,投资机构与各路资本下场介入或施压,OpenAI创始人、董事会成员乃至家属纷纷进行调停、博弈与谈判,经过多方介入与多伦反转,最终OpenAI的3位核心成员(总裁、CEO与首席科学家)达成和解,形成现在的权力重塑与回归运转。

这次事件势必会成为人工智能及其治理发展史中的一个里程碑事件,通过此次“事变”重新调整了OpenAI的权力架构与治理结构,管理者、董事会、投资人、资本与各方利益集团实现了“利益公约数”的博弈,该组织通过跌宕起伏的迭代与重塑,继续向着推进人工智能发展与惠及全人类的目标使命前进。

理念分歧

这次“五日事变”的导火索事件是,OpenAI突然发布公告称其创始人兼CEO奥特曼将卸任CEO之位和董事会席位,给出的解释是说他在与董事会的沟通中并不始终坦诚。

事实上多数人都不太会相信这种单方面与模糊不清的简单原因,包括X平台(前推特)大股东马斯克、微软总裁纳德拉等多位大佬也纷纷介入与发声,当然此次事变整个过程,X(推特)作为主要平台与微软作为主要投资机构都成为了受益者,所有事变的参与人和关注者都通过X平台来获取一手消息,通过此次事变,微软对于OpenAI的影响力与话语权大增,股价也迎来了上扬。

作为企业组织的商战内斗,很多表象原因与证据似乎指向的是高层、股东、董事会内部的利益冲突与矛盾斗争。比如在此前OpenAI的初创阶段,蜜月期的联合创始人马斯克与奥特曼合作挖来首席科学家苏茨克维共同成立非营利组织,来推动人工智能技术更好地造福人类,后来因为马斯克试图削弱奥特曼的权利,后续还想把OpenAI并入特斯拉、由自己担任CEO,遭到公司反对,随后马斯克削减投入与撤销注资,最终与OpenAI管理层决裂而离去。但其实曾是好友与创业伙伴的二人之间的深层矛盾,可能更多还是源于马斯克与奥特曼在OpenAI发展理念上的分歧,以及两人对人工智能快速发展所伴随的社会风险观念的认知不同。

回到此次“五日事变”伊始,前OpenAI创始人马斯克曾表示苏茨克维有非常好的道德原则并且不寻求权力,除非他觉得绝对必要,否则不会采取如此激烈的行动。

此前马斯克表达过对AI的担忧,部分科技媒体也有报道,在奥特曼被罢免之前,几名公司研究人员向董事会发出了一封信,警告称某项强大的人工智能(AI)发现可能威胁人类。据财联社报道,消息人士表示,这封此前未被报道的信件和AI算法是导致OpenAI董事会罢免奥特曼的催化剂。他们称,董事会对奥特曼的诸多不满导致后者被解雇,而这封信是原因之一。

但从这次事变的突然发生到相对稳妥、皆大欢喜的结局来看,争议更多地源于奥特曼和苏茨克维的发展路线之争与理念分歧,而非双方单纯的商战与不可调和的利益冲突。

超级对齐

当然事变的发生不可避免也有商业利益、控制权等因素在内,但更多地还是源于双方关于AI技术发展与风险的理念分歧,相同点是二人作为创始人都未以营利或利益最大化为倚重目标,个人几乎没有通过OpenAI攫取较多股权、利益或较大收入,都是醉心于OpenAI的发展与影响,这也是二人最终能达成妥协与共识的关键,都是好友与联合创始人,分歧更多在于对AI技术突进、商业化与技术风险控制的不同考量。

有关科技与人类关系的发展,在近年的硅谷与全球科技界,有两种理念与主义的分野:“有效加速”(effectiveac-celeration)与“有效利他”(effectiveal-truism)主义之间对于科技进步与人类影响的看法不同。

简单来说,有效加速主义主张无条件地加速技术创新并快速推出,颠覆社会结构,而这种对社会的颠覆风险,本质上对人类有利,过去三百年人类随着技术的颠覆而进化的结果已经证明。

而有效利他主义有着一套复杂的全新的世界观体系,核心可以用哲学家PeterSinger的思想来概括,即“在维持基本生存以外你花的任何一笔钱,都是以另外一个人的死亡为代价”,该运动的领袖、牛津大学哲学系助理教授MacAskill将其进一步归纳为:如果有人因极度贫困而死去,就相当于你亲手杀死了他们。

这两种理念与主义在硅谷与科技界、创投界都分别有着不少拥趸,比如人们可能更多会认为作为特斯拉与SpaceX的创始人马斯克更侧重有效加速主义,但他公开表示MacAskill的理念“非常符合他的哲学观”,而且在OpenAI初创期与奥特曼的分歧,以及现在“五日事变”前后对于苏茨克维的关心,都表明马斯克在科技价值观与发展理念方面,更侧重于关注技术风险与人类福祉。

具体到AI技术与AGI应用的快速发展,两种理念的分歧与对立在OpenAI这里则表现为,以奥特曼一方为代表的促进GPT快速发展迭代、公开推广、不断融资的“有效加速主义”(effectiveacceleration),与以苏茨克维一方为代表的关注AI技术风险并“要求AI系统的目标要和人类的价值观与利益相对齐”的“超级对齐”(Super-alignment)的理念分歧。

苏茨克维作为“深度学习之父”GeoffreyHinton的学生,一直以来保持着和“打开潘多拉魔盒”的老师相似的观点,担心AI不受控制危害人类,自己所主导推动的超级对齐理念与项目,本质是“Super-LOVE-alignment”(超级“爱”对齐),希望把对人类的爱注入到AI发展的基因与价值观塑造之中。

不管OpenAI是否如部分传言所说已经开发出威胁到人类的技术,或者发现AGI技术已经具有意识等内容,根据已知的确切消息与证据,我们可以确定AGI技术在快速发展,ChatGPT也在快速迭代,比如奥特曼被OpenAI董事会解雇前一天在旧金山出席亚太经合组织(APEC)首席执行官峰会时表示,OpenAI最近取得的一项历史性技术进步与前沿突破令人振奋。而今年六七月份,苏茨克维成立了OpenAI内部面对更深层次AI安全挑战的核心团队“超级对齐”,未来四年内希望使用20%现有算力研发更多上游AI安全技术,他表示,OpenAI首要任务不是制造下一代GPT,而是研究如何阻止超级AI失控;10月接受《麻省理工科技评论》采访时,苏茨克维表示和GPT对话时,能感受到“意识”的涌现。

随着奥特曼加速GPT研发迭代、不断融资支撑算力与公司发展,以及苏茨克维强调风险防范并推动超级“爱”对齐项目,双方对于OpenAI的发展路线之争与理念分歧就不可避免了。

当然,事变的相对平稳落幕,代表着OpenAI在权力重塑与自我进化的路途中,奥特曼的有效加速主义与苏茨克维的超级对齐也在磨合前进。相信OpenAI未来发展的速度快慢与产品技术的具体呈现,会让我们进一步了解OpenAI的治理架构调整与理念主义融合的最新情况。

(作者系山东大学国际创新转化学院副教授,MBA/IMBA导师,管理学博士)

 

版权声明:以上内容为《经济观察报》社原创作品,版权归《经济观察报》社所有。未经《经济观察报》社授权,严禁转载或镜像,否则将依法追究相关行为主体的法律责任。版权合作请致电:【010-60910566-1260】。