“商业派”控制OpenAI董事会 人工智能失控风险增高

首页 > 观点 >正文

【摘要】“科学派”选择了自我放逐

  财经光年  ·  2024-07-05 17:30
“商业派”控制OpenAI董事会 人工智能失控风险增高 - 金评媒
来源: 财经光年公众号   

近日,苹果 App Store 首席执行官、前营销总监 Phil Schiller 作为苹果公司代表正式加入 OpenAI 董事会。据彭博社报道,苹果公司获得的是OpenAI 董事会观察员席位,可列席董事会会议,但没有投票权,也不能担任董事。

“以全人类受益为初衷”


OpenAI董事会的结构非常特殊。为保持非营利组织的核心使命、治理和监督,同时筹集资金,OpenAI在2019年设计了一个以非营利组织为核心的管理实体(OpenAI GP LLC),该实体有权控制和管理OpenAI项目的营利性子公司。在OpenAI的安全和广泛利益的指导原则下,子公司通过参与研究、开发、商业化和其他核心业务来实现OpenAI非营利组织的使命。

在此结构下,OpenAI董事会被赋予了足够大的权力。董事会作为OpenAI所有活动的总体管理机构,管理和监督所有活动,同时决定OpenAI何时达到、是否达到AGI的目标。


图片2.png

按照“非营利组织的主要受益者是人类,而不是OpenAI投资者”的原则,投资者和员工的利润被设置了上限,超出上限的所有剩余价值将退还给非营利组织。此外,董事会保持多数独立,独立董事不持有OpenAI股权,即便是作为CEO的萨姆·奥特曼( Sam Altman )也不直接持股,而是通过他担任董事长的Y Combinator间接投资。

这一独特的公司治理架构在去年11月发挥了作用。2023年11月17日,OpenAI董事会发布公告解雇联合创始人兼首席执行官萨姆·奥特曼( Sam Altman )。外界都以为萨姆·奥特曼( Sam Altman )拿了当年乔布斯的剧本时,没想到这位年轻人竟然风光回归。

有媒体称:


 

在全球科技商业历史中,或许很难找出第二家企业,在短短五天内换了四任CEO,OpenAI做到了。

事件平息后,OpenAI董事会重新改组,从六人变为三人。如今,OpenAI的董事会包括:初始成员Adam D’Angelo、Larry Summers、Bret Taylor、Sam Altman;三月份加入的前比尔和梅琳达·盖茨基金会首席执行官Dr. Sue Desmond-Hellmann、前索尼全球执行副总裁兼总法律顾问Nicole Seligman、Instacart首席执行官兼主席Fidji Simo、美国退役陆军上将Paul M. Nakasone。

而来自微软的Dee Templeton和此次加入的代表苹果公司的Phil Schiller,拥有两个无投票权的观察员席位。



科学派被“流放”


发展至今,围绕OpenAI的“宫斗”、“逼宫”、“政变”、“流放”从未间断。归根结底终究是OpenAI掌控的资源过于强大,而内部在非盈利的崇高目标与追求利润的商业现实之间的反复摇摆。与此同时,OpenAI团队对于人工智能技术发展路线的不同主张和理念冲突,也进一步加剧了公众对AI安全性的担忧。

埃隆·马斯克(Elon Musk)是OpenAI的联合创始人和早期投资人,也是最早与OpenAI团队产生分歧的科技大佬。马斯克在OpenAI成立之初投入了大量资金和精力,希望通过这个平台推动人工智能技术的发展。但随后OpenAI的发展方向和管理方式逐渐偏离了马斯克最初的愿景。2018年,马斯克带着他的资金,愤然离开OpenAI。

此后多年,马斯克对OpenAI的发展一直保持高度关注,经常在社交媒体上公开表达他对OpenAI转向商业盈利和闭源模式的不满情绪,对OpenAI与微软的合作更是一幅冷嘲热讽的态度。今年2月底,马斯克在美国加州旧金山对OpenAI及其CEO萨姆·奥特曼( Sam Altman )等人提起诉讼,指控他们违反了他在2015年帮助创建这家人工智能研究公司时订立的合同协议。不过在几个月后,马斯克主动撤销了对OpenAI及其首席执行官萨姆·奥特曼( Sam Altman )等人的诉讼。马斯克的律师在文件中并未解释撤回诉讼的原因。

2021年,OpenAI前研究副总裁丹妮拉·阿莫代(Daniela Amodei)及一些成员,由于对OpenAI商业化、与微软的关系、对安全的重视程度等与公司其他成员产生分歧,愤而离开公司。随即丹妮拉·阿莫代(Daniela Amodei)和妹妹达里奥·阿莫代( Daniela Amodei) 创立Anthropic。该公司一跃成为OpenAI最强劲的对手之一,更是于上月发布了Claude 3.5 Sonnet,各种参数指标均超越了ChatGPT-4o。(详见报道:AI原教旨主义公司Anthropic发布Claude 3.5 Sonnet

今年5月15日,OpenAI首席科学家、联合创始人Ilya Sutskever宣告离职。据报道称,Ilya Sutskever对萨姆·奥特曼(Sam Altman)急于推出人工智能产品,而忽视安全工作的决策感到失望。所以在去年11月,Ilya 与其他董事会成员共同推动了CEO 萨姆·奥特曼(Sam Altman)的罢免,虽然最终改变了主意,但这一事件在公司内部引起了不小的震动。

在首席科学家Ilya宣布离开OpenAI后,“超级对齐”团队的另一名负责人Jan Leike在5月17日也离开了OpenAI。Jan Leike在X上连发多条内容,发表了自己的离职感言,OpenAI不重视安全问题。并与5月29日宣布正式加入Anthropic,继续执行超级对齐任务。(详见报道:AI原教旨主义公司Anthropic发布Claude 3.5 Sonnet

OpenAI 2015年创立至今不足10年,从最初的非盈利转为有限盈利,商业派和科学派之间的矛盾一直非常激烈。前者迫切希望通过商业化手段来推动人工智能技术的高速发展,而后者则一直对人工通用智能(AGI)对人类文明的影响充满忧虑。虽然开发出ChatGPT这样杰出的人工智能产品,但是OpenAI的核心矛盾仍未得到有效解决。

随着商业资本不断进入OpenAI董事会,两方的矛盾越发不可调和。悲观者认为随着科学派完全退出OpenAI的决策层,人工智能失控的风险正在不断提高。


来源: 财经光年公众号

上一篇文章                  下一篇文章

财经光年

评论:
    . 点击排行
    . 随机阅读
    . 相关内容