繁體
  • 简体中文
  • 繁體中文

熱門資訊> 正文

OpenAI「政變」始末

2023-11-19 21:00

直到周五夜晚,OpenAI的聯合創始人、董事長兼總裁布洛克曼(Greg Brockman)還處於五雷轟頂之后的懵懂之中。他需要回顧一下,過去的24小時內,究竟發生了什麼。

一、「政變」 發生

上周的舊金山和灣區,洋溢在APEC首腦峰會的熱鬧氣氛中,尤其是兩位大國首腦相見,分外矚目。

OpenAI的聯合創始人、CEO奧特曼 (Sam Altman),周四那天出現在APEC的工商峰會上,晚上還參加了一個火人節的活動,大談AI與藝術。

他收到了另一位聯合創始人,首席科學家蘇茨克沃(Ilya Sutskever)的短信,約在周五中午談下。

周五中午,奧特曼打開了蘇茨克沃發來的Google Meet鏈接,發現除了布洛克曼之外,還有其他3位獨立董事。蘇茨克沃告訴奧特曼,他被炒掉了,而且這個消息會很快發佈。

官方聲明稱,因為對董事會不坦誠,奧特曼被免去了CEO和董事職位。奧特曼一小時后即在X上宣佈離開OpenAI,並稱稍晚會宣佈他下一步的打算。

12:19,布洛克曼收到了蘇茨克沃的一條短信,要求快速通個電話。4分鍾后,他也收到了一個Google Meet鏈接,點開之后,馬上就被告知,自己被解除了董事會的職務,但因為他對公司舉足輕重,還是保留了他的總裁職位。他還被告知,奧特曼被炒了,已經在官網上宣佈了。

官方聲明稱,布洛克曼將向臨時CEO Mira Murati匯報,她去年5月剛升任公司CTO。但布洛克曼聽到消息后,立刻宣佈辭職。

這件爆炸性的新聞,衝擊了整個公司,除了Mira。她在周四晚上已經知道,自己將接替奧特曼,擔任臨時CEO。OpenAI內部像是炸了鍋,Mira不得不安撫全公司,與微軟的合作將繼續。她轉述了微軟CEO納德拉和CTO斯科特(Kevin Scott)的表態,仍然對OpenAI保持「極度信任」。

當天晚上,三名高級人員辭職,他們是公司研究總監Jakub Pachocki,負責評估人工智能潛在風險的團隊負責人Aleksander Madry, 以及工作了7年的研究員Szymon Sidor。預計這個周末,OpenAI還將會有大批員工辭職。

如日中天的OpenAI,陷入創辦八年以來最大的危機。

二、安全與盈利之間的衝突

這一場OpenAI內部的「政變」,微軟居然事先一無所知,直到消息公佈前幾分鍾。可想而知,所有其他的投資人,也都矇在鼓里。

這暴露了OpenAI的非盈利與盈利雙層架構之間潛在的矛盾。最重要的投資方,無法在公司的治理上發揮作用。而現有非盈利部分的董事會,由於無人持股,6名董事採取一人一票制,潛藏了不穩定的風險。

OpenAI剛剛舉辦的開發者大會,加速了矛盾爆發。在OpenAI內部的「非盈利派」與「盈利派」之間,關係近來一直緊張。蘇茨克沃領導着公司的研發團隊,他代表的非盈利派強調安全,強調OpenAI的基本價值觀;而奧特曼所代表的盈利派強調加快發展,在開發者日那天,推出了定製GPT商店,並且提供給開發者API助手,啟動了與開發者分享收益的商業變現模式。

但激增的用户,很快超出了OpenAI的承受能力,奧特曼不得不宣佈暫停新的ChatGPT Plus用户註冊。這進一步增加了蘇茨克沃對安全的擔心。

事實上,在董事會中,以奧特曼和布洛克曼為一派,以蘇茨克沃和另一位董事Helen Toner為另一派,對於接下來發展的速度,意見分歧日益擴大,雙方漸行漸遠。

董事會其他成員在一些重大的戰略問題上,也與奧特曼意見相左。如奧特曼想從中東主權財富基金融資數百億美元,開發芯片挑戰英偉達。他還找過孫正義,想用軟銀的數十億美元投資,聯手蘋果前設計師Johny Ive,打造一家AI原生的硬件公司。

還有知情人士透露,蘇茨克沃們對奧特曼試圖藉助OpenAI的名聲籌集資金感到不滿,他們擔心新的業務可能不會採用合適的治理模式。

有報道稱,周四上午十點鍾左右,蘇茨克沃找到了另外三位董事,讓兩位技術人員向董事們說明了系統面臨的安全和穩定等方面的嚴重隱患,這個代表了董事會三分之二席位的會議,隨即做出了炒掉奧特曼的決定。

奧特曼的支持者稱之為一場「政變」。

三、董事會成員「缺乏經驗」

董事會用了三分之二的票數,即蘇茨克沃與三位獨立董事達成一致之后,做出了炒掉奧特曼的決定。但並沒有召開全體董事會議,而且這樣的董事會議,也沒有通知身為董事長的布洛克曼。公司的兩位最重要的創始人、CEO和董事長,根本沒有參會和投票的機會,各自在一次Google Meet會議里,就被趕出了公司。

「如果我放開説,OpenAI董事會就會追着要我所有股份的全部價值。」 「如果我放開説,OpenAI董事會就會追着要我所有股份的全部價值。」

OpenAI應該是當今最重要的一家非上市公司,我們看下做出這樣決定的董事會成員:

獨立董事Adam D’Angelo, Quora創始人,CEO。2018年4月加入董事會。他認為OpenAI要堅持非盈利,控制盈利上限部分,以保證不成為硅谷的另外一家科技巨頭。

獨立董事Tasha McCauley,今年纔開始擔任蘭德公司兼職高級管理科學家。之前她有過兩次不成功的創業,嫁給了猶太裔知名演員和創業者Joseph Gorden-Levitt。她積極參與「有效利他主義(Effective Altruism)」運動。

獨立董事Helen Toner,2021年9月加入董事會,喬治敦大學安全與新興技術中心(CSET)戰略與基礎研究資助主任。她以前是Open Philanthropy的一位政策研究人員,該機構曾向OpenAI捐款;加入智庫CSET之前,她曾住在北京,研究過中國的人工智能創新生態;該智庫在中美人工智能與地緣政治政策研究中發揮着重要作用。

Helen和Tasha,還都加入了英國的人工智能治理中心(GovAI),該機構關注的重點是通用人工智能系統可能對安全構成的威脅。

蘇茨克沃成爲了公司僅存的聯合創始人。他出生在俄羅斯,從以色列移民到加拿大,是深度學習之父Geoffrey Hinton的博士生,歷經DeepMind、Google AI、OpenAI,過去十年,他處於強化學習和深度學習的最前沿,並把通用人工智能推到了全新領域。

他主張在建立超級人工智能的過程中,建立起與人類的超級對齊(superalignment)。他正帶領團隊,動用OpenAI的20%的算力,力爭在AI變得比人類聰明前,從技術上建立內在的監督機制。他在最近的一次社交媒體上發言警告説:「如果你把智能的價值,凌駕於人類所有其他的品質之上,你就要承擔糟糕的后果。」

在董事會中,奧特曼與蘇茨克沃,就OpenAI如何在安全與賺錢之間平衡,發生了尖鋭的衝突。奧特曼主張推進商業化應用,試圖擴大OpenAI的業務範圍,並且張羅下一輪融資;而蘇茨克沃認為,要堅持研究安全和造福人類的通用人工智能,在盈利方面不能急於求成。

正是這四位OpenAI的董事,不由分説就同時趕走了另外兩位董事,而且是受到高度認可的聯合創始人,這在硅谷被許多創業者、投資機構詬病。

他們首先質疑這個董事會中,有成員缺乏經驗擔任這麼重要的一家公司的董事。與OpenAI早期的董事會成員,如馬斯克、領英創始人霍夫曼、以及硬科技投資人科斯拉(Vinod Khosla)等經典的硅谷創始人相比,目前的董事會偏弱,還被硅谷媒體説成有一些「有效利他主義」 的味道。

其次,這麼重大的事件,OpenAI的前任董事、最重要的投資人,都被矇在鼓里。尤其是微軟在OpenAI投入了上百億美元,就在消息發佈前幾分鍾才知道。更不用説其他投資人了,他們幾乎囊括了硅谷和全球最頂級的投資機構。

微軟CEO納德拉,立刻在博客上發表聲明:微軟與OpenAI擁有長期協議,可以使用一切(技術),將繼續與Mira合作,推進人工智能戰略。

四、治理架構的內在矛盾

不管因為什麼原因,奧特曼和布洛克曼是OpenAI最重要的締造者,他們已經成為自己設計的治理結構的犧牲品。

2015年,OpenAI是以非盈利機構的身份成立的。它的目標是建立一個達到和超過人類水平的、開放的和造福人類的通用人工智能系統。

后來,因為包括馬斯克等人承諾的10億美元資金,僅到位1億多美元,先進算力與一流人才的成本巨大,公司研究與運營難以為繼,決定成立一家盈利性質的子公司OpenAI Global LLC,它由非盈利的OpenAI 完全控制。

OpenAI Global 可以對外融資,但為投資者設定了一個利潤分配上限。據媒體披露,OpenAI的利潤分配可以被劃分爲四個階段:產生利潤后,先讓馬斯克等的首批投資者退出;后續利潤的75%分配給微軟,直到微軟收回其130億美元的投資;在利潤達到920億美元之后,微軟的持股比例下降到49%,剩余部分利潤由其他風險投資者和OpenAI的員工分享;當利潤達到1500億美元之后,微軟和其他風險投資者的股權將無償轉讓給OpenAI的非營利基金。

其中最重要的投資者當然是微軟,在2019年、2021年、2023年三次投資OpenAI,累計投資上百億美元。但從最終意義上看,微軟並不擁有任何OpenAI的股權,而更像是一個商業合作伙伴,包括微軟可以獨家獲得OpenAI所有的技術,OpenAI使用微軟的Azure雲訓練其基礎模型,並且通過其API提供的服務,都要使用微軟的雲等等。

微軟提供的資金、雲服務,以及微軟與OpenAI在應用方面的商業合作,都對OpenAI能在長達8年的時間內,心無旁騖地專注於大型語言模型的研究,並且最終取得突破,起到了關鍵作用。

但是OpenAI與微軟的合作,也被許多人批評為背離了初心,它從一家獨立的、非盈利的人工智能研究機構,變成了一家科技巨頭的戰略棋子;它承諾基礎模型開源,但從GPT-3以后,就變得日益封閉。作為OpenAI的聯合創始人的主要的捐資者,馬斯克提出了尖鋭的批評。OpenAI的核心員工,也有離開創辦新的公司,如目前OpenAI的主要競爭對手Anthropic。

OpenAI一年前推出的ChatGPT,捅破了通用人工智能的窗户紙,驚艷了世界,但其可能帶來的風險,也引發了巨大的爭議,並且加速了有關國家和跨國治理體系的研究與制定。

根據OpenAI的架構,6名董事會成員可以「確定我們何時達到了通用人工智能(AGI)」。

儘管通用人工智能存在很大爭議,OpenAI下了一個定義:通用人工智能指的是一種高度自治的系統,在大多數經濟上有價值的工作中勝過人類。奧特曼等人曾認為,十年之內人類將實現通用人工智能。

而這個董事會一旦認定OpenAI已經實現了通用人工智能,它將收回對於商業機構的獨家使用與合作,將其用於整個人類。其中,在有關微軟的條款中提到:「這樣的系統不包括在與微軟的知識產權許可和其他商業條款中,這些條款僅適用於通用人工智能之前的技術。」

從設計的架構上來看,非盈利的OpenAI董事會,擁有至高無上的權力。

OpenAI仍然處於虧損狀態,但收入正在快速增長中,目前年化收入已達13億美元,明年可能達到數十億美元。在年初的那一輪融資中,OpenAI的估值達到了290億美元。

目前,OpenAI正在以860億美元的估值,進行新一輪融資,為其訓練GPT-5準備資金,其中對齊訓練將變得更為重要。

初創公司拋棄創始人,是硅谷反覆出現的故事。蘋果在1985年解僱了喬布斯;Twitter在2008年解僱了聯合創始人多西(Jack Dorsey)。他們最終都王者歸來,重新領導自己創辦的公司走向輝煌。

但奧特曼的離職,對所代表的行業產生的影響可能會更大。生成式人工智能可能會因此受挫嗎?未必!

生成式人工智能所帶來的影響,已經遠遠超過研製更先進和安全的大模型。它所引發的革命,纔剛剛開始。

也許,奧特曼和布洛克曼在OpenAI的使命已經完成。生成式人工智能,正在從實驗室里走向千行百業。他們振臂一呼,依然會有包括OpenAI員工在內的頂級人才跟隨,依然會有從硅谷到世界各地的幾十億甚至上百億美元的投資。生成式人工智能更加廣闊的大門正在Open。

而OpenAI會堅守其初心,為人類研究安全的通用人工智能。它可能不再具備奧特曼所帶來的商業想象,但依然需要大量的投資支撐它的研究。OpenAI的價值,終究可能不是成為另一家科技巨頭,而是成為與科技巨頭比肩而立的社會影響力公司,把生成式人工智能的潛力,開放給無數的研究者、創業者、開發者、使用者。應該樂見OpenAI獨特治理架構走得更遠。

「謝謝你,讓我們距離未來更近。」 布洛克曼在社交媒體上收到這樣的回覆。

本文來自微信公眾號:未盡研究(ID:Weijin_Research),作者:未盡研究

風險及免責提示:以上內容僅代表作者的個人立場和觀點,不代表華盛的任何立場,華盛亦無法證實上述內容的真實性、準確性和原創性。投資者在做出任何投資決定前,應結合自身情況,考慮投資產品的風險。必要時,請諮詢專業投資顧問的意見。華盛不提供任何投資建議,對此亦不做任何承諾和保證。