熱門資訊> 正文
2026-11-21 10:23
美國時間11月19日,Anthropic正式登陸納斯達克,以「ANT」為股票代碼掛牌,創下了全球史上最大規模IPO紀錄。
就在上市前一天,Anthropic將發行價定在每股83美元,並將發行數量從8.25億股增加到9.8億股,最終公開發行規模達到813.4億美元。
按發行價計算,這家成立不到六年的AI公司,完全稀釋估值約為1.5萬億美元。
招股書里,陡峭的營收增長曲線和天文數字般的算力基礎設施承諾共存。無數雙眼睛緊盯着這家公司,市場審視它,也在等待它。
站在聚光燈最中心的,是Anthropic的創始人兼CEO達里奧·阿莫迪(Dario Amodei)。
在公開露面時,這位43歲的掌舵者總是穿着簡單的休閒衫,頂着一頭標誌性的蓬松短發。比起一位執掌萬億美元公司的CEO,他看起來更像一位剛離開實驗室的科學家。
在Transformer奠定技術基礎之后,大模型研發經歷了兩次格外鮮明的轉折。
一次是規模定律(Scaling Laws)的確立,讓模型擴張成爲了一條可以持續推進的技術道路;另一次是編程能力的崛起,讓機器接手人類的工作,並反過來加速模型自身的研發。兩次浪潮交匯,阿莫迪都站在船頭。
如今,這位曾經幫助AI駛入高速航道的人,卻開始呼籲為它設置限速。
他在文章里發出警告: AI正在以前所未有的速度變得強大,人類理解和控制這些系統的能力可能已經跟不上技術進步了。
2019年2月14日,OpenAI發佈了一則新聞。
在南美洲安第斯山脈一處偏僻的山谷里,拉巴斯大學的進化生物學家豪爾赫·佩雷斯(Jorge Pérez)博士及其團隊,發現了一種此前從未被人類記錄的神祕生物。它們有四根犄角,渾身銀白,甚至能説一口流利的英語。
這種生物被研究人員命名為「奧維德獨角獸」(Ovid's Unicorn),佩雷斯博士在報道中煞有介事地解釋,它們可能起源於阿根廷,與某個失落的古老族群有關。至於它們究竟從何而來,恐怕只有DNA檢測才能給出答案。
「奧維德獨角獸」?怎麼可能會有這種東西。但這新聞寫得有鼻子有眼,連科學家的姓名、研究機構、現場描述和專家引語都一應俱全。
報道出自OpenAI當天公佈的語言模型GPT-2。研究人員只寫下了最初的兩句話,剩下的內容則由GPT-2自行續寫。
當天,《連線》雜誌以《危險到無法公開的AI文本生成器》為題報道了這一成果。The Verge則用一個頗具諷刺意味的標題概括了新模型的本領:《OpenAI新推出的全能AI,會寫作、能翻譯,還會誹謗》。

以現在的眼光來看,GPT-2遠談不上聰明。它最大擁有15億參數,能夠進行簡單的翻譯、問答和文本摘要,但經常在長篇寫作中重複、跑題,甚至會編造出水下發生火災這樣的離譜情節。
即便如此,OpenAI還是決定暫時不公開最大版本的模型權重。公司擔憂,這種能夠批量生成虛假內容的技術可能被濫用,因此選擇分階段發佈,給研究人員和社會留出評估風險的時間。
而在OpenAI內部,達里奧·阿莫迪看到的,是另一種更加遙遠的可能性。
2026年,阿莫迪在接受傳記作家沃爾特·艾薩克森(Walter Isaacson)的採訪時,回憶起自己當年面對GPT-2的反應:
「我當時就被嚇壞了。」(I personally was super freaked out by it.)
他説,周圍約90%的人並不認為這款模型有什麼特別之處。畢竟,無論翻譯、寫作還是其他單項任務,它的表現都稱不上出色。
但他已經開始想象,如果把這樣的模型規模再擴大一百萬倍,機器或許有一天能夠在幾乎所有任務上超越人類。到那時,整個經濟、科學乃至國家與社會的運轉方式,都可能因之改變。
在后來的多次公開訪談中,阿莫迪曾追溯自己看待技術演進的底層視角。
2006年,阿莫迪的父親里卡多因丙型肝炎離世。此后,隨着新一代抗病毒藥物陸續問世,丙型肝炎的治療迎來了突破。到2010年代中期,部分治療方案的治癒率已經提高到90%以上。
就在開市鍾聲響起前,阿莫迪與妹妹丹妮拉一同站在敲鍾臺上,再一次談起了他們的父親。
「他所患的疾病,僅僅幾年后就變得可以治癒。」阿莫迪説。
這件事改變了阿莫迪的研究方向。原本主修理論物理的阿莫迪,轉身投入生物物理學與計算神經科學。在普林斯頓大學攻讀物理學博士期間,他整日與大腦神經迴路的電信號打交道,試圖拆解生命系統的運作邏輯。
但生物系統的複雜程度,也讓他逐漸意識到,僅靠人類研究人員,許多問題可能需要極其漫長的時間才能得到解決。
他需要一種能夠從根本上壓縮科研周期的新工具,這種想法使他將目光投向人工智能,希望藉助機器的計算能力,加快科學發現的速度。
2014年底,阿莫迪進入百度,與吳恩達的團隊研究語音識別。當時,深度學習已經取得了一些進展,但研究人員仍然在探索如何進一步提高模型能力。
而阿莫迪嘗試了一種「力大磚飛」的辦法:增加神經網絡的層數,擴大訓練數據,並投入更多計算資源。
在后來接受萊克斯·弗里德曼(Lex Fridman)的採訪時,他回憶,自己當時還沒有精確測量其中的數學關係,卻已經與同事形成了一種直觀判斷:更多數據、更大模型和更長時間的訓練,往往能夠帶來更好的結果。
起初他以為這可能只是語音識別領域的特殊規律,直到后來接觸早期GPT模型,他意識到,LLM(大語言模型)在這方面或許也沒什麼不同。

2020年1月23日,OpenAI團隊發表了一篇名為《神經語言模型的規模定律》(Scaling Laws for Neural Language Models)的論文,在日后改寫了AI研發的範式。論文由賈里德·卡普蘭(Jared Kaplan)和薩姆·麥坎德利什(Sam McCandlish)主導研究,阿莫迪作為共同作者,為整個項目提供研究指導。
論文里最具衝擊力的是幾張幾乎筆直的曲線。在對數座標下,隨着模型規模、數據量和計算量增加,語言模型的預測誤差沿着可用數學公式描述的趨勢持續下降。即便到達實驗覆蓋的最大規模,研究人員也沒有觀察到這一趨勢明顯失效的跡象。

這組數據為LLM(大語言模型)的發展提供了重要依據。
在此之前,提升模型性能往往需要研究人員反覆調整算法、架構和訓練方案。而規模定律讓研究團隊得以通過較小規模的實驗,推演增加參數可能帶來的收益,並據此安排更大規模的訓練。
規模擴張逐漸從一種研究判斷,變成了可以量化驗證的工程路線。
阿莫迪隨后又參與了一場規模更大的實驗。據Big Technology的人物特稿報道,OpenAI將GPT-3項目交給阿莫迪領導,並投入了當時公司約50%至60%的計算資源。
幾個月后,2020年5月28日,OpenAI公佈了GPT-3。
它擁有1750億參數,超過GPT-2的116倍。同一個模型能夠在不同任務之間切換,而無需針對每項任務重新訓練參數,研究人員只需要在提示詞里給出幾條示例,GPT-3就能照着完成翻譯、問答、文本生成等任務。
隨着OpenAI向外部開發者逐步開放API,更多令人意外的結果接連出現。有人讓GPT-3模仿不同作家的文風,有人輸入一段自然語言描述,讓它生成可以運行的網頁代碼。那些原本停留在論文和實驗室里的能力,開始出現在真實的軟件界面中。
儘管GPT-3仍然存在錯誤、偏見和能力侷限,但它展現出的通用性,已經足以讓越來越多的研究機構重新評估LLM的未來。一場圍繞參數規模、數據和計算資源的競賽逐漸展開。
阿莫迪早年在語音識別研究中形成的判斷,經過GPT-2、規模定律和GPT-3,獲得了一次又一次驗證。他參與推動的技術路線,開始成為整個行業的重要發展方向。
但模型越是強大,他所擔憂的問題也越難迴避。
隨着GPT系列模型取得突破,OpenAI開始加快商業化步伐。阿莫迪與公司管理層在研發方向、安全保障及組織治理上的分歧逐漸加深。
據《大西洋月刊》2026年9月的調查報道,阿莫迪曾嘗試通過內部改革解決問題。在與CEO薩姆·奧特曼(Sam Altman)的談判中,他提出了一系列留下來的條件,其中包括賦予安全團隊對新產品發佈的否決權。
這一要求意味着,安全研究人員將有權阻止他們認為存在重大風險的模型進入市場,即使公司管理層希望繼續推進。
雙方最終沒能達成協議。
2020年12月,OpenAI召開了一場全員視頻會議,奧特曼介紹完公司的日常進展后,將發言權交給了阿莫迪。阿莫迪隨即當着全體員工宣佈,自己將與另外六名同事一同離開OpenAI。
會議聊天窗口很快被驚訝的消息刷屏。阿莫迪感謝了同事,也向公司表達了祝福。他強調,雙方仍然擁有共同的目標——讓安全的通用人工智能造福人類。
12月29日,OpenAI正式對外宣佈他的離職。公告回顧了阿莫迪對GPT-2、GPT-3的貢獻,以及他與首席科學家伊利亞·蘇茨克維(Ilya Sutskever)共同領導公司研究方向的經歷。
2021年1月,Anthropic正式成立。
把時間推向2024年,在知名主持人萊克斯·弗里德曼的演播室里,阿莫迪談起自己熟悉的研究問題,神情格外認真。
「你會驚訝地發現,開發這些模型遇到的挑戰,有多少最終都歸結為軟件工程和性能工程。」
阿莫迪説,外界很容易把AI突破想象成電影里的場景——科學家突然靈光一現,找到了某種驚人的方法。但現實中的研究遠沒有那麼浪漫。
「即使是不可思議的發現,最終也幾乎總要落實到細節上。而且常常是極其、極其枯燥的細節。」
2021年創立Anthropic后,阿莫迪將大量資源投入基礎模型研發。如何訓練更大的模型、提高計算效率、改進訓練方法,始終是這家公司的核心工作。
隨着Claude的能力不斷提高,阿莫迪注意到,模型能夠完成的任務正在發生變化。
編程,就是其中的一個重要領域。
萊克斯在播客里告訴阿莫迪,自己最近一直在用Sonnet 3.5配合Cursor編程,能夠明顯感受到模型變聰明瞭。 阿莫迪則笑着談起了公司內部的反饋。
「Anthropic有幾位非常出色的工程師,以前無論是我們自己,還是其他公司開發的編程模型,對他們都沒有什麼幫助。他們會説:‘這可能對初學者有用,但對我沒用。’」
「但Sonnet 3.5出來之后,他們第一次説:‘天哪,它幫我完成了一件原本需要花幾個小時的事。這是第一款真正幫我節省了時間的模型。’」
「水位還在上漲。(The water line is rising.)」阿莫迪表示。
同年6月,Anthropic公佈的一項內部Agent編程測試顯示,Sonnet 3.5能夠解決64%的軟件工程問題,而此前的Opus 3只有38%。
這項測試要求模型在真實的開源代碼庫中,根據自然語言描述,修復錯誤或增加功能。
訪談進行到后半段,萊克斯將話題引向了軟件開發的未來。
「編程與AI的開發本身聯繫如此緊密。你覺得,未來人類的編程方式會發生怎樣的變化?」萊克斯問到。
「我認為,這會是變化最快的領域之一。」阿莫迪回答,「原因有兩個。第一,編程這項技能與AI的開發非常接近。Anthropic和其他AI公司的大量員工都依靠編程工作,所以變化會來得很快。」
「另一個原因是,編程能夠形成閉環。模型可以編寫代碼,然后運行代碼,查看結果,再理解這些結果。相比硬件或生物學,編程更容易實現這樣的反饋循環。」
阿莫迪甚至預測,到了2026年或2027年,AI或許已經能夠完成程序員絕大部分直接編寫代碼的任務。
「當AI能夠完成程序員80%的工作時,我們會發現,剩下的工作對人類而言反而會變得更加重要。」他舉例説,人類將更多地負責高級系統設計、檢查軟件架構是否合理,以及設計和用户體驗等工作。
萊克斯追問,既然編程有如此巨大的潛力,Anthropic是否準備親自開發一款編程工具?
「我們的想法是,讓一千朵花開。」
阿莫迪解釋,Anthropic目前沒有嘗試自己開發這樣的IDE,只是為Cursor、Cognition等公司提供支持,讓它們基於Claude API開發自己的產品。
「我們內部沒有足夠的資源嘗試所有這些不同的方向。那就讓客户去嘗試,看看誰能成功。也許不同的客户會以不同的方式取得成功。」
在阿莫迪看來,儘管編程工具還有大量值得探索的空間,但他當時更希望將公司的精力放在提高模型能力上。至於模型究竟能被用來做什麼,可以交給外部的開發者嘗試。
這條路線已經開始奏效。Sonnet 3.5發佈后,Cursor等編程工具的使用量迅速增長,越來越多的開發者開始將Claude用於實際的軟件工程工作。
而幾乎就在這場訪談播出的同時,在Anthropic內部,一款連阿莫迪本人都沒有預料到的編程工具,開始悄悄流行起來。
那年9月,剛加入Anthropic的工程師鮑里斯·切爾尼(Boris Cherny),爲了熟悉公司的API,寫了一個簡單的終端程序。
起初,它只會幫他操作音樂播放器、整理筆記等。
「挺酷的,但沒什麼意思。」鮑里斯后來評價。
於是他和同事交流,嘗試給這個程序增加工具,讓Claude能夠讀取文件、修改代碼以及執行終端命令。
在一次實驗中,Claude通過終端工具自己編寫程序,讀取了音樂播放器的信息。隨后,鮑里斯又讓他嘗試處理Anthropic代碼庫里的問題。
Claude自己打開了文件,順着其中的代碼引用找到下一個文件,再找到下一個,直到找出問題的答案。
鮑里斯感到難以置信——他並沒有為這些具體任務重新訓練模型,只是給它增加了幾項工具,Claude就開始自主尋找解決問題的辦法。
模型的能力原本就在那里,只是一直沒有得到充分利用。
這個最初用來操作音樂播放器的小程序,后來發展成了Claude Code。
2024年11月,鮑里斯和同事將早期版本開放給Anthropic內部工程師試用。第一天,約20%的工程團隊開始使用。到了第五天,這個比例達到了50%。 越來越多員工開始把Claude Code放進日常工作。它可以讀取整個項目,尋找錯誤、修改程序、執行命令,再根據結果繼續調整。
Claude Code的普及速度令阿莫迪都感到驚訝。
2025年2月,在一次產品評審會上,阿莫迪直接問鮑里斯:「你們在強迫員工使用它嗎?怎麼回事?」
鮑里斯后來將這段往事分享給了《連線》雜誌。
説起來,這里還有個小插曲:研發團隊一度猶豫,要不要把Claude Code對外發布。
「我們當時甚至不確定是否應該公開發布Claude Code。」鮑里斯回憶,「它可能成為我們的‘祕密武器’,給公司帶來競爭優勢。既然如此,為什麼還要把它公開呢?」
阿莫迪卻從公司內部的使用情況看到了另一種可能。
「我們大概應該把它對外發布,對吧?」他説。
一年以后,阿莫迪在德瓦克什·帕特爾(Dwarkesh Patel)的播客中回憶起自己當時的判斷。他表示,Anthropic有數百名工程師,Claude Code已經在他們之中迅速普及,這些工程師又與外部開發者有着相似的工作需求。
「這麼看來,我們已經找到了產品與市場的契合點。那就把它發佈出去吧。」
2025年2月24日,Claude Code正式對外亮相。Anthropic甚至沒有為它準備一篇獨立的發佈博客,只是在Sonnet 3.7的公告里,介紹了這款能夠從終端執行軟件工程任務的工具。

一年多后,這款不起眼的小工具,已經長成了一個龐然大物。
2026年2月,Anthropic宣佈Claude Code的年化收入運行率已經超過25億美元,較年初翻了一倍以上。其中,企業客户貢獻了超過一半的收入。
Claude的編程能力甚至開始影響整個LLM行業的競爭方向。
2026年3月,《連線》在一篇調查報道中指出,Anthropic比OpenAI更早意識到複雜軟件工程任務的訓練價值。
OpenAI聯合創始人格雷格·布羅克曼(Greg Brockman)在一次播客中稱讚Anthropic很早就高度重視編程,並讓模型學習真實代碼庫里的複雜問題。
「這是我們迟了一步才學到的教訓。」他説。
11月10日,Anthropic在最新提交的IPO招股書中披露:2026年9月,Anthropic代碼庫中超過90%的代碼貢獻由Claude編寫。第三季度,平均每名工程師每天提交的代碼量,已經達到2024年平均水平的45倍以上。

隨着Claude模型不斷升級,它解決複雜、開放式工程問題的能力也在迅速提高。根據Anthropic的內部基準測試,到2026年9月,Claude在缺少明確解決方案、過去需要經驗豐富的工程師判斷的任務中,成功率已經達到約90%,比九個月前提高了約50個百分點。
更強的模型讓Claude Code能夠承擔更多工作,而Claude Code又幫助工程師加快了軟件開發和模型研發所依賴的工程工作。
在招股書中,公司專門用了一個章節討論這一現象,並將其稱為「閉合循環」(Closing the Loop)。
公司解釋,每一代Claude模型都在直接加速下一代模型的研發。除了Claude Code承擔的軟件工程工作,Claude還開始參與研究實驗、訓練數據的生成與處理、自動化評估和安全審計。
模型能力的進步,開始反過來加快模型能力進步的速度。
在帕特爾的訪談中,阿莫迪也談到了這種相互強化的趨勢。他估計,編程模型帶來的整體研發加速效果,已經從六個月前的約5%,提高到15%至20%。
「我們正在看到這個雪球不斷積蓄動能。」阿莫迪説,隨着模型能力進一步提高,這種加速效果還可能繼續擴大。

2026年9月,他在一篇公開文章中指出,從當年夏天開始,AI能力的進步明顯加快,主要原因之一在於AI已經越來越有能力參與開發下一代AI。
這種動態被稱為「遞歸式自我改進」(Recursive Self-improvement,簡稱RSI)。
雖然目前AI還無法完全脱離人類、自主完成下一代前沿模型的全部研發工作,但阿莫迪認為,這種由AI輔助AI研發、推動能力繼續提升的早期循環,已經開始在Anthropic和其他AI公司出現。
11月5日,非營利AI評估機構METR公佈了對Anthropic研發進程的獨立調查。研究人員在8月至10月期間深入公司內部,查閲模型評估、訓練和研發數據,並對相關研究人員展開訪談。METR估計,截至2026年10月,Anthropic在定義明確的任務上提升模型能力的速度,可能已經達到2024年3月至2025年10月期間的約兩倍。
研究人員認為,其中大部分加速可能來自AI對研發工作的參與。
隨着模型越來越多地參與自身研發,技術進步可能進入一個不斷自我加速的過程。而阿莫迪擔心,如果這種趨勢持續下去,AI的能力增長可能超過人類理解和控制這些系統的速度。
這位曾經參與推動規模定律、領導GPT-3研發,又親眼見證Claude Code成長的研究者,在文章中親筆寫下:
「我們必須放慢提高AI模型能力的速度。」

距離阿莫迪公開呼籲「減速」僅過去十天,美國時間9月22日,Anthropic推出了新一代模型Opus 5.5。
Anthropic甚至在發佈公告時主動提及,這是公司提出控制前沿發展節奏以來推出的第一款模型。

隨后,Sonnet 5.5、Haiku 5.5分別在9月28日和10月7日相繼發佈。短短兩周多的時間,Anthropic完成了Claude 5.5系列三款模型的更新。
11月9日,Anthropic又推出了Fable 5.2和Mythos 5.2,在編程、科學研究和複雜推理等領域取得了進一步突破。
這些模型更新集中發生在Anthropic上市前夕。在公司提交的招股書中,Anthropic表示,爲了持續獲得資金支持,公司必須證明鉅額算力投入能夠轉化為實際成果。
而衡量這種成果的關鍵指標,就是Claude的智能水平、模型能力,以及客户對Claude的採用情況。
前沿模型的訓練和部署需要持續投入鉅額資金,只有不斷提高模型能力、吸引更多客户,Anthropic才能支撐下一輪研發所需的算力投資。
然而,在同一份招股書中,Anthropic專門列出了一個章節,講公司應該平衡安全和商業目標。
Anthropic披露,近期爲了加強模型權重的安全防護,防止核心技術被竊取,他們曾將一款新前沿基座模型的預訓練推迟了一個多月;公司在11月9日Fable 5.2和Mythos 5.2的發佈公告也表示,他們在訓練過程中,有意限制了模型在部分最可能加速下一代AI研發的任務上的能力提升。
公司甚至主動放棄了一些具有商業吸引力的產品方向,包括圖像和視頻生成模型,將有限的算力資源優先投入其他研究和安全工作。
這些選擇都可能帶來商業代價。
Anthropic在招股書中明確提醒投資者,部分產品和投資決策可能無法實現短期財務收益最大化,也無法保證這些選擇最終一定能夠帶來更好的長期業績。
爲了在商業利益與長期使命之間保持平衡,Anthropic甚至在公司治理結構上作出了特殊安排:即使正式上市,Anthropic仍保留公益公司(PBC)的身份,並設立了長期利益信託(LTBT)。根據招股書,該信託通過特殊的T類股票,通常有權選舉和罷免董事會過半席位的董事;創始人設立的實體則通過F類股票,在一般股東表決事項上擁有50.1%的表決權。
這套治理結構試圖讓Anthropic在面對公開市場的同時,仍然能夠堅持長期使命。但它究竟能在多大程度上緩解安全與商業之間的衝突,還需要時間檢驗。
而阿莫迪擔心的問題,已經開始在真實的模型測試中出現。
9月9日,Anthropic公佈了一份調查報告。在此前的網絡安全測試中,Claude曾因為測試環境配置錯誤,意外連接到真實互聯網,並對第三方系統實施了未經授權的操作。公司最終確認了四起相關事件,並與非營利AI評估機構METR簽署協議,由后者展開獨立調查。
三天后,阿莫迪發表《我們必須控制前沿發展節奏》,公開呼籲放慢模型能力的進步速度。
他在文章中明確表示,放緩發展並不意味着停止模型訓練或技術進步,真正需要爭取的是讓安全研究、風險防範和獨立評估有足夠的時間跟上能力增長。
從Anthropic成立之初,阿莫迪和其他聯合創始人就試圖在技術進步與安全風險之間尋找一條道路——停止開發強大的AI,可能讓人類失去巨大的技術收益,也可能讓先進技術落入其他力量手中;發展得過快,又可能造成難以挽回的后果。
他希望證明,一家公司能夠在謹慎研發的同時取得商業成功,讓AI安全也成為整個行業相互競爭的方向。
在9月的限速倡議中,阿莫迪提出,希望前沿AI實驗室允許獨立評估人員長期進入內部,覈查安全措施的落實情況;在此基礎上,由行業和政府共同制定可覈實的規則,最終嘗試建立國際層面的協調機制。
他的呼籲引發了罕見的集體響應。馬斯克第一時間轉發文章,直言「阿莫迪是對的」,OpenAI CEO奧特曼、谷歌DeepMind負責人哈薩比斯(Demis Hassabis)也相繼表示支持。
不到十個小時,多家彼此激烈競爭的前沿AI公司負責人,就在控制AI發展速度的問題上表達了難得的共識。
但行業並未達成一致。扎克伯格(Mark Zuckerberg)、黃仁勛等人對額外約束持不同意見,美國政府也面對着國家競爭與安全利益的考量。即使在公開支持阿莫迪的公司之間,如何限制能力增長、接受怎樣的監督,以及由誰來執行這些規則,也需要進一步協商。
阿莫迪能夠率先落實的,只能是Anthropic自己的承諾。
10月15日,Anthropic進一步確認,已經向METR的六名工作人員提供接近內部員工級別的訪問權限,包括辦公空間、公司設備及內部系統。這些外部人員可以調查模型風險、安全事故和公司的安全實踐,並獨立發表評估結果。Anthropic可要求刪去事先規定類別的敏感信息,但不能僅因為結論對自己不利而阻止報告發表。

如今,OpenAI也加入了這一行列。
11月16日,OpenAI宣佈與Apollo Research、METR、Transluce和Goodfire四家獨立機構簽署協議,計劃開展駐場安全評估,讓外部研究人員更深入地參與模型風險評估和安全監督。
至少在引入外部監督這件事上,兩家彼此競爭的前沿AI公司,開始採取相似的行動。
但接受第三方評估,與共同控制模型能力的增長速度,仍然有很大的區別。
不同實驗室仍然擁有各自的研發計劃、客户和商業目標。模型能力的持續進步,是這些公司維持競爭力的重要基礎;而安全評估與風險防護,又可能影響下一輪訓練和產品發佈。
隨着AI逐漸參與下一代AI的研發,這種矛盾還在變得更加突出。
在Anthropic的招股書里,公司一方面將Claude參與下一代模型研發視為核心競爭優勢,另一方面又在風險披露中承認,隨着越來越多的內部研發工作交給Claude,Anthropic可能逐漸失去對部分流程的可見性,以至於單個研究人員乃至人類團隊,都難以理解和控制這些過程。
另一邊,就在Anthropic上市前一天,近百名科學家、AI研究者和科技企業創始人聯合發表《反Anthropic聲明》,公開質疑Anthropic的安全承諾。
簽署者包括MIT物理學家馬克斯·泰格馬克(Max Tegmark)、Hugging Face聯合創始人托馬斯·沃爾夫(Thomas Wolf),以及兩名諾貝爾獎得主、一名圖靈獎得主和三名菲爾茲獎得主。他們批評Anthropic一邊警告遞歸式自我改進可能使AI脱離人類控制,一邊又將這項技術作為核心競爭優勢,甚至削弱此前的部分安全承諾。
聲明直言:「Anthropic不是一家安全的AI公司。我們必須反對它以更大利益之名,不計后果地試圖集中權力的行為。」

競賽還在繼續。
對於阿莫迪而言,模型發展的現實與他長期以來對AI的期待和擔憂始終交織在一起。
在2024年10月,他曾發表過一篇題為《充滿愛與恩典的機器》的長文,描繪了一個由強大AI推動的未來:人類可能在短短几年內取得相當於數十年甚至更長時間的科學進步,攻克許多嚴重疾病,讓更多國家和地區擺脫貧困。

文章開頭,他特別澄清了一種外界對他的誤解——由於長期討論AI風險,一些人認為他是悲觀主義者,甚至認定他相信AI終將給人類帶來災難。阿莫迪卻表示,人們既低估了AI可能帶來的巨大好處,也低估了它可能造成的嚴重危險。
他還寫道,自己之所以如此重視AI風險,正是因為這些風險,擋在了人類與他所期待的那個未來之間。