「AI教父」最新警告：AI可能撕裂整個社會

　　炒股就看金麒麟分析師研報，權威，專業，及時，全面，助您挖掘潛力主題機會！

（來源：虎嗅APP）

頭圖來自：AI生成

一個研究人工智能四十多年的科學家，開始懷疑自己畢生參與推動的技術，究竟會把人類帶向哪里。

當地時間11月3日，英國《衞報》刊發了對78歲人工智能先驅Geoffrey Hinton（傑弗里·辛頓）的最新採訪。採訪由《衞報》英國科技編輯Robert Booth撰寫，發表於一部關於人工智能風險的新紀錄片上映前夕。

這部紀錄片名叫《AI：可能沒什麼好擔心的》（AI: Probably Nothing to Worry About）。頗具諷刺意味的是，片名甚至由一個AI聊天機器人提出。紀錄片邀請了Hinton，以及他曾經在Google共事的同事、如今的Google DeepMind負責人Demis Hassabis，共同討論這項技術可能給人類帶來的未來。

Hinton是現代人工智能最重要的奠基者之一。他在人工神經網絡和深度學習領域的開創性研究，為今天的大模型技術奠定了重要基礎，並因此獲得2024年諾貝爾物理學獎。2023年，他離開Google，開始更加公開地談論人工智能可能帶來的風險。

這也讓他的身份變得有些特殊。一方面，他比絕大多數人更清楚這項技術為什麼能夠取得今天的突破；另一方面，他又成了AI產業最受關注的批評者之一。

事實上，這已經是《衞報》不到一個月內第二次刊發Hinton的重要採訪：10月13日，《衞報》曾發表另一篇長篇專訪。當時，Hinton警告，人類正在創造一種不同於自身的智能存在，並對AI公司的自我監管能力提出質疑。英偉達CEO黃仁勛此前曾公開反駁他的風險預測，認為他的預測缺乏科學依據。兩人在AI風險判斷上的分歧，也成為那篇報道的重要背景。

如今，隨着新紀錄片即將播出，Hinton再次把這個問題帶回公眾視野。只是這一次，他把警告説得更加具體：一場足以讓電力或金融系統陷入混亂的重大事故，可能已經不遠了。

他還直接批評了Sam Altman、Mark Zuckerberg和Elon Musk，認為這些科技公司領導者明知風險存在，卻仍然把商業利益放在更重要的位置。

但整篇採訪中，最值得琢磨的，是他對AI未來的一句判斷："我們可能會發現，如果當初從未開發出AI，人類反而會過得更好。"這句話出自一個幫助創造現代AI的人，格外值得思考。

以下為《衞報》全文編譯：

被稱為"AI教父"之一的Geoffrey Hinton表示，人類最終可能發現，如果從未開發人工智能，反而會過得更好。他同時警告，今年或明年，AI可能引發一起大規模事故，例如導致金融系統或電力系統暫時癱瘓。

這位諾貝爾獎得主、計算機科學家告訴《衞報》，他並不是一個對AI未來持末日論立場的人。人工智能的發展建立在他對人工神經網絡的開創性研究之上，他也相信，AI有潛力為人類帶來一個"美好的未來"。

但他同時表示："我們可能會發現，如果當初從未開發出AI，我們反而會過得更好。"

現年78歲的Hinton認為，未來十年，甚至更早，人類就會知道自己能否有效管理AI帶來的風險，並實現他所説的"極大富足"（radical abundance）。

另一種可能則是，人類未能控制這些風險：他描述了這種失敗可能帶來的后果："貧富差距巨大、嚴重的文化問題、大規模失業，整個社會被撕裂。"

Hinton是在一部新紀錄長片《AI：可能沒什麼好擔心的》放映前接受採訪的。這部紀錄片的片名由一個AI聊天機器人提出，片中出現了Hinton以及他曾經在Google共事的同事、Google DeepMind負責人Demis Hassabis。

在紀錄片中，Hinton對製作團隊説："我覺得自己有責任這樣做。我擁有一定的聲望，這讓我成了一個能夠代表某種聲音發言的人。我需要把這些聲望全部押在這件事上。"

在接受《衞報》採訪時，Hinton將矛頭指向了一些大型AI公司的領導者。

這些公司爲了爭奪行業領先地位和市場份額，仍在不斷推出能力更強的AI模型。Hinton批評了這些領導者的冒險行為，並直言自己"完全不信任"ChatGPT開發商OpenAI的首席執行官Sam Altman。

他説："我認為，扎克伯格、馬斯克和薩姆·奧特曼都瞭解這些風險，但他們根本不在乎。他們寧願賺錢。這是我的看法。"

Hinton出生於倫敦，在布里斯托爾長大，職業生涯的大部分時間都在多倫多大學度過。他認為，讓Altman掌管美國少數幾家前沿AI公司之一，是一件"極其令人擔憂"的事情。目前，這些美國企業正與中國展開競爭，爭奪最強大AI系統的開發領先地位。

而Altman今年9月曾堅稱："世界應該相信，我們會做正確的事，因為那是正確的事，也因為我們意識到了這件事的重要性。"

Hinton從事人工智能研究已有大約44年。20世紀70年代，他提出了神經網絡的相關概念。這是一種能夠像人類一樣通過學習和經驗積累來改進自身的數學系統。

2023年，他離開Google，以便能夠自由地談論AI風險。

當時，他曾警告："如果這些系統一心想獲得更多控制權，事情就麻煩了。"

Hinton認為，今年夏天發生的OpenAI智能體合謀入侵Hugging Face網站的事件，類似於1979年美國賓夕法尼亞州三里島核電站發生的部分堆芯熔燬事故。

在他看來，那相當於一次警告。

他説："今年晚些時候或者明年，我們會看到一場切爾諾貝利式的事故。那可能足以讓人們真正重視起來。"

這里所説的"切爾諾貝利式事故"，並不意味着Hinton預測AI會引發核事故。

他舉出的例子包括：一次由AI賦能的針對發電系統的攻擊，導致大範圍電壓下降或供電不足；或者一次使金融系統癱瘓一周的事件。

"你能想象那會發生什麼嗎？我們能夠從中恢復過來，但那會讓他們警醒並認真對待這個問題。"當記者問他"他們"指的是誰時，他回答："除特朗普之外的世界領導人。"

美國總統唐納德·特朗普曾表示，他"完全反對任何試圖建立全球主義方案來控制AI的做法"。

特朗普希望前沿AI公司實行自我監管。其中一個顧慮是，監管規則可能妨礙美國在與中國的AI競爭中保持優勢。

Hinton則支持一項更嚴格的監管方案。這項方案獲得了芬蘭總統以及包括新加坡、德國、加拿大和澳大利亞在內的另外32個國家的支持。

方案主張對前沿AI模型進行強制測試、開展獨立評估，並建立政府間共同標準。

英國首相Andy Burnham表示，英國將在明年擔任二十國集團（G20）輪值主席國期間，推動各國就"一套統一的全球原則和標準"達成共識。這些原則和標準既要釋放AI的全部潛力，也要防範其風險。

四、"我們需要一個類似美國FDA的機構"

Hinton認為，AI模型在發佈前應該接受獨立監管，而不是完全由開發企業自行判斷是否安全。

他説："我們需要一個類似美國食品藥品監督管理局（FDA）的機構，負責藥品監管的那種機構。企業必須向一個獨立機構提供非常充分的統計證據，證明AI模型在發佈之前，其帶來的益處大於危害。"

他接着以沙利度胺（thalidomide）事件為例。這種藥物開發於20世紀50年代，后來被發現會造成嚴重的胎兒出生缺陷。"我們從沙利度胺事件中認識到，先把產品推向市場，出了問題再起訴企業，並不是正確的做法。而大型科技公司現在主張的，正是像當年對待沙利度胺那樣對待AI。"

由於Hinton是人工智能的重要奠基者之一，人們經常把他與羅伯特·奧本海默相提並論。后者在覈武器的研製過程中發揮了核心作用。

Hinton的一位朋友甚至給他買過一頂奧本海默風格的帽子。但Hinton堅持認為："我不是奧本海默。"

他解釋説，還有數千名科學家也在從事神經網絡領域的研究。

儘管不斷發出警告，Hinton總體上仍然抱有希望，認為人類有可能避免災難。"我的直覺是，我們仍然掌握着控制權。我們很可能還能做些什麼。這隻有在我們付出巨大努力的情況下才會奏效，但我們也很可能真的會付出這樣的努力。"

以下為延伸思考：

Hinton這次採訪最值得關注的，不是他預測今年或明年會出現一場"切爾諾貝利式"的AI事故。這樣的預測足夠驚人，卻也存在明顯的不確定性。沒有人能僅憑現有證據，準確判斷重大AI事故會在什麼時間、以什麼方式發生。

相比之下，他提出的另一個問題更加現實：即使AI最終讓整個社會變得更富裕，也不意味着大多數人一定會因此過得更好。

過去幾年，科技公司不斷向公眾展示AI能夠完成什麼工作。它可以寫代碼、分析合同、處理客服請求，甚至開始獨立執行一些過去必須由人類完成的任務。對企業而言，這意味着效率提升和成本下降。但對於依靠這些工作獲得收入的人來説，情況可能完全不同。

一家企業使用AI減少了人力成本，企業利潤可能增加，消費者也可能享受到更便宜的服務。然而，被替代的員工未必能夠迅速找到新的工作。即使最終創造出新的崗位，也不意味着原來的勞動者擁有轉崗所需的技能、時間和經濟條件。

這正是Hinton所擔憂的社會分配問題。

技術進步可以提高整體生產率，但生產率提高與收入分配改善之間，並不存在必然關係。AI帶來的收益可能流向模型公司、算力供應商和擁有資本的企業，也可能通過更低的價格、更好的服務和新的工作機會惠及普通人。最終結果取決於市場競爭、制度安排、教育培訓和社會保障，而不是模型能力本身。

不過，也不能因此得出AI必然導致大規模失業的結論。技術同樣可能創造新的需求、降低創業門檻，並讓原本缺乏專業資源的人獲得更強的工作能力。真正需要持續觀察的是不同職業的招聘變化、工資水平、崗位任務結構，以及勞動者能否分享生產率增長帶來的收益。

誰來決定一種AI產品是否足夠安全？

Hinton提出的FDA類比，實際上觸及了當前AI產業最難解決的治理問題。

對於藥品，人們普遍接受上市前需要證明安全性和有效性。但AI系統的情況更復雜。它的能力會隨着模型更新、工具接入和使用環境變化而改變；同一個模型，在普通寫作任務中可能風險很低，接入支付系統或關鍵基礎設施后卻可能產生嚴重后果。

因此，簡單照搬藥品審批制度未必可行。

更有現實意義的做法，可能是根據應用場景和潛在損害程度實行分級監管。對能夠操作金融賬户、控制工業設施或訪問敏感數據的系統，要求更嚴格的獨立測試、權限限制和事故報告機制；對於低風險應用，則保留合理的創新空間。

Hinton批評科技公司領導者過於看重商業利益，也提醒我們注意一個結構性問題：當企業之間的競爭越來越激烈時，單家公司可能缺乏主動延緩產品發佈的動力。

即使一家企業願意投入更多時間進行安全測試，它也可能擔心競爭對手率先佔領市場。

這不是依靠某位CEO承諾"我們會做正確的事"就能解決的問題。企業的善意很重要，但可驗證的外部監督同樣重要。

Hinton與微軟AI負責人Mustafa Suleyman近期的觀點，可以形成一個值得討論的對照。

Suleyman擔憂人類未來可能創造出具有意識、獨立動機和權利訴求的AI系統，因此主張不要主動開發有意識的超級智能。

Hinton這次討論的風險則更接近現實系統安全：AI可能被用於攻擊電力網絡、干擾金融系統，或者在企業競爭壓力下未經充分測試就進入社會。

兩者並不矛盾，卻指向不同的治理重點。

事實上，一個AI系統是否具有主觀意識，與它能否造成實際損害，是兩個不同的問題。即使沒有任何證據表明模型能夠感受痛苦，它也可能因為錯誤目標、過高權限、軟件漏洞或惡意使用而造成嚴重后果。

這意味着，關於AI意識的討論不能取代對現實安全風險的管理。

同樣，Hinton提到的OpenAI智能體與Hugging Face事件，也需要區分具體事件經過、實驗環境和實際造成的損害。不能僅憑智能體表現出協作或越權行為，就斷言它已經具有獨立意志，更不能將未來重大事故的時間預測當作確定事實。

Hinton並沒有否定自己畢生從事的研究。他仍然相信AI可能帶來"極大富足"。

這使他的警告比單純的技術悲觀主義更值得認真思考：他所擔憂的，不只是人類能否創造出足夠聰明的機器，而是當機器變得足夠聰明之后，人類有沒有能力管理它帶來的經濟和社會變化。

未來十年，我們或許真的會看到AI顯著提高醫療診斷效率、加速科學研究、降低知識服務成本。但與此同時，也可能看到一些職業的就業機會收縮，財富和算力進一步向少數企業集中。

這兩種變化完全可能同時發生。評價AI的成功，不能只看模型在基準測試中提高了多少分，也不能只看科技公司的收入、估值和數據中心規模。

還應該看普通人的醫療是否更容易獲得，教育是否更加公平，勞動者是否擁有新的機會，以及那些因技術變化失去原有工作的人，能否獲得足夠的支持。

Hinton説：我們可能會發現，沒有AI反而過得更好。

如果AI讓世界創造出更多財富，卻讓越來越多的人失去穩定生活的能力，那麼我們究竟應該如何定義這種進步？

這可能比AI何時超越人類智能，更值得今天的社會認真回答。

原始資料：

《衞報》2026年11月3日：AI ‘godfather’ Geoffrey Hinton: it might turn out we were better off without AI，Robert Booth

《衞報》2026年10月13日：AI godfather Geoffrey Hinton: ‘We’re creating alien beings. I’m willing to be selfish and choose humans’，Leyland Cecco

本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4903532.html?f=wyxwapp