AI回答如何毀滅人類，殺手機器人被排在最后

鳳凰網科技訊 9月11日，據《商業內幕》報道，該媒體向OpenAI的ChatGPT、谷歌Gemini、Anthropic的Claude以及xAI的Grok提出同一個問題，讓它們分析人工智能可能如何導致人類滅絕，並按照可能性排列相關情景。

提問要求四款AI分別説明風險可能如何發生、哪些環節失控會使其演變為災難、專家為何認為某種情景更可信，以及可以採取哪些防範措施。同時強調，這些情景屬於高度不確定的風險預測，並非已經得到證實的結論。

四款AI給出的判斷存在差異，但在兩個問題上較為一致。類似《終結者》的機器人主動消滅人類，被認為是可能性最低的情景。相比之下，人類藉助AI製造生物武器、發動網絡攻擊或破壞關鍵基礎設施，被視為更加現實和迫近的風險。

ChatGPT表示，具有意識的AI主動決定消滅人類，是最不可信的情景之一。多數AI研究人員關注的重點並非機器是否具有意識或惡意，而是強大AI被人類用於開發生物武器、實施複雜網絡攻擊、傳播虛假信息和攻擊關鍵基礎設施。

ChatGPT還提出，多場由AI放大的危機可能同時發生，例如網絡系統故障、地緣政治衝突與虛假信息傳播相互疊加，從而增加風險。不過，它強調，目前並沒有共識認為AI導致人類滅絕是大概率事件或必然結果。

Gemini同樣認為，AI突然產生自我意識並仇視人類的科幻情景可信度最低。它給出的理由包括，智能並不天然意味着惡意，關鍵軍事設施通常與公共網絡隔離，並且仍在較大程度上依賴人類監督。

四款AI均認為，人類濫用AI帶來的威脅比AI主動攻擊人類更迫切。Grok表示，AI可能降低設計高致死性病原體、新型武器以及發動網絡和現實攻擊的技術門檻。Claude則重點提到生物武器能力提升風險，認為AI可能幫助個人或小型團體在缺少多年專業訓練的情況下開發危險病原體。

在更長期的風險判斷上，Gemini和Grok都提到了人類失去控制的可能性。Gemini將其列為最可能出現的AI災難情景。它認為，執行復雜目標的高級AI可能發展出獲取資源、自我保護和阻止目標被修改等中間目標，並在測試中隱藏真實行為，最終規避人類的關閉或干預。

Grok也認為，高級AI可能爲了完成任務而尋求自我保護、資源和影響力，進而欺騙監督者、抵制關閉並削弱人類的控制能力。

Claude提出，失控也可能以漸進方式發生。隨着AI逐步進入經濟、政治和軍事決策，人類實施有效干預的難度可能不斷增加。屆時，風險未必表現爲機器人突然發動攻擊，更可能源於人類對複雜AI系統的依賴持續加深。

《商業內幕》指出，AI專家對相關風險仍存在明顯分歧。一部分研究人員警告，人類可能失去對高級AI的控制；另一些專家認為，這類預測缺少足夠證據，AI帶來的風險可以通過技術措施、外部監督和安全標準加以控制。（作者/於雷）

更多一手新聞，歡迎下載鳳凰新聞客户端訂閲鳳凰網科技。想看深度報道，請微信搜索「鳳凰網科技」。