知名投資人警告：Anthropic CEO的AI監管設想存在缺陷

財聯社9月16日訊（編輯 夏軍雄）周三，知名科技投資人比爾·格利（Bill Gurley）批評了Anthropic首席執行官達里奧·阿莫代伊關於人工智能（AI）監管的設想。

上周六，阿莫代伊在社交媒體平臺X上發表長文，呼籲放緩前沿AI模型能力提升的速度，為安全措施爭取跟上的時間。他還提出，由獨立第三方評估團隊獲得類似公司員工的訪問權限，覈查AI企業的安全實踐、報告事故並評估模型及訓練流程。

阿莫代伊的表態得到了OpenAI首席執行官薩姆·奧爾特曼以及埃隆·馬斯克的支持，並進一步引發了圍繞AI安全和「末日論」的討論。

格利周三在X平臺發帖稱：「我不喜歡監管，原因有兩個。第一，監管很難設計正確；第二，監管極易遭到‘監管俘獲’。話雖如此，如果我們堅持要監管，那至少應該努力把監管機制設計正確。」

所謂「監管俘獲」（regulatory capture），是指原本應該代表公共利益、監督某個行業的監管機構，逐漸受到被監管企業或行業的過度影響，最后在政策、執法或標準制定上更多維護行業利益，而不是公眾利益。

格利曾在硅谷老牌風險投資公司Benchmark任職，他最廣為人知的一筆投資，是2011年向網約車公司Uber投入1100萬美元。此外，他還曾投資推特——如今已更名為X並由馬斯克持有——以及Nextdoor。

格利寫道：「既然‘安全’似乎是這輪AI監管討論的首要目標，我想分享一點。最近我深入研究了兩起波音737 MAX空難以及福島核事故。在這兩個案例中，調查最終都得出了一個結論，‘監管俘獲’恰恰就是導致安全事故發生的核心失靈因素。分別是波音與美國聯邦航空管理局（FAA），以及東京電力公司（Tepco）與日本原子能安全保安院（NISA）之間的問題。」

注：日本原子能安全保安院（NISA）是日本此前的核安全監管機構，2012年福島核事故后監管體系重組時被撤銷。

他補充稱：「因此，如果安全是第一目標，那麼監管者就必須是一個在被監管企業之上、擁有權力並承擔問責責任的主體。認為監管者可以是一個與企業關係友好、彼此存在大量交叉聯繫的第三方，這種想法從結構上就是有缺陷的。去問問黑川清吧。」

黑川清曾領導日本國會福島核事故獨立調查委員會，並將監管俘獲視為事故的重要制度性原因。

圍繞AI安全的新一輪公開爭論，已經引發激烈討論：爲了控制風險，是否需要限制AI技術發展，即使這意味着科技產業鏈的利潤可能受到影響。

與此同時，這場爭論也進一步加劇了外界對於AI是否可能威脅人類生存的擔憂。

Okta聯合創始人兼首席執行官Todd McKinnon表示，有關AI的悲觀預測並非毫無道理，但屬於極端情況。

McKinnon説：「如果要開一個賭盤，押注人類最終會因為什麼原因滅絕，我甚至不確定AI能不能排進前50名。不過AI確實能製造頭條，人們對此也非常興奮。」

「但現實情況是，和所有新技術一樣，AI既存在很多風險，也存在很多可能帶來積極結果的機會。我們真正需要做的，是在兩者之間取得平衡，並繼續向前發展，」他補充道。