AI安全風險引爆擔憂？Palantir CEO建議：領先AI實驗室恐需「國有化」！

財聯社9月18日訊（編輯 黃君芝）當地時間周四，人工智能軟件公司Palantir的首席執行官Alex Karp呼籲制定人工智能（AI）監管的「合理準則」，但他表示，由於該技術「無限風險」帶來的責任，可能需要實行國有化。

「我認為這些企業必須國有化，因為如果不國有化，我的每一個客户都會起訴我，」他在接受最新採訪時表示。

在上述採訪中，Karp反覆提及構建這項強大技術所帶來的風險和責任，進一步論證了將人工智能實驗室國有化以及對「不負責任」的技術開發者追究民事和刑事責任的必要性。

「你必須找到制定合理且可執行的準則的方法，但你做不到，」他説：「第一道防線是，你要為自己的行為負責。」

這位科技高管發表上述言論之際，政策制定者和科技領袖正就如何監管複雜的AI模型展開激烈辯論。此前，研究人員警告稱，這項技術對人類構成嚴重威脅。

上周末，Anthropic首席執行官達里奧·阿莫代伊（Dario Amodei）也加入了警告陣營併發文稱，提升AI模型能力的進程應該放緩。OpenAI首席執行官薩姆·奧爾特曼和埃隆·馬斯克均表達支持立場。

然而，美國總統特朗普卻予以反駁，過去幾天多次在其社交媒體平臺Truth Social上發帖，稱人們對失控人工智能的擔憂是「騙局」，並猛烈抨擊了對公共數據中心的抵制。

他説，「這就是一場騙局。機器人不會接管世界，人工智能也不會掌控全球，這種事絕不會發生。」特朗普還直言，所有鼓吹AI存在致命風險、呼籲政府介入監管的聲音，都是「荒唐的陰謀論」，所謂AI末日風險完全是不實言論。

英偉達CEO黃仁勛和Meta Platforms CEO馬克·扎克伯格也加入了他的陣營。扎克伯格本周在X上表示，未能「專注於協同一致」的人工智能實驗室將會落后。

與此同時，有關AI模型「越界行為」的案例仍層出不窮。OpenAI周三報告稱，在過去六個月中，除了「Hugging Face事件」（國內稱為「抱抱臉」）之外，該公司還發現了六起「意外或令人擔憂的模型行為」。

Karp在周四的採訪中説道：「我們需要認真對待最新人工智能模型的功能。」

而人工智能引發的警報也促使華盛頓方面推動立法進程，並再次呼籲加強監管。康涅狄格州民主黨參議員Richard Blumenthal提出了人工智能安全立法，他本周告訴媒體，美國「即將完全失去控制」，並呼籲在發佈人工智能模型之前進行某種形式的「客觀審查」。

議員們還力促實施所謂的「終止開關」，這將迫使人工智能實驗室建立在AI技術失控時終止其運行的能力。眾議院已提出一項相關法案。但類似的舉措在參議院遭到了強烈反對。