Palantir首席技術官警告AI安全「有效的利他主義者」正在試圖「政變」-説「技術官僚的小團體」不應該為每個人做決定

Shyam Sankar，Palantir Technology Inc.首席技術官(NYSE：PLTR）對人工智能安全政治化表示擔憂。

周一，桑卡在X上的一篇帖子中批評了「有效的利他主義者」，指責他們試圖通過決定其他人的技術進步步伐來發動政變。

「有效利他主義者認為，應該由一小群技術官僚來決定我們其他人可以獲得多少技術進步。以及你的生命值多少蝦。」桑卡爾寫道。

有一隻看不見的手推動人工智能安全成為一種政治意識形態。有效的利他主義者認為，一小群技術官僚應該決定我們其他人被允許擁有多少技術進步.以及你的生命值多少蝦。你正在目睹他們的.

另請閲讀：羅恩·德桑蒂斯指責OpenAI和Anthropic試圖變得「太大而不能失敗」--警告如果人工智能巨頭陷入困境，將面臨「救助2.0」

桑卡的言論加劇了有關人工智能發展步伐的持續爭論，OpenAI和Anthropic的高管呼籲放緩。

前白宮人工智能和加密貨幣沙皇David Sacks表示，如果OpenAI和Anthropic認為他們的下一個模型構成嚴重風險，就應該自願放慢人工智能的開發，而不是依賴政府監管。他認為，首席執行官薩姆·奧爾特曼（Sam Altman）和達里奧·阿莫迪（Dario Amedei）已經引領了人工智能領域，並有效地決定了進步的步伐。

與此同時，邁克爾·伯里（Michael Burry）批評OpenAI和Anthropic高管敦促放緩人工智能開發，稱這一立場是自私的，對現任公司和即將到來的IPO有利。他認為，目前的LLM不是真正的人工智能或AGI，並暗示放緩的説法可能掩蓋了增長疲軟和IPO計劃推迟。

「IPO需要炒作和吹捧;‘我們太棒了，可能會變得危險’是炒作和吹捧，」他説。

值得注意的是，據報道，Nvidia Corp.（納斯達克股票代碼：NVDA）、Palantir和Booz Allen Hamilton Holding Corp.（紐約證券交易所股票代碼：BAH）正在收緊對Anthropic和OpenAI先進人工智能模型的使用限制，因為擔心提供商可能會保留或學習敏感的企業數據。這些公司正在尋求更強有力的數據保護或完全放棄某些型號。

唐納德·特朗普總統出席了英偉達首席執行官黃詹森的All In Summit會議，並發表了強烈的支持人工智能的信息，駁斥了人們對人工智能和機器人可能對社會構成威脅的擔憂。他稱這種擔憂是「騙局」，同時認為數據中心為人民和國家創造財富。特朗普還警告説，反對人工智能發展可能會使中國受益，稱人工智能「比互聯網更大」。"

另一方面，美國前總統巴拉克·奧巴馬（Barack Obama）和億萬富翁埃隆·馬斯克（Elon Musk）等人工智能領導人對放緩人工智能發展的想法表示歡迎，認為這是必要的一步。他們認為，政府和公眾應該對這項技術的發展有發言權。

聲明：此內容部分是在人工智能工具的幫助下製作的，並由Benzinga編輯審查和發佈。

另請閲讀：頂級分析師警告稱，人工智能放緩可能會「捲曲」微軟，Alphabet，Meta，亞馬遜和其他收益-標準普爾500指數上漲面臨新的威脅

圖片來自Shutterstock