人工智能安全法案反彈已經瓦解

儘管華盛頓和硅谷對先進人工智能風險的警告加劇，但美國在2027年之前通過人工智能安全法案的可能性在Polymarket上大幅下降。

綜合市場數據顯示，9月1日的可能性為17% 15，較9月1日飆升至約45%有所下降10.一周圖表顯示，有報道稱，兩黨參議員小組正在制定旨在對先進人工智能模型開發人員實施安全要求的立法后，這一數字急劇上升。

塞馬福援引未透露姓名的消息人士報道稱，參議員艾米·克洛布徹（Amy Klobuchar）、特德·克魯茲（Ted Cruz）和約翰·圖恩（John Thune）提出的兩黨人工智能安全法案最早可能於下周提出。

擬議的立法仍在談判中，將尋求讓人工智能公司負責解決其系統潛在的災難性風險。據路透社報道，討論的想法之一是開發人員的法律「注意義務」，要求他們設計具有針對重大風險的保障措施的人工智能系統。

在人工智能研究人員和行業高管發出一系列警告后，立法的推動變得更加緊迫。OpenAI（OPAI）倡導基於先進模型的能力的強制性國家安全要求，包括外部測試、網絡安全保護和事件報告。首席執行官薩姆·奧爾特曼（Sam Altman）支持了這一想法，並表示他的公司還將向獨立評估人員授予類似僱傭兵的訪問權限。

關於先進人工智能最終是否會威脅人類生存的越來越嚴厲的警告也加劇了這場爭論。前Anthropic（ANTHRO）研究員雅各布·考克森（Jacob Coxon）本月辭職，並警告説，開發先進人工智能的人們認為，到本世紀末，它可能會殺死人類。

人生性排列研究員埃文·哈賓格（Evan Hubinger）分別認為，人工智能在未來十年內導致人類滅絕的可能性超過10%，這是個人估計，而不是科學共識。

Anthropic（ANTHRO）首席執行官Dario Amodei呼籲故意放慢最強大的人工智能系統的改進速度，以便安全研究和監督能夠跟上。

Amodei還呼籲該行業放慢人工智能的發展步伐，並警告説，如果安全措施未能跟上，人工智能代理可能會在6到12個月內獲得控制大部分互聯網的能力。OpenAI首席執行官Sam Altman和Elon Musk支持需要更加謹慎。

這些警告給立法者帶來了採取行動的壓力，但政治道路仍然不確定。參議院多數黨領袖約翰·圖恩支持國會的參與，並正在與民主黨人和共和黨人就可能的立法進行合作。

眾議院議長邁克·約翰遜表示，國會在推進廣泛的聯邦法規之前應該諮詢美國最大的人工智能公司的領導人，他認為立法者無法匆忙制定管理快速發展技術的立法。

與此同時，唐納德·特朗普總統駁斥了對人工智能風險的擔憂，並反對他所認為的過度監管。

由於國會在11月中期選舉前面臨着擁擠的日程，預測市場目前認為人工智能安全法案在2027年之前成為法律的可能性不到五分之一。