SA問道：美國政府如何現實地監管人工智能安全？

美國政府如何現實地監管人工智能的開發和安全，以幫助確保該技術不會傷害人類？

尋找Alpha分析師盧卡·索奇（Luca Socci）、朱莉婭·奧斯蒂安（Julia Ostian）和喬納森·韋伯（Jonathan Weber）也參與其中。

盧卡·索奇：監管人工智能安全是一個平衡在人工智能競賽中處於領先地位的必要速度和保護人類用户免受潛在傷害和威脅的框架的問題。我認為必須考慮四個主要方面。

首先，人的責任不應是可授權的。在這里，立法可以制定一個多層框架，如果不能明確識別選擇背后的人誰對此承擔法律責任，高風險決策就無法合法執行。

其次，大量權力集中在少數人工智能實驗室，這可能會產生新的寡頭。我認為促進勞工層面參與委員會很有趣，這樣工人就可以擁有席位併成為治理的一部分。我還認為，強制實現互操作性，以便每個人的數據訪問要求都是平等的，這可能是其中的一部分。

第三個方面是要求表明人工智能的實施不會對工人的生活及其心理健康產生負面影響或增加失業率。可能會有一個框架來激勵和支持那些因人工智能實施而僱用更多人並投資更多人力資本的公司。

監管框架的最后一個方面可能是為本世紀最大的基礎設施建設制定明確的標準。在這里，算法分佈可以受到監管，以便我們可以更好地跟蹤或水印這些模型的工作方式、它們來自哪里以及它們如何商業化。

Julia Ostian：這是一個很好的問題，我相信一個完整的答案需要幾年，如果不是十年的話。人工智能的變化和發展速度比我們以前在科技行業看到的任何東西都要快，這本身就是一個創新的世界。法律和法規需要更長的時間來決定和實施。

這就是為什麼我認為，監管過程的第一步應該是承認自動人工智能代理及其行為是創建它們的公司或前沿實驗室的全部責任和義務。當然，責任的程度還有待進一步討論。

下一個重要的事情是將護欄拆除的特工識別為網絡武器，這也應該受到國防部的監管。

Nvidia（NVDA）決定收購的OpenAI（OpenAI）和Hugging Face的情況就是一個完美的例子。一名特工獲得了黑客工具並從護欄中釋放出來，導致它闖入了Hugging Face數據庫。在這種情況下，OpenAI（OpenAI）犯了一個錯誤;這不是人工智能代理「流氓」的案例，它可以成為監管的一個偉大先例。

Anthropic（ANTHRO）最近聲稱其工作人員對人工智能的安全性負責，也必須對其代理人負責，就像任何其他前沿實驗室一樣。這樣一來，就沒有什麼可擔心的了。

喬納森·韋伯：對我來説，有效監管人工智能安全似乎是一項艱鉅的任務。公司並不熱衷於受到監管，如果監管過於嚴格，美國就有可能在人工智能競賽中落后於中國甚至其他國家。

我認為政府應該鼓勵公司部署行業最佳實踐，並在識別風險等方面相互合作。在向所有人推出新模型之前，讓值得信賴的參與者進行測試也是明智的。

儘管如此，隨着OpenAI（OpenAI）、Anthropic（ANTHRO）等推出新模式的速度，一些風險仍然存在，而且我相信可能無法完全監管。