AI將更快超越人類！OpenAI前高管：要警惕被不良之徒利用

財聯社7月26日訊（編輯 黃君芝）美國人工智能初創公司Anthropic首席執行官兼聯合創始人Dario Amodei周二警告參議員，人工智能將比預料的更接近於超越人類智能，甚至會幫助製造大規模殺傷性武器。

他在參議院司法委員會的一個小組會議上表示，需要減少人工智能的短期偏見風險，以及降低對人類的長期風險。他指出，在防止一些不可意料的風險發生，例如惡意行為者利用人工智能或會更容易生產生物武器。

他敦促通過立法，以避免AI系統帶來的全球風險，他説，即使是它們的創造者，人類也有可能不完全理解風險。

事實上，Dario Amodei與OpenAI還有着極深的淵源，而且他是個不折不扣的AI技術大牛。他於2014年加入百度硅谷AI實驗室，成為一名研究科學家，解決深度學習和AI中的難題，包括語音識別和自然語言處理。

2015年，他加入谷歌，在谷歌Brain團隊擔任高級研究科學家，致力於擴展神經網絡的功能。但他很快發現自己並不喜歡在商業性質類公司中工作，他在谷歌也沒有停留太久，於是2016年7月他加入了OpenAI，先后任AI安全研究組負責人、研究總監、研究副總裁。

然而，因對OpenAI的逐漸商業化不滿，他最終於2020年12月離開了OpenAI。次年2月，他創立AI公司Anthropic，這是一家「公益公司」，並得到了包括谷歌在內的不少科技巨頭的支持，先后拿到超過7億美元投資。

Amodei建議美國製定政策，以確保人工智能供應鏈的安全——從提供計算能力的半導體到由此產生的模型。

他告訴參議院隱私、技術和法律小組委員會，這些政策將「幫助美國有足夠的發展空間，對我們自己的公司實施嚴格的標準」。他説，這應該伴隨着對最強大的人工智能系統的測試和審覈，這一過程應該得到政府資金的支持。

拜登政府已認識到了人工智能創新的步伐遠遠超過了國會通過有約束力的監管的能力，因此上周包括Anthropic在內的領先人工智能公司已經承諾，包括允許外部審計、標記人工智能生成的內容和投資安全等措施。

OpenAI、Alphabet Inc.旗下的谷歌、微軟（Microsoft Corp.）、Meta Platforms Inc.和亞馬遜（Amazon）都對維護人工智能安全做出了承諾。

隱私、技術和法律小組委員會主席、康涅狄格州民主黨參議員Richard Blumenthal對這些承諾表示贊同，但他表示，國會仍需要介入監管這項技術。

Richard Blumenthal指出，「這些承諾不具體，也無法執行。我知道有人對國會和我們的行動能力表示懷疑，但事情的緊迫性要求我們採取行動。」