更新2-Anthropic的Olah表示人工智能必須從大型科技公司外部引導

添加了細節，引用了第12、15和16段對Olah的採訪

Anthropic的奧拉與教皇一起出現在梵蒂岡

奧拉警告稱失業者需要支持

奧拉表示人工智能實驗室面臨與更大利益相沖突的壓力

作者：Giselda Vagnoni和Joshua McElwee

梵蒂岡城，5月25日（路透社）--人工智能公司Anthropic的聯合創始人周一表示，人工智能的發展不能只留給科技公司，並敦促宗教領袖、政府和民間社會加強監督。

克里斯·奧拉（Chris Olah）在教皇利奧的第一份通諭演講中談到了人工智能帶來的挑戰，他表示人工智能「確實有可能」「大規模」取代人類勞動力。

坐在教皇旁邊的加拿大人説：「如果發生這種情況，支持流離失所者將成為歷史性的道德責任。」

他補充説，像他這樣的公司面臨着強大的商業、地緣政治和個人壓力，這些壓力可能與社會的更廣泛利益相沖突。

「每個前沿人工智能實驗室.在一系列激勵和約束下運作，有時可能與做正確的事情相沖突，」他説，並補充説，即使是善意的研究人員也仍然受到這些力量的影響。

奧拉表示，這使得外部審查變得至關重要。

此次活動標誌着科技行業與天主教會之間不同尋常的融合，天主教會試圖將自己定位為人工智能快速發展影響的道德代言人。

梵蒂岡唯一的大技術代表

Anthropic是美國-生產Claude AI工具的公司。它由Olah和OpenAI的其他前員工於2021年創立，OpenAI是由Sam Altman和Elon Musk等人創建的人工智能開發人員，是ChatGPT的幕后黑手。

Anthropic的創始人離開了現在的競爭對手，因為他們擔心OpenAI在沒有徹底測試的情況下發展得太快。

Anthropic與唐納德·特朗普總統的政府發生了衝突，特別是堅持要求護欄限制其型號如何用於軍事目的，例如自動瞄準武器或國內監視。

當路透社問及為什麼他是唯一受邀參加梵蒂岡活動的大型科技公司代表時，奧拉指出他長期以來一直關注人工智能安全和與宗教社區的接觸。

「最終，邀請誰是梵蒂岡的決定，」他説，並補充説，他的職業生涯致力於使人工智能系統更安全，並與超過15個宗教就該技術提出的問題進行了接觸。

「可怕的時刻」

奧拉在演講中對教會參與這項快速發展的技術表示歡迎，並表示人工智能提出的道德問題遠遠超出了工程領域。

奧拉表示，考慮到人工智能的發展速度，公眾對人工智能的擔憂，尤其是年輕人，是可以理解的。

「我認為這是一個可怕的時刻。事情進展很快。這是一項非常強大的技術，」他告訴路透社。

「事情有可能變得糟糕，我們所有人都有責任將其推向好的方向。"

奧拉強調了他所説需要緊急關注的三個領域--大規模失業的風險、確保人工智能福利在全球範圍內擴展的必要性，以及如何解釋日益複雜、有時不透明的系統行為的懸而未決的問題。

「人工智能的發展集中在少數富裕國家。我們如何確保人工智能的收益在全球範圍內共享？」奧拉在梵蒂岡對觀眾説道。

（Giselda Vagnoni和Joshua McElwee報道; Crisian Balmer和Keith Weir編輯）

（（crispian. thomsonreuters.com;））