OpenAI對人工智能理智的追求：對抗被喚醒的聊天機器人和流氓技術

OpenAI的創建者ChatGPT已經加緊努力，防止流氓人工智能的出現，承認避免與超級智能機器相關的潛在危險的關鍵重要性。

發生了什麼：OpenAI加倍努力防止流氓AI系統的出現。由於擔心人類可能被剝奪權力或滅絕，OpenAI一直在投入大量資源，並組建了一個名為SuperAlign團隊的專門研究團隊。

另請參閱：如何在語音中使用ChatGPT

根據周三發佈的一篇博文，OpenAI團隊的目標是創建一種能夠應對超智能AI帶來的風險的「人類級別」的AI比對研究人員。該公司打算在未來四年內將其20%的計算能力投入到這一使命中。

OpenAI表示：「超智能的巨大力量也可能是非常危險的，可能會導致人類喪失權力，甚至人類滅絕。」他補充説，「目前，我們還沒有一個解決方案來控制一個潛在的超智能人工智能，並防止它變得無賴。」

OpenAI的聯合創始人兼首席科學家Ilya Sutskever將領導一個新的團隊，致力於將超智能人工智能與人類價值觀結合起來。該公司計劃廣泛分享其發現，並積極與跨學科專家接觸，以解決更廣泛的社會關切。 重要原因：今年3月，包括埃隆·馬斯克在內的1000多名技術專家簽署了一封公開信，呼籲立即暫停比OpenAI的GPT-4更強大的人工智能開發，直到獨立專家創建、執行和評估此類設計的安全協議。

此前，Alphabet Inc.(納斯達克股票代碼：GOOG)首席執行官S承認，在沒有明確解釋的情況下，當前的人工智能系統面臨着「幻覺問題」的挑戰。

在發佈期間，Google Bard因提供不正確的信息而遭到巨大反彈，隨后引發了關於聊天機器人準確性的辯論。

OpenAI的chat GPT和微軟公司的Bing AI使用了相同的底層OpenAI技術，也分別面臨着被「喚醒」和流氓的批評。

OpenAI關於防止流氓人工智能的最新聲明發布之際，有關對該技術發展的嚴格監管的討論正處於高潮。今年5月，OpenAI的首席執行官薩姆·奧爾特曼在國會作證，並就人工智能法規發表了大膽的聲明。「我認為，如果這項技術出了問題，它可能會出很大問題。我們希望對此直言不諱，」他説。

點擊此鏈接查看Benzinga的消費者技術報道的更多信息。

接下來閲讀：ChatGPT網站訪問量下降：世界是否已經厭倦了與AI聊天？