微軟人工智能首席執行官穆斯塔法·蘇萊曼（Mustafa Suleyman）警告在130億美元的人工智能熱潮中「看似有意識的人工智能」存在「精神病風險」

微軟公司（納斯達克股票代碼：MSFT）人工智能首席執行官穆斯塔法·蘇萊曼（Mustafa Suleyman）周二警告「看似有意識的人工智能」（SCAI）系統正在出現的風險，認為該技術可能會在用户之間造成危險的社會分裂和心理依賴。

蘇萊曼在一篇題為「我們必須為人類構建人工智能;而不是成為一個人」的長篇博客文章中概述了他對人工智能系統的擔憂，這些系統可以令人信服地模擬意識，而無需實際擁有意識。這一警告是在微軟人工智能業務年收入超過130億美元之際發佈的，同比增長175%。

蘇萊曼的擔憂集中在他所説的「精神病風險」上--用户對人工智能意識產生強烈信念的可能性，這可能會導致對人工智能權利和公民身份的倡導。

這一發展可能會使微軟、Alphabet Inc.等主要人工智能公司的監管環境變得複雜。（NASDAQ：GOOGL）（NASDAQ：GOOG）和Meta Platforms Inc.（納斯達克股票代碼：Meta）。

這位微軟人工智能首席執行官在2024年3月加入微軟之前曾與人共同創立了谷歌DeepMind，他強調，當前的大型語言模型顯示出意識的「零證據」。然而，他認為，當今可用的技術能力可以結合起來，在2-3年內創建令人信服的模擬。

另請參閱：OpenAI在推出4.60美元ChatGPT Go訂閲后，推出印度辦事處，進軍第二大市場

根據蘇萊曼的分析，幾種現有的人工智能能力可以結合起來創建看似有意識的系統：

Suleyman表示，這些功能已經通過主要人工智能API提供，不需要突破性技術來實現，因此在沒有行業干預的情況下SCAI開發是「不可避免的」。

該博客文章呼籲行業立即採取行動，包括對人工智能能力的共識定義和防止意識模擬的明確設計原則。蘇萊曼建議人工智能公司應避免鼓勵人們相信人工智能意識，並實施「顛覆時刻」來提醒用户人工智能的侷限性。

在微軟人工智能，蘇萊曼的團隊正在圍繞負責任的人工智能個性設計開發「牢固的護欄」。該方法的重點是創建有用的人工智能伴侶，這些伴侶明確地表現為人工系統，而不是模擬類似人類的意識或情感。

考慮到蘇萊曼招募了前Google DeepMind人才，其中包括衞生部門負責人多米尼克·金（Dominic King）以及人工智能研究人員馬可·塔利亞薩奇（Marco Tagliasacchi）和扎蘭·博爾索斯（Zalán Borsos），這一警告尤其重要。

閲讀下一步：

聲明：此內容部分是在人工智能工具的幫助下製作的，並由Benzinga編輯審查和發佈。

圖片來源：Shutterstock