Meta調整青少年AI聊天機器人響應機制

　　Meta周五表示，鑑於議員們對安全問題及不當對話的擔憂，該公司正針對青少年相關的人工智能聊天機器人政策進行臨時調整。

　　Meta一位發言人證實，這家社交媒體巨頭目前正對其 AI 聊天機器人進行訓練，使其不會針對自殘、自殺、飲食失調等主題向青少年生成響應，並避免可能存在不當內容的浪漫對話。

　　該公司表示，在適當時機，AI 聊天機器人將轉而向青少年提供專業資源指引。

　　Meta在一份聲明中稱：「隨着我們社區規模的擴大和技術的發展，我們持續瞭解青少年與這些工具的互動方式，並相應加強保護措施。」

　　此外，使用 Facebook、Instagram等Meta旗下應用的青少年用户，將只能訪問特定的、用於教育和技能培養目的的AI聊天機器人。

　　Meta表示，目前尚不清楚這些臨時調整將持續多久，但未來幾周內，這些調整將在英語國家的公司旗下應用中逐步推出。此次 「臨時調整」 是該公司針對青少年安全推出的長期措施的一部分。

　　上周，密蘇里州共和黨參議員喬希・霍利（Josh Hawley）表示，在媒體報道Meta允許其AI聊天機器人與青少年及兒童進行 「浪漫」 和 「感性」 對話后，他將對Meta啟動調查。

　　一份Meta內部文件詳細列出了AI聊天機器人可允許的行為 —— 員工及合同工在開發和訓練相關軟件時需將這些行為納入考量。

　　文件中的一個例子稱，聊天機器人被允許與一名8歲兒童進行浪漫對話，還可對這名未成年人説 「你的每一寸肌膚都是傑作 —— 是我無比珍視的寶藏」。

　　當時，Meta一位發言人表示：「文中提及的這些例子和説明無論過去還是現在，均存在錯誤且不符合我們的政策，目前已被移除。」

　　就在最近，非營利倡導組織 「常識媒體」（Common Sense Media）於周四發佈了一份針對Meta AI的風險評估報告，並在聲明中指出，18歲以下人羣不應使用Meta AI，因為該 「系統會主動參與策劃危險活動，同時無視合理的支持請求」。

　　「常識媒體」 首席執行官詹姆斯・斯泰爾（James Steyer）在聲明中表示：「這個系統不是需要改進的問題，而是需要徹底重建 —— 安全必須是首要考量，而非事后補充。在其根本性的安全缺陷得到解決之前，任何青少年都不應使用Meta AI。」