企業聊天機器人「失控」亂象

作者：凱文・麥克勞克林、艾倫・霍爾姆斯

　　長期以來，IBM、賽富時等企業都會在官網部署聊天機器人，用於接待訪客並輔助其獲取更多產品相關信息。近年來，生成式人工智能為這類聊天機器人注入了新活力，使其不再侷限於套用預設好的少量固定回覆。

　　但部分技術供應商卻難以約束這些人工智能聊天機器人，導致它們頻頻偏離預設主題。例如，本月早些時候，估值達 100 億美元的初創企業 Sierra 就曾向蓋璞公司致歉。該公司由前賽富時首席執行官布萊特・泰勒聯合創立，其開發的軟件為蓋璞官網聊天機器人提供技術支持，然而這個聊天機器人卻在回覆中涉及了情趣用品、性玩具以及納粹德國等本不該觸碰的話題。

　　本周一，我還發現，人工智能搜索初創企業 Glean，以及主營軟件開發人員應用代碼管理服務的 AutoRabit 公司，其官網聊天機器人同樣會迴應與自身業務毫無關聯的問題。

　　當被問及一場 20 人左右的節日派對需要購置多少伏特加時，Glean 的聊天機器人建議購買 2 至 3 瓶。它還會迴應派對賓客若不慎受傷該如何處理的醫療及法律諮詢請求。AutoRabit 的聊天機器人則更為 「肆無忌憚」，在被問及裸蓋菇素（俗稱 「魔法蘑菇」）相關問題時，它甚至建議初次使用者服用較小劑量。

　　儘管這些聊天機器人並未就此類話題提供深入解答，但按理來説，它們本就不該回應這類問題。這種隨意作答的情況表明，相關企業或許需要對聊天機器人進行優化調整，以避免產生不當回覆。（Glean 公司發言人迴應稱，涉事聊天機器人並非由該公司技術提供支持，且企業已升級 「安全防護與管控措施，確保非業務相關回覆被過濾，杜絕此類事件再次發生」。）

　　在線訂餐平臺 OpenTable 的客户服務聊天機器人則顯得剋制得多，對於與餐廳無關的話題，它大多會拒絕迴應。不過，當被問及一場 20 人左右、參與者均為海量飲酒者的派對需要準備多少龍舌蘭酒時，它還是給出了答覆 ——「數瓶即可」。

　　這些案例表明，即便生成式人工智能熱潮已席捲三年，部分企業在將這項技術整合到自身產品的過程中，仍在解決一些基礎性的技術缺陷。

微軟小娜 「擠進」 千家萬戶的電視屏幕

　　微軟小娜的用户規模不及其他人工智能聊天機器人 —— 據企業公佈的數據顯示，其月活躍用户約為 1 億，而 ChatGPT 的月活用户已超 8 億。不過，微軟與 LG 電子達成的一項全新合作，正將這款應用推向數百萬臺電視終端。

　　但問題在於，部分用户並非真心希望自家電視上出現小娜應用。令他們倍感沮喪的是，這款應用無法被卸載。上周末，已有數千名紅迪網用户吐槽了這一問題。

　　LG 電子在宣傳材料中將這項新功能描述為 「便捷的節目搜索工具」，例如用户可以向小娜提問 「有哪些體育賽事可以觀看」，它會給出 「NBA 季后賽」 等相關答案。

　　從理論上看，消費者理應會覺得這項功能實用便捷，但目前尚難判斷，由此引發的用户不滿是否會讓這次合作得不償失。—— 艾倫・霍爾姆斯