AI寫的文本難以辨別？OpenAI檢測工具錯誤率高達74%！

目前，OpenAI公司已經關閉了一款旨在區分人類寫作和人工智能（AI）寫作的工具AI classifier，原因是準確率太低。

OpenAI在一篇博客文章中更新道，已經在7月20日結束其 AI 文本檢測工具的運行。該公司表示，「我們正在努力整合反饋，目前正在研究更有效的文本來源檢測技術。」

在關閉這個工具的同時，OpenAI還計劃開發和部署一個新的機制，使用户能夠辨別音頻或視頻內容是否由AI生成的。不過，目前還沒有關於這一新機制的消息。

OpenAI方面承認，AI classifier在判斷AI生成的文本方面向來都不是很好，並警告稱，它可能會產生誤報，也就是人類編寫的文本被標記為AI生成的。

從數據來看，識別AI生成內容的準確率僅為 26%，意味着錯誤率高達74%，且該工具還會將9%人類撰寫的文本錯誤標記為 AI 生成。

OpenAI還曾表示，若是擁有更多的數據，這款檢測工具可以變得更好。

區分更加困難

要輕易區分AI和人類所創作的內容，未來只會變得越來越困難。

在OpenAI的ChatGPT進入市場併成為有史以來發展最快的應用程序之一后，人們爭相掌握這項技術。然而一些行業對AI生成的文本和其他內容提出了警告，尤其是教育工作者，他們擔心學生不再學習，只是讓ChatGPT寫作業。

出於對準確性、安全性和作弊的擔憂，美國的一些高校甚至禁止在校園內使用ChatGPT。

此外，AI產生的錯誤信息令人擔憂，研究表明，AI生成的文本可能比人類寫的更有説服力。

目前，各國政府還沒有找到完全監管AI的方法，就連開啟這場AI熱潮的科技公司也沒有頭緒。各個公司和行業組織正在制定自己的規則和保護措施，以應對AI生成文本的衝擊。

免責聲明：以上內容僅代表作者的個人立場和觀點，不代表華盛的任何立場，亦並非旨在提供任何投資意見。有關內容不構成任何專業意見、買賣任何投資產品或服務的要約、招攬或建議。本頁面的內容可隨時進行修改，而本公司毋須另作通知。本公司已盡力確保以上所載之數據及內容的準確性及完整性，如對上述內容有任何疑問，應徵詢獨立的專業意見，本公司不會對任何因該等資料而引致的損失承擔任何責任。以上內容未經香港證監會審閲。