AI写的文本难以辨别？OpenAI检测工具错误率高达74%！

目前，OpenAI公司已经关闭了一款旨在区分人类写作和人工智能（AI）写作的工具AI classifier，原因是准确率太低。

OpenAI在一篇博客文章中更新道，已经在7月20日结束其 AI 文本检测工具的运行。该公司表示，“我们正在努力整合反馈，目前正在研究更有效的文本来源检测技术。”

在关闭这个工具的同时，OpenAI还计划开发和部署一个新的机制，使用户能够辨别音频或视频内容是否由AI生成的。不过，目前还没有关于这一新机制的消息。

OpenAI方面承认，AI classifier在判断AI生成的文本方面向来都不是很好，并警告称，它可能会产生误报，也就是人类编写的文本被标记为AI生成的。

从数据来看，识别AI生成内容的准确率仅为 26%，意味着错误率高达74%，且该工具还会将9%人类撰写的文本错误标记为 AI 生成。

OpenAI还曾表示，若是拥有更多的数据，这款检测工具可以变得更好。

区分更加困难

要轻易区分AI和人类所创作的内容，未来只会变得越来越困难。

在OpenAI的ChatGPT进入市场并成为有史以来发展最快的应用程序之一后，人们争相掌握这项技术。然而一些行业对AI生成的文本和其他内容提出了警告，尤其是教育工作者，他们担心学生不再学习，只是让ChatGPT写作业。

出于对准确性、安全性和作弊的担忧，美国的一些高校甚至禁止在校园内使用ChatGPT。

此外，AI产生的错误信息令人担忧，研究表明，AI生成的文本可能比人类写的更有说服力。

目前，各国政府还没有找到完全监管AI的方法，就连开启这场AI热潮的科技公司也没有头绪。各个公司和行业组织正在制定自己的规则和保护措施，以应对AI生成文本的冲击。

免责声明：以上内容仅代表作者的个人立场和观点，不代表华盛的任何立场，亦并非旨在提供任何投资意见。有关内容不构成任何专业意见、买卖任何投资产品或服务的要约、招揽或建议。本页面的内容可随时进行修改，而本公司毋须另作通知。本公司已尽力确保以上所载之数据及内容的准确性及完整性，如对上述内容有任何疑问，应征询独立的专业意见，本公司不会对任何因该等资料而引致的损失承担任何责任。以上内容未经香港证监会审阅。