靠識別AI一炮而紅 GPTZero又在整新活：聯合傳媒大佬識別假新聞

財聯社5月9日訊（編輯 史正丞）在過去半年的AI浪潮中，一個22歲的小夥子憑藉「反其道而行」的敏鋭嗅覺，憑藉能夠分辨AI文本的GPTZero一炮而紅。現在他有了更大的夢想：聯合媒體行業大佬打造一款識別「假新聞」的工具。

（來源：GPTZero）

作為一名在普林斯頓大學主修計算機科學，輔修新聞學的大四學生，Edward Tian在今年元旦假期里寫出了GPTZero程序。一經上線便火爆全球，至今已經擁有數百萬用户。

注：來自他的個人推特

GPTZero本身是基於OpenAI的GPT模型微調而來，判斷文本是否為AI撰寫的邏輯主要有兩條：困惑度和突發性。簡而言之，如果機器人對給予的文本更加熟悉，那麼這段文本更有可能是由AI生成的。根據官網介紹，這個模型對於人類撰寫文本的識別準確率高達99%，對AI文本的識別準確率也能達到85%。

根據財聯社編輯的簡單測試，這款應用目前能夠正確識別出GPT-3.5撰寫的文本，但對更聰明的GPT-4識別成功率明顯下降。

（來源：ChatGPT、GPTZero）

憑藉GPTZero打響知名度，Edward Tian目前已經拉起一個10人小團隊，並拿到350萬美元的風險投資。投資人中就包括Stability AI的創始人兼CEO伊馬德·莫斯塔克，現在市場上許多「圖像生成大模型」都與他們家的Stable Diffusion有關，近期Stability AI也發佈了開源大語言模型。

在取得最初的成功后，Edward Tian的下一步動作正是將AI技術與自己的新聞理想結合起來。目前，他們的小團隊啟動了一個名為「Origin——拯救新聞行業」的項目，主要的目的是使用AI識別通過AI生成的假新聞。

作為最新的進展，本周一Edward Tian的團隊向湯姆· 格洛瑟（前湯森路透和路透社CEO）和馬克·湯普森（曾擔任BBC總編輯、紐約時報總裁兼CEO）等業界巨頭展示了Origin第一個樣本。據報道，雙方討論了AI檢測和分析領域的合作。Edward Tian的公司也有志於開拓信任&安全產業、政府、版權、金融、法律等領域的業務。

（來源：社交媒體）

OpenAI也是跟隨者

在Edward Tian的GPTZero爆火后，OpenAI也推出了自營的檢測工具AI Text Classifier，但至今仍處於不太好用的狀態。根據報道，OpenAI這款官方應用在識別AI文本時只有26%的準確率，同時也有9%的概率把人類撰寫的文章錯判成AI。此外這款應用在識別英語以外的文本時表現更糟，檢測短文本和代碼時的結果更是「不可靠」。

（來源：OpenAI）

更關鍵的是，OpenAI明確表示檢測的結果不能用於下判斷，只能作為決定文本來源的輔助應用。這也意味着，即便大學教授檢測出學生論文由AI生成的概率達到70%，他也無法因此就使用懲戒手段。

而對於AI檢測行業來説，目前也有兩個最主要的困難。首先，由於AI生成文本的社會危害性並不如惡意製作的圖片、視頻那麼明顯，所以潛在付費客户對於這項業務的興趣並沒有那麼大。此外，目前用於檢測AI的技術也不成熟。專注AI產業投資的Tola Capital董事總經理Sheila Gulati介紹稱，目前的檢測工具大都是一些過渡性的產品，這個行業的最終形態的複雜程度可能會比現在高出很多。