已獲微軟和Adobe支持，C2PA協議能為AI生成內容貼上標籤

隨着人工智能生成的文本、圖像和視頻的爆炸式增長，立法者和普通互聯網用户都在呼籲提高透明度。儘管簡單地添加標籤似乎是一個非常合理的要求（事實也確實如此），但實際上這並不容易，而且現有的解決方案，如人工智能檢測和水印，存在一些嚴重的問題。

正如我的同事梅麗莎·海基拉（Melissa Heikkilä）所寫的那樣，目前的大多數技術解決方案「都不是最新一代的人工智能語言模型的對手」。儘管如此，標記和檢測人工智能生成內容的競賽仍在繼續。

這就是 C2PA 協議存在的價值。C2PA，以創建該協議的組織「內容來源和真實性聯盟（Coalition for Content Provenance and Authenticity）」命名。它創建於 2021 年，是一套新的技術標準和開源代碼，可以明確而安全地標註內容來源的信息。

C2PA 技術本身比其他人工智能標註工具更安全，儘管有點複雜。在我之前文章中，我對它進行了更詳細的介紹，但也許最容易理解的方式是把它想象成一個營養成分表（這是我採訪過的大多數人喜歡的比喻）。

Truepic 負責公共事務的副總裁穆尼爾·易卜拉欣（Mounir Ibrahim）表示：「這個溯源的想法是以一種可互操作和不可篡改的方式標記內容，這樣它就可以以這種高透明度和類似營養成分表的方式在互聯網上傳播。」

C2PA 剛推出時得到了包括 Adobe 和微軟在內的幾家知名公司的支持，但在過去六個月里，其參與者數量增加了 56%。就在上周，主流媒體平臺 Shutterstock 宣佈將使用 C2PA 為其所有人工智能生成的媒體貼上標籤。

它基於一種可選擇是否加入的規則，因此那些想要覈實和披露內容來源的團體，如報紙或廣告商，可以選擇將證書添加到媒體中。

該項目的負責人之一、Adobe 公司的安迪·帕森斯（Andy Parsons）將 C2PA 的新興趣和緊迫性歸因於生成式人工智能（內容）的激增，以及美國和歐盟對立法的期望，這些立法將要求把透明度提高到新的高度。

這一努力背后的願景是遠大的，它是否能真正成功，取決於其是否能被廣泛地採用。參與該項目的人表示，希望所有主要內容公司都採用這一標準。

為此，易卜拉欣説，可用性是關鍵：「你想確保無論它在互聯網上放在哪里，都會以同樣的方式讀取和接收，就像 SSL 加密一樣。這就是你如何在網上擴展一個更透明的生態系統。」

隨着我們進入美國大選季，這可能是一個關鍵的發展態勢，屆時所有的目光都將關注人工智能產生的錯誤信息。該項目的研究人員表示，他們正在競相發佈新功能，並在大概率會到來的虛假信息攻擊之前爭取覆蓋更多的社交媒體平臺。

目前，C2PA 主要處理圖像和視頻，不過成員們表示，他們正在研究處理文本內容的方法。該協議還有其他一些缺點，但真正重要的是，我們必須理解，即使披露了人工智能的使用，它也可能無法阻止其生成的錯誤信息的危害。社交媒體平臺仍需要決定是否在其網站上保留這些信息，用户也必須自己決定是否信任和共享這些內容。

這有點讓人想起過去幾年科技平臺為錯誤信息貼標籤的舉措。在 2020 年美國大選之前，臉書將超過 1.8 億條帖子標記為錯誤信息，但顯然還存在相當大的問題。儘管 C2PA 不打算為帖子指定準確性指標，但很明顯，僅僅提供更多關於內容的信息並不一定能讓我們擺脫困境。

作者簡介：T·瑞恩·莫斯利（T.Ryan-Mosley ）是《麻省理工科技評論》的高級技術政策記者。她關注的是新技術對政治制度、人權和全球民主國家健康的影響。她還參與了許多播客和數據新聞項目。在她成為《麻省理工科技評論》的記者之前，她是一名研究員。在從事新聞工作之前，她是大公司新興技術戰略的顧問。2012 年，她曾任凱洛格國際研究所的研究員，專門研究衝突和戰后發展。

免責聲明：以上內容僅代表作者的個人立場和觀點，不代表華盛的任何立場，亦並非旨在提供任何投資意見。有關內容不構成任何專業意見、買賣任何投資產品或服務的要約、招攬或建議。本頁面的內容可隨時進行修改，而本公司毋須另作通知。本公司已盡力確保以上所載之數據及內容的準確性及完整性，如對上述內容有任何疑問，應徵詢獨立的專業意見，本公司不會對任何因該等資料而引致的損失承擔任何責任。以上內容未經香港證監會審閲。