Meta將在旗下社交平臺標記AI生成圖像，方便用戶(hù)識別

2月7日消息，美國時(shí)間周二，Facebook母公司Meta的全球事務(wù)總裁尼克·克萊格（Nick Clegg）宣布，未來(lái)幾個(gè)月將推出一項新技術(shù)，利用文件內的隱形標記來(lái)檢測和標記其他公司人工智能（AI）服務(wù)生成的圖像。

克萊格在一篇博客文章中詳細介紹了這項計劃。他表示，Meta將在其旗下的Facebook、Instagram和Threads等服務(wù)平臺上，對所有帶有標記的內容應用這些新標簽。這將幫助用戶(hù)識別那些看似真實(shí)照片，實(shí)則是由人工智能創(chuàng )作的圖像。

值得一提的是，Meta已率先對其自家人工智能工具生成的所有內容進(jìn)行了標簽處理?？巳R格透露，一旦新系統啟動(dòng)并運行順利，Meta將對OpenAI、微軟、Adobe、Midjourney、Shutterstock和谷歌等公司所運行服務(wù)上創(chuàng )建的圖像采取同樣的處理方式。

這一舉措標志著(zhù)科技公司正在積極開(kāi)發(fā)一個(gè)新興的標準體系，旨在減輕與生成式人工智能技術(shù)相關(guān)的潛在風(fēng)險。生成式人工智能技術(shù)可以根據簡(jiǎn)單提示生成看似真實(shí)但實(shí)際上虛假的內容。

克萊格在接受采訪(fǎng)時(shí)表達了對目前技術(shù)能力的信心，他認為這些公司現在可以可靠地標記人工智能生成的圖像。不過(guò)，他也坦言，標記音頻和視頻內容的工具更為復雜，目前仍在緊張開(kāi)發(fā)中。

這一新計劃顯然借鑒了過(guò)去十年間一些公司建立的協(xié)調跨平臺刪除被禁內容的模板。

克萊格強調：“盡管這項技術(shù)，特別是在音頻和視頻領(lǐng)域，還有待完善，但我們希望能夠借此創(chuàng )造一種動(dòng)力和激勵，促使其他行業(yè)效仿?！?/p>

在談到內容管理時(shí)，克萊格透露，Meta將開(kāi)始要求用戶(hù)對自己修改過(guò)的音頻和視頻內容貼上標簽。如果用戶(hù)未能遵守這一規定，將會(huì )面臨處罰。但克萊格沒(méi)有詳細說(shuō)明處罰措施。

然而，克萊格也承認，目前在標記由ChatGPT等人工智能工具生成的書(shū)面文本方面，尚缺乏有效的機制。

當被問(wèn)及Meta是否會(huì )對其加密消息服務(wù)WhatsApp上分享的生成式人工智能內容貼上標簽時(shí)，Meta發(fā)言人并未給出明確答復。

周一，Meta的獨立監督委員會(huì )對該公司處理誤導性篡改視頻的政策提出了批評，認為該政策過(guò)于狹隘，應該采取標記內容的方式而非直接刪除?？巳R格表示大體上同意這些批評，并承認現有政策在應對合成內容和混合內容日益增多的環(huán)境下顯得捉襟見(jiàn)肘。

克萊格以Meta正在推動(dòng)的新標簽合作關(guān)系為例，證明公司已經(jīng)在朝著(zhù)監督委員會(huì )提議的方向努力邁進(jìn)。