OpenAI的文本到視頻工具Sora如何改變科學(xué)與社會(huì )

上個(gè)月OpenAI發(fā)布了其Sora文本到視頻AI工具，這一消息受到了一些研究人員的擔憂(yōu)和興奮的交織反應，他們擔心這項技術(shù)可能被濫用。這家總部位于加州的公司展示了Sora從幾個(gè)簡(jiǎn)短的文本提示中創(chuàng )建逼真視頻的能力，其中包括一個(gè)女人在東京的霓虹燈街道上行走的片段，以及一只狗跳躍在兩個(gè)窗臺之間的片段。

英國萊斯特的德蒙特福特大學(xué)數字文化專(zhuān)家特蕾西·哈伍德（Tracy Harwood）表示，她對文本到視頻人工智能（AI）的發(fā)展速度“感到震驚”。一年前，人們還在嘲笑AI制作的美國演員威爾·史密斯吃意大利面的視頻?，F在，一些研究人員擔心這項技術(shù)可能會(huì )在2024年顛覆全球政治。

OpenAI還開(kāi)發(fā)了ChatGPT和文本到圖像技術(shù)DALL·E，于2月15日首次推出了Sora，并宣布將該技術(shù)“提供給紅隊以評估可能存在危害或風(fēng)險的關(guān)鍵領(lǐng)域”?！t隊測試’指的是進(jìn)行模擬攻擊或利用技術(shù)的過(guò)程，以查看它如何應對現實(shí)世界中的惡意活動(dòng)，比如創(chuàng )造錯誤信息和仇恨內容。

Sora并不是文本到視頻技術(shù)的首個(gè)示例；其他示例包括紐約市Runway公司去年推出的Gen-2以及谷歌主導的Lumiere，后者于今年1月宣布。哈伍德表示，她對一些其他提供的產(chǎn)品“感到失望”。她說(shuō)：“它們在呈現給你的東西方面越來(lái)越平淡無(wú)奇?！彼a充說(shuō)，這些程序需要非常具體的提示才能產(chǎn)生引人入勝的內容。

哈伍德補充說(shuō)，錯誤信息是這些文本到視頻技術(shù)面臨的主要挑戰?！拔覀儗⒑芸鞎?huì )達到一個(gè)我們被大量看似令人信服的信息淹沒(méi)的地步。這真的很令人擔憂(yōu)?！?/p>

選舉問(wèn)題

這在即將舉行的選舉中尤其成為問(wèn)題，包括11月的美國總統選舉和英國即將進(jìn)行的大選?！皩?huì )有大量的假視頻和假音頻在流傳，”英國雷丁大學(xué)研究生成AI和電影制作的多米尼克·利斯（Dominic Lees）說(shuō)。2023年10月，英國工黨領(lǐng)袖基爾·斯塔默（Keir Starmer）的假音頻被發(fā)布，而美國總統喬·拜登鼓勵民主黨人不要投票的假音頻在今年1月流傳。

一個(gè)解決方案可能是要求文本到視頻AI使用水印，可以是視頻上的可見(jiàn)標記，將其標記為AI，也可以是視頻元數據中的人工簽名，但利斯不確定這是否會(huì )成功?！澳壳八】梢员粍h除，”他說(shuō)，并且在視頻元數據中包含水印依賴(lài)于人們積極研究他們觀(guān)看的視頻是否真實(shí)?！拔也徽J為我們可以誠實(shí)地要求全世界的觀(guān)眾在他們看的每個(gè)視頻上都這樣做，”利斯說(shuō)。

這項技術(shù)也有潛在的好處。哈伍德表示，它可以用于將難懂的文本，比如學(xué)術(shù)論文，呈現為更容易理解的格式?！八赡鼙挥脕?lái)向普通大眾傳達發(fā)現，這是它可能被用于的最大的事情之一，”她說(shuō)?！八梢钥梢暬喈攺碗s的概念?！?/p>

另一個(gè)潛在的用途可能是在醫療保健領(lǐng)域，文本到視頻AI能夠代替人類(lèi)醫生與患者交流?！坝行┤丝赡軙?huì )感到不安，”英國顧問(wèn)科學(xué)傳播員克萊爾·馬龍（Claire Malone）說(shuō)?！叭绻麄兿胍惶於啻蜗蜥t生提問(wèn)，其他人可能會(huì )覺(jué)得這非常方便?！?/p>

數據管理

哈伍德說(shuō)，文本到視頻AI工具如Sora可以幫助研究人員處理龐大的數據集，比如瑞士日內瓦附近的歐洲粒子物理實(shí)驗室CERN和其他大型科學(xué)項目產(chǎn)生的數據。馬龍說(shuō)，生成AI可以“篩選出代碼并執行研究中的單調任務(wù)”，而且還可以進(jìn)行“更復雜的工作[如]提供數據并要求它做出預測”。

創(chuàng )意產(chǎn)業(yè)的從業(yè)人員也提出了一些擔憂(yōu)。美國演員湯姆·漢克斯去年表示，AI可能使他在死后繼續出現在電影中，“從現在到天國來(lái)臨之前”。利斯說(shuō)：“如果你是一位雄心勃勃的年輕演員，考慮著(zhù)自己的未來(lái)，而你被告知‘對不起，湯姆·漢克斯將永遠扮演主角’，你會(huì )計劃在這個(gè)行業(yè)的未來(lái)嗎？”

文本到視頻AI將引發(fā)社會(huì )面臨的廣泛?jiǎn)?wèn)題?！拔覀儗⒉坏貌粚W(xué)會(huì )以前所未有的方式評估我們看到的內容，”哈伍德說(shuō)?！斑@些工具將媒體內容創(chuàng )作者的機會(huì )置于每個(gè)人的手中，”她說(shuō)?！拔覀儗⒁鎸@一后果。這是對物質(zhì)被消費方式的根本性轉變?！?/p>