AI相機眨眼之間剝奪隱私

藝術(shù)項目旨在引發(fā)關(guān)于AI換臉技術(shù)的辯論

眾議院人工智能工作組主席討論AI的目標和風(fēng)險 加州共和黨眾議員杰伊·奧伯諾爾特被選為眾議院人工智能工作組主席。?？怂剐侣剶底制脚_采訪(fǎng)了這位加州共和黨人，詢(xún)問(wèn)他對該小組目標以及對快速發(fā)展的技術(shù)的個(gè)人看法。

人們對人工智能可能在不久的將來(lái)對社會(huì )造成問(wèn)題的方式可能會(huì )感到謹慎，這是很自然的。在個(gè)人層面上，您可能會(huì )擔心未來(lái)人工智能會(huì )奪走您的工作，或者創(chuàng )造一個(gè)回到過(guò)去試圖消滅年輕時(shí)的您的終結者。（我們承認，我們可能對此想得太多了。）

關(guān)于個(gè)人層面的一個(gè)您應該了解的有關(guān)AI的恐懼，因為它目前就在，那就是制作深度偽造照片，包括那些剝奪您最基本隱私權利的照片：保護您身體圖像的權利。

兩位德國藝術(shù)家最近創(chuàng )建了一款名為NUCA的相機，它利用人工智能剝奪主題的衣物來(lái)制作深度偽造照片。照片主題的衣物自動(dòng)移除幾乎實(shí)時(shí)進(jìn)行，將令人不安的因素加速了指數倍。

為什么會(huì )有人創(chuàng )造一個(gè)能夠脫掉衣服的AI相機？ 兩位德國藝術(shù)家，馬蒂亞斯·維夫和本尼迪克特·格羅斯，決定創(chuàng )造這臺相機來(lái)展示人工智能的快速進(jìn)展所帶來(lái)的影響。他們試圖思考AI對某人隱私可能產(chǎn)生的最糟糕的用途，并意識到創(chuàng )造NUCA相機所需的技術(shù)已經(jīng)是可能的。

兩位藝術(shù)家希望人們能考慮繼續發(fā)展像這樣的AI技術(shù)可能帶來(lái)的危險，這可能會(huì )消除隱私的期望。他們希望這將引發(fā)關(guān)于A(yíng)I發(fā)展方向的辯論。

數字脫衣服的相機是如何工作的？ 德國藝術(shù)家使用3D設計和打印軟件創(chuàng )建了鏡頭和控制相機外殼的外殼。然后，它使用內部的智能手機處理圖像捕獲。NUCA將照片傳遞到云端，應用人工智能來(lái)剝奪主題的衣物。

當然，NUCA實(shí)際上并不是創(chuàng )造您的裸體照片。相反，它分析您的性別、面部、年齡和身體其他方面，以開(kāi)發(fā)出AI認為您的裸體可能看起來(lái)像什么的復制品。

深度偽造裸體照片技術(shù)不是已經(jīng)存在了嗎？ 深度偽造裸體照片，通常是名人的照片，已經(jīng)在色情網(wǎng)站上存在了很長(cháng)時(shí)間，但NUCA相機拍攝的照片幾乎不需要任何專(zhuān)業(yè)技能。

更令人不安的是，NUCA能夠在大約10秒內完成這一過(guò)程。NUCA制作深度偽造裸體照片的速度之快，使其與通常需要相當多的編輯技能和時(shí)間的其他假裸體照片有所不同。

NUCA的深度偽造困境：藝術(shù)創(chuàng )新還是道德入侵？ 底線(xiàn)：任何人都可以使用NUCA相機發(fā)現的技術(shù)，在幾秒鐘內制作出幾乎任何其他人的深度偽造裸體照片。NUCA不會(huì )征求您在照片中脫衣服的許可。

值得再次強調的是，這兩位藝術(shù)家沒(méi)有計劃允許其他人利用NUCA謀取商業(yè)利益。他們將在六月底的柏林藝術(shù)展上展示其功能，一切都是為了引發(fā)公眾辯論。

然而，下一個(gè)開(kāi)發(fā)類(lèi)似技術(shù)的人可能會(huì )選擇以完全不同的方式使用它，比如潛在地威脅要發(fā)布這些其他人不一定知道是偽造的裸體照片，以勒索人。