這是一個(gè)好問(wèn)題：既然機器可以學(xué)習，它們能忘掉嗎？

很多公司都使用機器學(xué)習來(lái)分析人們的欲望、厭惡或面孔。研究人員提出了一個(gè)不同的問(wèn)題：我們如何讓機器忘記學(xué)習？

機器學(xué)習正在尋找如何在人工智能軟件中誘發(fā)選擇性失憶的方法。目標是從機器學(xué)習系統中刪除特定人員或數據點(diǎn)的所有痕跡，而不影響其性能。

如果該功能可以實(shí)現，這個(gè)概念可以更好地讓人們控制他們的數據和產(chǎn)生的價(jià)值。盡管用戶(hù)已經(jīng)可以要求一些公司刪除個(gè)人數據，但他們并不清楚算法是如何調整這些信息。機器忘掉學(xué)習卻有可能讓一個(gè)人撤回他們的數據和公司獲利的方法。

該方法對于那些想刪除網(wǎng)上分享的內容來(lái)說(shuō)很直觀(guān)，但人工健忘癥的概念需要計算機科學(xué)方面的一些新想法。

你認為這個(gè)想法可以實(shí)現嗎？

這些公司花費數百萬(wàn)美元訓練機器學(xué)習算法來(lái)識別面孔或對社交帖子進(jìn)行排名，算法比手動(dòng)編碼人員可以更快地解決問(wèn)題。但一旦經(jīng)過(guò)訓練，機器學(xué)習系統就不會(huì )輕易改變，甚至不會(huì )被理解。消除特定數據點(diǎn)影響的傳統方法是從頭開(kāi)始重建系統，這是一項代價(jià)高昂的工作。

賓夕法尼亞大學(xué)機器學(xué)習的教授亞倫羅斯表示“這項研究旨在找到一些中間立場(chǎng)，當他們要求刪除數據時(shí)，我們能否消除他們數據的所有影響，同時(shí)避免從頭開(kāi)始重新訓練的全部成本？”

機器取消學(xué)習的工作部分是由于人們關(guān)注到人工智能可能侵犯隱私的方式。長(cháng)期以來(lái)，世界各地的數據監管機構都有權強制公司刪除不良信息。例如歐盟和加利福尼亞州的公民，如果他們對披露的內容改變了主意，他們有權要求公司刪除他們的數據。最近，美國和歐洲的監管機構表示，人工智能系統有時(shí)必須更進(jìn)一步：刪除針對敏感數據進(jìn)行訓練的系統。

“當他們要求刪除數據時(shí)，我們能否消除他們數據的所有影響，同時(shí)避免從頭開(kāi)始重新訓練的全部成本？”

去年，英國數據監管機構警告，一些機器學(xué)習軟件可能會(huì )受到 GDPR 權利的約束，例如數據刪除，因為 AI 系統可能包含個(gè)人數據。安全研究人員已經(jīng)表明，算法有時(shí)會(huì )被迫泄露其創(chuàng )建中使用的敏感數據。今年年初，美國聯(lián)邦貿易委員會(huì )迫使面部識別公司 Paravision 刪除了一系列以不當方式獲取的面部照片和用它們訓練的機器學(xué)習算法。FTC 專(zhuān)員 Rohit Chopra 稱(chēng)贊這種新的執法策略是一種迫使違反數據規則的公司“喪失其欺騙成果”的方式。

取消機器學(xué)習研究的小領(lǐng)域正在努力解決這些監管轉變帶來(lái)的一些實(shí)際和數學(xué)問(wèn)題。研究人員已經(jīng)表明，他們可以讓機器學(xué)習算法在某些條件下忘記，但該技術(shù)尚未準備好。

“對于一個(gè)年輕的領(lǐng)域來(lái)說(shuō)很常見(jiàn)，這個(gè)領(lǐng)域渴望做的事情與我們現在知道如何做的事情之間存在差距，”羅斯說(shuō)。

多倫多大學(xué)和威斯康星大學(xué)麥迪遜分校的研究人員在 2019 年時(shí)，提出了一種很有前景的方法是將新機器學(xué)習項目的源數據分成多個(gè)部分。單獨處理每個(gè)，然后將結果組合到最終的機器學(xué)習模型中。如果需要忘記一個(gè)數據點(diǎn)，則只需重新處理原始輸入數據的一小部分。該方法被證明適用于在線(xiàn)購買(mǎi)數據和超過(guò)一百萬(wàn)張照片的集合。

Roth 和來(lái)自賓夕法尼亞大學(xué)、哈佛大學(xué)和斯坦福大學(xué)的合作者最近證明了這種方法的一個(gè)缺陷，表明如果提交的刪除請求以特定的順序出現，無(wú)論是偶然的還是來(lái)自惡意行為者，學(xué)習系統都會(huì )崩潰。并且他們還展示了如何緩解這個(gè)問(wèn)題。

滑鐵盧大學(xué)教授 Gautam Kamath 也致力于取消學(xué)習，他說(shuō)該項目發(fā)現并解決的問(wèn)題是，關(guān)于如何使機器取消學(xué)習不僅僅是實(shí)驗室好奇心的許多懸而未決的問(wèn)題的一個(gè)例子。他自己的研究小組一直在探索通過(guò)連續取消學(xué)習多個(gè)數據點(diǎn)來(lái)降低系統準確性的程度。

Kamath 還對尋找方法讓公司證明——或監管機構來(lái)檢查——系統真的忘記了它應該忘記的東西?！案杏X(jué)好像還有一段路要走，但也許他們最終會(huì )為這類(lèi)事情配備審計員，”他說(shuō)。

隨著(zhù) FTC 和其他機構仔細研究算法的力量，調查解除機器學(xué)習可能性的監管理由可能會(huì )增加。牛津大學(xué)研究數據保護的教授魯本·賓斯 (Reuben Binns) 表示，近年來(lái)在美國和歐洲，個(gè)人應該對其數據的命運和成果有發(fā)言權的觀(guān)念越來(lái)越多。

在科技公司真正實(shí)施機器學(xué)習之前，需要精湛的技術(shù)工作，讓人們更好地控制其數據的算法命運。即便如此，該技術(shù)可能不會(huì )對人工智能時(shí)代的隱私風(fēng)險產(chǎn)生太大影響。

差分隱私是一種巧妙的技術(shù)，可以對系統泄漏的個(gè)人信息進(jìn)行數學(xué)限制，提供了有用的比較。蘋(píng)果、谷歌和微軟都對這項技術(shù)贊不絕口，但使用相對較少，隱私風(fēng)險仍然很多。

Binns 說(shuō)，雖然它確實(shí)很有用，但“在其他情況下，它更像是一家公司所做的事情，以表明它正在創(chuàng )新?！彼麘岩蓹C器取消學(xué)習可能會(huì )證明是相似的，與其說(shuō)是數據保護的重大轉變，不如說(shuō)是對技術(shù)敏銳度的展示。即使機器學(xué)會(huì )忘記，用戶(hù)也必須記住要小心與誰(shuí)共享數據。

參考鏈接：

https://www.wired.com/story/machines-can-learn-can-they-unlearn/

本文由AI科技大本營(yíng)翻譯，轉載請注明出處。