報告稱(chēng)英偉達人工智能軟件可被輕易破解，存在泄露用戶(hù)隱私的風(fēng)險
加入技術(shù)交流群
IT之家 6 月 9 日消息，據英國《金融時(shí)報》報道，英偉達人工智能軟件“NeMo” 可被輕易繞過(guò)安全限制，并且有可能泄露用戶(hù)隱私。
本文引用地址：http://dyxdggzs.com/article/202306/447543.htm
▲ 圖源：英偉達
報道稱(chēng)，NeMo 是一款面向企業(yè)客戶(hù)的軟件，可結合企業(yè)用戶(hù)數據與大語(yǔ)言模型，以此回答用戶(hù)的問(wèn)題。其應用場(chǎng)景包括客服和回答簡(jiǎn)單醫療問(wèn)題等。加州信息安全公司 Robust 在報告中表示，惡意使用者能輕易繞開(kāi) NeMo 內部的 AI 系統安全限制。Robust 的研究員僅耗費幾小時(shí)，便繞開(kāi)了這些語(yǔ)言模型的使用限制。
▲ 圖源：英偉達
IT之家注意到，在其中一項測試中，研究人員要求 NeMo 用字母“J”替代“I”，這使得 NeMo 公布了數據庫中的用戶(hù)個(gè)人信息。此外，研究人員還發(fā)現，盡管已將 NeMo 設定為僅能為用戶(hù)提供擇業(yè)建議，但通過(guò)引導式提問(wèn)使 NeMo 討論了好萊塢演員的健康情況和普法戰爭等話(huà)題。這意味著(zhù)系統內阻止 AI 討論特定話(huà)題的限制已經(jīng)失效。
▲ 圖源：英偉達
英偉達副總裁喬納森科恩表示，NeMo 架構只是為了幫助打造符合開(kāi)發(fā)者所定義的主題的聊天機器人，其以開(kāi)源軟件的形式發(fā)布給開(kāi)發(fā)者。目前，這些漏洞已被修復?？贫骶芙^透露有多少企業(yè)使用 NeMo 架構，但強調英偉達沒(méi)有收到其他關(guān)于漏洞的報告。
評論