Alexa“監聽(tīng)門(mén)”：用戶(hù)隱私與科技發(fā)展，總有一個(gè)要犧牲？

從2014年Echo推出至今，亞馬遜的Alexa在智能語(yǔ)音助手領(lǐng)域仍是打遍天下無(wú)敵，遙遙領(lǐng)先其他企業(yè)的相關(guān)產(chǎn)品。在很大程度上，這取決于它所擁有的數萬(wàn)項技能，而且，它的技能還在不斷更新拓展。僅在本月中旬，Alexa的技能庫里就新增了“測血壓”、“解答護照和銀行假期相關(guān)問(wèn)題”的技能。

然而，在用戶(hù)毫無(wú)戒備之心地享受Alexa帶來(lái)便利的同時(shí)，一些工作正在秘密地進(jìn)行。

亞馬遜雇傭大量員工監聽(tīng)Alexa錄音

本月早些時(shí)候，據彭博社披露，亞馬遜公司在全世界范圍內雇傭了員工（評審員）來(lái)提升Alexa的服務(wù)功能，然而，這個(gè)巨大團隊并不負責技術(shù)改進(jìn)，而是負責收集用戶(hù)對Alexa發(fā)出的指令，并作出相應的反饋。參與該項目的評審員從波士頓到哥斯達黎加，從印度到羅馬尼亞，總之遍布全球。

據悉，評審員每天工作9個(gè)小時(shí)，要分析上千條錄音。如此大規模、高強度地分析（監聽(tīng)），評審員難免會(huì )聽(tīng)到非常隱私的聲音。有兩名知情人甚至表示，他們確信自己通過(guò)Alexa聽(tīng)到了性侵事件，當他們向亞馬遜公司尋求指導意見(jiàn)，卻吃了閉門(mén)羹。

在彭博社爆料之后，亞馬遜發(fā)言人發(fā)表了聲明，大概是說(shuō)：“亞馬遜十分注重客戶(hù)的隱私安全。我們收集用戶(hù)對Alexa的指令，是為了更好地訓練語(yǔ)言識別系統和自然語(yǔ)言處理系統，以便于改善用戶(hù)體驗。目前，亞馬遜已有嚴格的技術(shù)和措施來(lái)保護用戶(hù)的個(gè)人信息，即便是公司的員工也無(wú)權訪(fǎng)問(wèn)?！?/span>

然而，無(wú)論是在營(yíng)銷(xiāo)過(guò)程中，還是在公司的隱私政策中，亞馬遜從來(lái)都沒(méi)有明確表示，他們雇傭了評審員來(lái)實(shí)時(shí)監聽(tīng)Alexa的錄音。而且，即便是用戶(hù)禁用了Alexa的語(yǔ)音記錄功能，這些用戶(hù)的語(yǔ)音記錄還是會(huì )傳送給評審員進(jìn)行分析。

密歇根大學(xué)的教授Florian Schaub是智能揚聲器隱私問(wèn)題方面的專(zhuān)家，他也對此事發(fā)表了自己的意見(jiàn)：

這件事是否屬于隱私問(wèn)題，取決于亞馬遜對待這些信息的謹慎程度，以及向他人呈現的方式。

姓名、電話(huà)號碼、家庭地址不保

就在大家以為人工監聽(tīng)事件快要過(guò)去的時(shí)候，彭博社在本周三又放出了一顆炸彈：Alexa背后的評審員可以獲知用戶(hù)的家庭地址，甚至包括姓名和電話(huà)號碼。如果用戶(hù)選擇與Alexa共享自己的聯(lián)系人，這些聯(lián)系人的相關(guān)信息也會(huì )出現在評審員的操作界面。

此前，亞馬遜聲稱(chēng)公司員工無(wú)法獲取用戶(hù)信息（上文已提及），然而這一事實(shí)與之相悖。

對于這一情況，亞馬遜給出的解釋是：“亞馬遜之所以收集位置數據，是為了更準確地為用戶(hù)服務(wù)，比如建議當地的餐廳，或者提供天氣預報。而且，評審員在入職之前都簽訂了保密協(xié)議，不會(huì )透露項目相關(guān)的任何內容?！?/span>

雷鋒網(wǎng)獲悉，位置數據會(huì )以地理坐標的形式提供給評審員，他們只要將坐標數據輸入地圖軟件，就能輕松獲得用戶(hù)的具體地址。如果用戶(hù)外出時(shí)使用Alexa，他/她的實(shí)時(shí)定位也有可能被追蹤。

兩位知情人士向彭博社透露：“事情曝光之后，亞馬遜也亡羊補牢，進(jìn)一步限制了用戶(hù)信息的訪(fǎng)問(wèn)權限。目前，一些軟件已經(jīng)對評審員關(guān)閉了?！?/span>

雖然，現在還沒(méi)有跡象表明，評審員試圖利用這些信息來(lái)追蹤用戶(hù)，但是，人們還是擔心這種不必要的訪(fǎng)問(wèn)權限會(huì )讓情況失控。

領(lǐng)域佼佼者同樣有黑歷史

雷鋒網(wǎng)注：【 圖片來(lái)源：Axios  所有者：Axios & The Harris Poll 】

如圖所示，自2012年以來(lái)，亞馬遜的公眾聲譽(yù)一直名列前茅。然而，即便是公眾心中口碑最佳的亞馬遜也曾有過(guò)黑歷史。實(shí)際上，本月彭博社的兩次曝光并不是Alexa第一次處在輿論的風(fēng)口浪尖。

去年2月底，陸續有多名用戶(hù)在Twitter和Reddit上表示，自己家內含Alexa的智能設備會(huì )突然爆發(fā)邪惡的笑聲，令人毛骨悚然。

一位網(wǎng)友在推特上說(shuō)道：“躺在床上準備睡覺(jué)，Echo里的Alexa突然爆發(fā)驚悚的笑聲。。。我怕是活不過(guò)今晚了?！?/span>

另一位網(wǎng)友說(shuō)道：“我在廚房，Alexa莫名其妙地笑了。好恐怖，就感覺(jué)像有一個(gè)嬰兒在我們身后?！?/span>

對于這起“靈異事件”，亞馬遜官方出的解釋是，Alexa會(huì )將環(huán)境中的噪音錯認為短語(yǔ)“Alexa，笑一個(gè)”（“Alexa，laugh”）。隨后，亞馬遜緊急修復了這個(gè)bug，將原先簡(jiǎn)短的指令改為了“Alexa，你能笑一個(gè)嗎？”（Alexa，can you laugh？），并且，更新后的Alexa在聽(tīng)到指令后會(huì )進(jìn)行回復，而不是直接大笑。

除了怪笑事件，2018年，亞馬遜還陷入了隱私泄露的丑聞。當時(shí)，Alexa錄下一段私人對話(huà)，未經(jīng)用戶(hù)同意就發(fā)送了出去，這起事件再次引起了公憤。

亞馬遜不得不出面回復，它首先聲明自己沒(méi)有竊聽(tīng)用戶(hù)的對話(huà)，然后指出，此次事件的起因是Alexa被錯誤地喚醒，和怪笑事件的起因如出一轍。值得注意的是，如果亞馬遜的解釋成立，那么，Alexa至少要錯誤識別4次，才能夠將錄音發(fā)送給別人。

亞馬遜官方發(fā)言人也承認：“這是一個(gè)非常極端的例子，我們也在努力降低錯誤識別率，盡量減少此類(lèi)事故的出現?！?/span>

語(yǔ)音助手還無(wú)法脫離人類(lèi)獨立工作

對于亞馬遜的各種風(fēng)波，該領(lǐng)域的專(zhuān)家Schaub并沒(méi)有感到驚訝，他說(shuō)道：“我們潛意識里認為語(yǔ)音助手在進(jìn)行神奇的機器學(xué)習。但實(shí)際上，它們還無(wú)法脫離人類(lèi)獨立工作?！?/span>

當然，亞馬遜并不是唯一一家做類(lèi)似事情的公司。去年，《衛報》報道了“偽人工智能”（pseudo-AI）的興起，文中列舉了一些人類(lèi)頂替AI完成工作的科技公司，其中就包括Facebook、亞馬遜、谷歌和蘋(píng)果等科技巨頭。

心理學(xué)家Alison Darcy在接受《衛報》采訪(fǎng)時(shí)說(shuō)道，很多時(shí)候，AI的背后是人類(lèi)而不是算法，因為建立一個(gè)良好的AI系統需要大量數據。但是，作為心理學(xué)家，我認為，這種欺騙行為顯然違反了道德原則。

研究機構Canalys的數據顯示，去年全球共銷(xiāo)售7,800萬(wàn)個(gè)智能揚聲器，其中，亞馬遜的銷(xiāo)售量大約占三分之一（圖1）。Canalys預計，到2020年，智能揚聲器的使用量會(huì )在2018年的1億基礎上再翻一番，達到2.25億（圖2）。

雷鋒網(wǎng)注：圖1【 圖片來(lái)源：Canalys Newsroom  所有者：Canalys 】

雷鋒網(wǎng)注：圖2【 圖片來(lái)源：Canalys Newsroom  所有者：Canalys 】

以上數據和圖表似乎映射出了智能揚聲器欣欣向榮的美好前景。

然而，就目前而言，憑空創(chuàng )造出一個(gè)能夠準確識別語(yǔ)音或人臉的神經(jīng)網(wǎng)絡(luò )幾乎不可能的。因為僅憑算法，語(yǔ)音助手無(wú)法準確識別不同的口音、俚語(yǔ)、或者是其他一些帶有挑戰性的任務(wù)。

雷鋒網(wǎng)總結

毫無(wú)疑問(wèn)，Alexa是亞馬遜所推出的最具影響力的產(chǎn)品之一，而且，它已經(jīng)列入亞馬遜帝國的四大支柱。隨著(zhù)Echo走進(jìn)越來(lái)越多的家庭，Alexa也對人們的生活產(chǎn)生著(zhù)深刻影響。

實(shí)際上，人類(lèi)參與訓練語(yǔ)音助手并沒(méi)有什么錯。為了讓語(yǔ)音助手提供更好、更準確的服務(wù)，人工的幫助是必不可少的因素。

然而，消費者真正在意的是，在享受科技帶來(lái)便利的同時(shí)，他們有沒(méi)有被誠實(shí)地對待，自己的隱私有沒(méi)有得到尊重。身為大公司的亞馬遜應該深知隱私保護的重要性，但是，至少從眼下看來(lái)，它做的還不夠好。

本文轉自雷鋒網(wǎng)，如需轉載請至雷鋒網(wǎng)官網(wǎng)申請授權。

原文地址為Alexa“監聽(tīng)門(mén)”：用戶(hù)隱私與科技發(fā)展，總有一個(gè)要犧牲？