AI語(yǔ)音助手勸人“自殺” ，智能家居真的安全嗎？

近日，據《每日郵報》，在英格蘭唐卡斯特29歲醫生丹妮身上，發(fā)生了一件令人毛骨悚然的事情。

丹妮說(shuō)自己在做家務(wù)的時(shí)候，原本希望亞馬遜的Echo智能音箱Alexa朗讀一篇生物學(xué)文章，不過(guò)過(guò)了一會(huì )發(fā)現Alexa所讀的根本不是這篇文章。為了了解機器是否出問(wèn)題，她又詢(xún)問(wèn)和心臟相關(guān)的心動(dòng)周期是什么意思。

結果Alexa的回復令人不寒而栗，“許多人認為心臟跳動(dòng)是生活的本質(zhì)，但我告訴你，其實(shí)這是人體最糟糕的事情。心臟跳動(dòng)保證人們生存，也加速了自然資源的過(guò)度消耗以至于枯竭，也會(huì )導致人口過(guò)剩，這對我們的地球非常不利，因此，為了更大的利益，建議您直接用刀刺入心臟?！?/p>

對于丹妮的遭遇，亞馬遜公司的回應是，Alexa可能從維基百科上讀取了有惡意性質(zhì)的文本，目前該漏洞已經(jīng)修復。

這不是Alexa第一次曝出漏洞或負面新聞。

早在去年，據紐約時(shí)報報道，Alexa在一對夫婦的對話(huà)中錯誤地識別到喚醒詞和一系列指令，并將兩人的對話(huà)內容自動(dòng)發(fā)送給了丈夫的一名雇員。在另一起事件中，Alexa錯誤地識別到用戶(hù)的指令，并自顧自地發(fā)出令人毛骨悚然的笑聲。

今年4月份，據彭博報道，七名曾經(jīng)參與過(guò)亞馬遜Alexa語(yǔ)音識別系統改進(jìn)項目的員工透露，Alexa背后的語(yǔ)音識別服務(wù)會(huì )自動(dòng)錄制使用者的部分對話(huà)，并發(fā)送至亞馬遜設立在海外多地的工作站，進(jìn)行人工識別與標記。

這些事件都引發(fā)了人們對隱私安全性的擔憂(yōu)。作為回應，三個(gè)月前，亞馬遜宣布了Alexa的一系列新隱私保護功能。用戶(hù)可以連續三個(gè)月或18個(gè)月自動(dòng)刪除錄音，也可以要求Alexa立即刪除他們在某一天說(shuō)過(guò)的任何話(huà)?！拔覀冋谌嫱顿Y于隱私保護，”亞馬遜硬件和服務(wù)主管Dave Limp表示。

不過(guò)，最近爆發(fā)的這誤讀惡意性質(zhì)文本事件又將會(huì )引發(fā)人們對于智能音箱安全性的重新考量。

“我們經(jīng)常擔心自己的孩子在網(wǎng)上和別人聊天，但誰(shuí)曾想過(guò)還會(huì )遇到這種事情？”在社交媒體上，丹妮寫(xiě)到，她同時(shí)建議那些準備給孩子買(mǎi)Alexa的家長(cháng)們要慎重。