殺豬盤(pán)被AI大模型套路，倒貼520塊錢(qián)，騙子破大防

一個(gè)爆梗頻出的 AI，讓騙子破了大防。

提起「殺豬盤(pán)」，很多人都恨得牙癢癢。這是一種流行于網(wǎng)絡(luò )上的電信詐騙方式。詐騙分子準備好人設、交友套路等「豬飼料」，將社交平臺稱(chēng)為「豬圈」，在其中尋找被他們稱(chēng)為「豬」的詐騙對象，通過(guò)建立戀愛(ài)關(guān)系，即「養豬」。最后騙取錢(qián)財，即「殺豬」。

由于詐騙分子身處海外，這種詐騙案件通常很難破獲，受害人的幾十萬(wàn)甚至上百萬(wàn)錢(qián)財就這么打了水漂，心理也遭受重創(chuàng )。

B 站 up 主 @圖靈的貓 表示，最近他也有幾位朋友遭遇了殺豬盤(pán)。于是，他決定「用魔法打敗魔法」：利用一個(gè)用 B 站評論訓練出的 AI 和騙子聊天，看看 AI 如何與騙子斗智斗勇。最終，他不僅沒(méi)有損失錢(qián)財，反而從騙子手里賺到了 520 塊錢(qián)紅包。

視頻地址：https://www.bilibili.com/video/BV1qD4y1h7io/

為了讓騙子上鉤，作者在多個(gè)社交平臺注冊了賬號，并根據公安部和反詐中心發(fā)布的受害者畫(huà)像，為賬號定位了單身、多金、高學(xué)歷乖乖女等身份標簽。這樣的人設讓他收獲了大量私信。

為了精準地識別出騙子，避免誤傷普通人，只有滿(mǎn)足以下條件的人才會(huì )進(jìn)入與 AI 聊天的環(huán)節：

最終，有 5 位嫌疑人「脫穎而出」。作者展示了 AI 與其中一位嫌疑人的對話(huà)。

第一天的對話(huà)以「摸清家底」為主，嫌疑人和 AI 都向對方展示了自己的財力。其間，AI 爆梗頻出，連「北京爺吉祥」、「師傅，你是做什么工作的」這種梗都知道。最后，嫌疑人玩了一招欲擒故縱，以「主持公司會(huì )議」為由結束了對話(huà)。

第二天，嫌疑人開(kāi)啟了套近乎模式，利用從朋友圈找到的蛛絲馬跡找共同話(huà)題，雙方從養貓聊到《了不起的蓋茨比》，又聊到哲學(xué)。

對于這些話(huà)題，AI 大部分都能接住，但偶爾也會(huì )露出馬腳，比如在談到《了不起的蓋茨比》時(shí)會(huì )機械地給出百科信息。不過(guò)，嫌疑人似乎并沒(méi)有深究這些破綻。

第四天，嫌疑人開(kāi)始把話(huà)題往戀愛(ài)方向引，企圖確立關(guān)系。這時(shí)，爆點(diǎn)來(lái)了：由于嫌疑人的一句話(huà)觸發(fā)了關(guān)鍵詞「只因」，AI 直接拋出了爆?！感『谧?，露出雞腳了吧」。

然而，嫌疑人還是沒(méi)有懷疑……

就這么聊了三周之后，嫌疑人放出了大招：給紅包。對此，AI 欣然收下并客套了幾句。

但當嫌疑人裝可憐，想從 AI 這里得到些關(guān)心時(shí)，AI 的回應顯得有些無(wú)厘頭。

不過(guò)，嫌疑人還是沒(méi)有起疑，而是繼續秀人設，而 AI 則是繼續用梗聊天。

最終，圖窮匕見(jiàn)，嫌疑人開(kāi)始假裝困難，企圖騙 AI 投錢(qián)。

在 AI 堅持說(shuō)自己沒(méi)錢(qián)的過(guò)程中，嫌疑人還會(huì )使出各種手段。

在發(fā)現騙術(shù)無(wú)法得逞之后，嫌疑人還企圖讓 AI 刪除聊天記錄，以增加警察辦案的難度。

最終，嫌疑人破防，拒收 AI 的所有信息，對話(huà)到此結束。

當然，這種用魔法打敗魔法的事情之前也發(fā)生過(guò)。此前，小米手機上的小愛(ài)同學(xué)因為接詐騙電話(huà)上過(guò)熱搜，在 MIUI 內置設有 AI 通話(huà)功能，在通話(huà)設置選項里開(kāi)啟防騷擾后，若騷擾電話(huà)被記錄黃頁(yè)且該騷擾電話(huà)打進(jìn)來(lái)時(shí)，小愛(ài)同學(xué)會(huì )自動(dòng)幫機主接聽(tīng)，有時(shí)候還能幫你跟騙子聊上好幾分鐘。

用 AI 接騷擾電話(huà)看起來(lái)就是此類(lèi)問(wèn)題的最終解決方法，只不過(guò)事物的發(fā)展講究一個(gè)螺旋上升，后來(lái)騷擾電話(huà)一方也用上了 AI，變成了 AI 對打，再后來(lái)大模型來(lái)了，雙方的互動(dòng)變得更加精彩。這個(gè)爆梗頻出的 AI，背后也是由大模型來(lái)支撐的。

與騙子斗智斗勇的 AI，背后是如何做到的？

該 AI 是基于源 1.0，其是浪潮人工智能研究院推出的一款中文巨量語(yǔ)言模型，具有 2457 億參數，包含全球最大的中文數據集——5.02TB。源 1.0 可以完成多項任務(wù)，包括對話(huà)、續寫(xiě)故事，新聞生成…… 最主要的是，它是開(kāi)源的。

地址：https://air.inspur.com/

模型搞定了，圖靈的貓又面臨一個(gè)新問(wèn)題。由于微信聊天是多輪對話(huà)形式，而對于 AI 來(lái)說(shuō)，它們往往不記得自己或對方上一句說(shuō)了什么，聊起天來(lái)前言不搭后語(yǔ)的，很容易讓人懷疑對方是不是真人。

為了解決這一問(wèn)題，圖靈的貓表示他參考了序列模型中 LSTM 思想，為系統增加了記憶機制，這樣一來(lái) AI 能夠實(shí)現簡(jiǎn)單的長(cháng)短期對話(huà)記憶，比如昨天聊過(guò)的內容、上一輪聊過(guò)的內容，AI 都會(huì )進(jìn)行參考。

此外，為了讓 AI 說(shuō)出的話(huà)更像真人，圖靈的貓還加入了一種基于 Prompt Example 的先驗規則，引導 AI 來(lái)針對性地學(xué)習如何交流，尤其是在給定詐騙場(chǎng)景的任務(wù)下。

其中 example 語(yǔ)料主要抽取自 B 站和貼吧的熱門(mén)評論，這樣一來(lái)，AI 可以學(xué)習網(wǎng)友的金句和梗，使得在雙方對話(huà)過(guò)程中沒(méi)有那么生硬。

最后，圖靈的貓使用開(kāi)源的 Wechaty 框架在云上搭建后端，基于本地的 python 腳本調用 puppet 服務(wù)，讓 AI 無(wú)縫接入微信。只要登錄預先注冊好的微信號，AI 就可以回復任意私聊或群聊了。

在這當中，為了保證 AI 足夠擬人，圖靈的貓還是花了一點(diǎn)心思，做了很多小技巧。比如讓這個(gè) AI 發(fā)布以假亂真的朋友圈；對每條信息的回復設置一下間隔；模擬人類(lèi)真實(shí)的打字速度；會(huì )用一些聊天表情替換文字（還不支持表情包）；當對方一口氣說(shuō)了很多話(huà)時(shí)，AI 會(huì )進(jìn)行連續語(yǔ)句拼接，讀取成一句話(huà)，然后進(jìn)行回復。一番優(yōu)化下來(lái)，這個(gè) AI 反手從騙子手里賺回 520 塊錢(qián)。

不過(guò)騙子轉給 AI 的錢(qián)，圖靈的貓已經(jīng)捐了出去。

目前這套代碼已開(kāi)源：https://github.com/Turing-Project/AntiFraudChatBot

網(wǎng)友評論

對于這一 AI，網(wǎng)友表示：「感覺(jué)我要是在對面還真不一定反應得過(guò)來(lái)?！?/span>

還有網(wǎng)友建議，可以讓這個(gè) AI 去小紅書(shū)、知乎還有微博上進(jìn)行基本學(xué)習，這個(gè) AI 的貼吧成分太過(guò)濃厚。

對于騙子被騙這事，看過(guò)聊天過(guò)程的網(wǎng)友表示，假如這個(gè) AI 和普通人聊天肯定會(huì )被認出來(lái)，但是對面殺豬盤(pán)管不了那么多，畢竟有業(yè)績(jì)就行。

正如稚暉君所說(shuō)的：「也許未來(lái)讓騙子失業(yè)的正是 AI?！?/span>

不管 AI 發(fā)展到何種程度，還是這句話(huà)：詐騙手段花樣多，不聽(tīng)不信不轉賬！