《紐約時(shí)報》聯(lián)合谷歌開(kāi)發(fā)的 AI 算法

　　網(wǎng)絡(luò )媒體的的一大特色就是有評論區，供讀者直接對文章、視頻發(fā)表自己的看法，但灌水、罵戰、惡毒言論也讓媒體頭疼不已，于是有些媒體選擇將評論區關(guān)閉。例如紐約時(shí)報的網(wǎng)站就只有 10% 的文章開(kāi)放評論，但這種做法也讓很多理性的讀者失去了發(fā)表看法的平臺，于是《時(shí)報》和谷歌合作，利用后者的算法開(kāi)發(fā)了評論區惡毒言論過(guò)濾器，借此希望未來(lái)能夠將 80% 的文章開(kāi)放給讀者評論。

　　Bassey Etim 是《紐約時(shí)報》網(wǎng)站的社區編輯。在他看來(lái)，新聞通訊社與讀者間的關(guān)系相當簡(jiǎn)單，讀者付款訂閱或者看廣告免費讀新聞，而通訊社們將掙來(lái)的錢(qián)投入后續的新聞報道中去。

　　不過(guò)，網(wǎng)站社區的出現卻讓事情變得越來(lái)越復雜。通訊社們想與讀者進(jìn)行深入交流，而讀者也想找個(gè)渠道來(lái)發(fā)表自己的看法，于是讀者們開(kāi)始在評論區交流起來(lái)。當然，如果大家都本著(zhù)友好交流的心態(tài)，評論區可能會(huì )出現許多金句，但事實(shí)上評論區卻總是會(huì )出現各種不相干的內容，同時(shí)這里也成了網(wǎng)絡(luò )暴力和謠言的溫床。

　　為了凈化評論區風(fēng)氣，《紐約時(shí)報》會(huì )人工對評論區的讀者評論進(jìn)行審核。不過(guò)，每天平均 1.2 萬(wàn)條以上的評論卻讓審核人員怨聲載道。有時(shí)由于缺乏人手，他們還會(huì )直接關(guān)閉某些新聞的評論區。雷鋒網(wǎng)發(fā)現，《紐約時(shí)報》許多爭議性較強的頭條新聞在發(fā)布時(shí)就直接禁止評論。

　　不過(guò)，這樣的情況馬上就要發(fā)生改變了。

　　今天，《紐約時(shí)報》上線(xiàn)了名為 Moderator(意為版主)的新系統，未來(lái)頭條新聞的評論區在工作日每天都會(huì )開(kāi)放 8 小時(shí)。此外，新聞和觀(guān)點(diǎn)板塊的評論區則會(huì ) 24 小時(shí)開(kāi)放。

　　Moderator 的誕生還要感謝 Jigsaw，它是谷歌旗下的技術(shù)孵化器，該公司利用機器學(xué)習技術(shù)優(yōu)先審核“言論不太出格”的溫和評論，有時(shí)還會(huì )自動(dòng)給它們放行。Moderator 有這樣的能耐是因為它遍閱了 2007 年以來(lái)評論區里超過(guò) 1600 萬(wàn)條溫和評論。

　　在《紐約時(shí)報》看來(lái)，讀者的評論也是內容，但它們更重視質(zhì)量而非數量。調查結果也顯示，《紐約時(shí)報》的讀者們非常喜歡評論區不時(shí)出現的神評論。

　　去年夏天，Jigsaw 也發(fā)覺(jué)自己需要處理類(lèi)似的問(wèn)題：到底怎樣提升網(wǎng)絡(luò )會(huì )話(huà)的質(zhì)量呢?

　　于是，兩家公司一拍即合，拿到《紐約時(shí)報》的匿名評論數據后，Jigsaw 打造了一款機器學(xué)習算法，它能掌握社區編輯對待評論的尺度。除此之外，這兩家公司還拉上了名為 Instrument 的數字產(chǎn)品合作伙伴一起打造 Moderator。如今，這款算法還成了 Perspective 計劃的一部分，該項目的目標是揪出網(wǎng)上的騷擾和各種語(yǔ)言暴力。

　　“出版商靠廣告生存，而廣告商投放廣告時(shí)看的是讀者的參與度?！盝igsaw 董事長(cháng) Jared Cohen 寫(xiě)道。Jigsaw 將“幫助各大新聞平臺開(kāi)辟供讀者進(jìn)行兩性討論的空間?！?/p>

　　《紐約時(shí)報》將如何利用 Moderator

　　Moderator 的加入讓社區管理用戶(hù)貢獻內容的方式發(fā)生了改變，傳統上優(yōu)先考慮每一條評論的方法被摒棄了。在 Moderator 的管理下，每條評論都會(huì )被打分，如果不符合要求就不會(huì )出現在評論區。

　　對《紐約時(shí)報》的社區編輯來(lái)說(shuō)，每條評論都像是直方圖上的一個(gè)小點(diǎn)(如下圖)。

　　在直方圖上的位置可能就會(huì )決定一條評論是否會(huì )被刪掉。除此之外，Moderator 還會(huì )試著(zhù)預測為何一些評論會(huì )被刪掉。

　　有了新工具，《紐約時(shí)報》的社區編輯們輕松多了，它們能直接參考機器學(xué)習模型，閱讀那些有 15%-20% 被刪除可能性的評論，如果這些評論足夠溫和，他們可能就會(huì )對 0%-20% 區間的所有評論放行?；叵霃那?，社區編輯們需要對每條評論進(jìn)行逐個(gè)閱讀。

　　被優(yōu)先推薦的評論總是“綜合評分”較高，新系統加入后，能否得高分則主要看三個(gè)方面：評論是否包含淫穢色情內容、毒害性言論和被刪除的概率。

　　隨著(zhù)綜合評分系統的逐漸成熟，《紐約時(shí)報》決定進(jìn)一步降低社區編輯們的工作強度，那些絕對人畜無(wú)害的評論會(huì )被自動(dòng)放行。

　　Cohen 先生表示：“機器學(xué)習的優(yōu)勢就在于它會(huì )隨著(zhù)學(xué)習的深入變得越來(lái)越聰明?！?/p>

　　未來(lái)，網(wǎng)絡(luò )評論的好日子可能會(huì )重新到來(lái)?！都~約時(shí)報》就正在搭建一個(gè)能讓讀者隨心討論的安全環(huán)境，這里沒(méi)有臟話(huà)、騷擾和網(wǎng)絡(luò )暴力，每個(gè)人都能平心靜氣的抒發(fā)自己的觀(guān)點(diǎn)。