<dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><small id="yhprb"></small><dfn id="yhprb"></dfn><small id="yhprb"><delect id="yhprb"></delect></small><small id="yhprb"></small><small id="yhprb"></small> <delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"></dfn><dfn id="yhprb"></dfn><s id="yhprb"><noframes id="yhprb"><small id="yhprb"><dfn id="yhprb"></dfn></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><small id="yhprb"></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn> <small id="yhprb"></small><delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn>
"); //-->

博客專(zhuān)欄

EEPW首頁(yè) > 博客 > 阿里研發(fā) AI 黑科技,有望替代人工鑒黃師

阿里研發(fā) AI 黑科技,有望替代人工鑒黃師

發(fā)布人:AI科技大本營(yíng) 時(shí)間:2021-04-28 來(lái)源:工程師 發(fā)布文章

互聯(lián)網(wǎng)內容越來(lái)越朝著(zhù)視頻化方向發(fā)展,短視頻處于爆發(fā)期,一些不法分子試圖利用視頻風(fēng)口牟利。3月底,深圳警方打掉了一起以短視頻APP為載體,大肆從事淫穢傳播、網(wǎng)絡(luò )****博以及網(wǎng)絡(luò )詐騙等犯罪活動(dòng)。

最近,阿里安全圖靈實(shí)驗室發(fā)布了一項關(guān)于社會(huì )文化的研究,這是一種新型視頻描述方法(SGR),可用于視頻內容安全和視頻檢索等場(chǎng)景,助力建設互聯(lián)網(wǎng)清朗環(huán)境。該研究成果已經(jīng)被人工智能?chē)H頂會(huì )CVPR2021(oral)收錄。

讓AI做“閱讀理解”

現有的密集型視頻描述生成方法采用自底向上的方式,即先生成大量的事件候選片段,再為每個(gè)片段獨立的生成描述,從而組合得到密集型視頻描述。然而,視頻中事件具有很強的多樣性,既可以簡(jiǎn)單到是一個(gè)動(dòng)作,也可以復雜到是若干事件的組合,這導致事件候選片段的生成目標不明確,對應的密集型描述不夠連貫和準確,且充斥著(zhù)大量冗余。

對此,研究者提出了自頂向下的密集型視頻描述方法,即SGR。

SGR可以實(shí)現兩類(lèi)基本功能,一是讓AI對視頻內容做“閱讀理解”,生成一段長(cháng)文本描述視頻中心內容,二是可以根據描述性的文本精準匹配視頻中的相關(guān)片段。

此前,必須人工定義關(guān)鍵詞詞庫后才能“指揮”AI命中檢索,這項AI技術(shù)的目標是僅通過(guò)輸入自然語(yǔ)言就能實(shí)現檢索,對AI“說(shuō)句話(huà)”,就能找到相應片段。

“視頻中如果有人拿起鼠標,點(diǎn)擊電腦,然后脫掉衣服,呈現黃****毒等相關(guān)違規信息,以前的技術(shù)路徑上,AI可能還要分析脫掉衣服之前的動(dòng)作,其實(shí)拿鼠標和點(diǎn)擊電腦與后面的違規內容沒(méi)什么關(guān)聯(lián),無(wú)需提取這些信息?!痹撗芯康谝蛔髡?、阿里安全圖靈實(shí)驗室實(shí)習算法工程師青崧介紹道。

SGR解決了這個(gè)問(wèn)題。給定一個(gè)視頻,AI可對視頻的關(guān)鍵候選片段無(wú)縫銜接成一個(gè)完整的故事,保證了密集型描述的連貫性,且減少了冗余。

為了進(jìn)一步增加視頻片段的描述細節,研發(fā)人員設計了描述提升模塊,以初步得到的密集型視頻描述和視頻片段為基準,提出專(zhuān)用于描述質(zhì)量提升的強化學(xué)習策略,來(lái)生成細節更豐富的密集型視頻描述。方法結構如下圖所示:

1.png

輸入一段視頻,本方法首先使用一個(gè)視頻編碼器(2.png)來(lái)為所有視頻幀提取表征。接著(zhù),段落****(3.png)根據視頻幀的表征生成一段由多句描述組成的段落。然后,由描述定位器(5.png)對段落中的每句描述在視頻中的發(fā)生時(shí)刻進(jìn)行定位。最后,描述提升模塊,即描述****(4.png)接受由3.png輸出的視頻片段描述和由5.png定位出的視頻片段表征,并輸出細節更豐富的視頻片段描述。

該項研究的共同作者、阿里安全圖靈實(shí)驗室高級算法工程師雍秦介紹,雖然目前這個(gè)技術(shù)還無(wú)法做到“1分鐘講清楚一部電影”,但可做到“兩句話(huà)講清楚一個(gè)10分鐘以?xún)鹊亩桃曨l”,這意味著(zhù)通過(guò)該技術(shù)未來(lái)可迅速判斷整個(gè)視頻的關(guān)鍵信息是否包含黃****毒等違規內容。

更快更準識別違規風(fēng)險內容

通過(guò)這兩個(gè)功能,AI能快速識別、準確定位違規片段,無(wú)需人類(lèi)鑒黃師反復回看確認。

雍秦透露,在SGR技術(shù)研究基礎上,阿里安全近期還將研發(fā)低門(mén)檻、高可用的“鑒黃”AI工具,讓AI對視頻不同片段打出“危險指數”,依賴(lài)信息提取直接關(guān)聯(lián)高亮風(fēng)險片段,讓AI鑒黃更智能、高效。

未來(lái),在實(shí)際應用場(chǎng)景中,通過(guò)AI來(lái)進(jìn)行不良內容識別的研判準確性和效率將大幅提高,比如判斷視頻內容中是否有“一個(gè)穿著(zhù)暴露蘿莉裝的女孩鴨子坐著(zhù)在錄吃播”,以往要形成“暴露蘿莉裝”“鴨子坐”“吃播”三個(gè)標簽,每次依據一個(gè)標簽進(jìn)行一輪審核,判斷視頻內容是否涉嫌低俗,三輪審核交叉驗證。創(chuàng )新工具應用后,AI只用輸入“一個(gè)穿著(zhù)暴露蘿莉裝的女孩鴨子坐著(zhù)在錄吃播”這句話(huà)進(jìn)行一輪研判,準確性也更高。

6.png

圖說(shuō):阿里安全近期將研發(fā)低門(mén)檻、高可用的“鑒黃”AI工具,該圖為示意模型。

阿里安全圖靈實(shí)驗室資深算法專(zhuān)家華棠指出,阿里安全一直希望從源頭守護安全,這是阿里安全方法論“新一代安全架構”的核心理念?!盎ヂ?lián)網(wǎng)上每天產(chǎn)生海量視頻,單靠人力無(wú)法維護互聯(lián)網(wǎng)清朗環(huán)境,違規視頻危及大眾心理健康和財產(chǎn)安全,創(chuàng )新算法可以有更多用武之地,構建美好安全的網(wǎng)絡(luò )生活?!?/p>

作者簡(jiǎn)介:鄧超睿,阿里安全實(shí)習生,阿德萊德大學(xué)一年級博士,主要研究視頻理解、圖像理解,物體檢測等方向,在TPAMI、CVPR、ECCV等學(xué)術(shù)期刊和會(huì )議上發(fā)表多篇文章,目前從事視頻物體檢測和檢索的研究工作,利用創(chuàng )新算法提升視頻內容安全的審核技術(shù)。

*博客內容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀(guān)點(diǎn),如有侵權請聯(lián)系工作人員刪除。



關(guān)鍵詞: AI

相關(guān)推薦

技術(shù)專(zhuān)區

關(guān)閉
国产精品自在自线亚洲|国产精品无圣光一区二区|国产日产欧洲无码视频|久久久一本精品99久久K精品66|欧美人与动牲交片免费播放
<dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><small id="yhprb"></small><dfn id="yhprb"></dfn><small id="yhprb"><delect id="yhprb"></delect></small><small id="yhprb"></small><small id="yhprb"></small> <delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"></dfn><dfn id="yhprb"></dfn><s id="yhprb"><noframes id="yhprb"><small id="yhprb"><dfn id="yhprb"></dfn></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><small id="yhprb"></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn> <small id="yhprb"></small><delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn>