深度神經(jīng)網(wǎng)絡(luò ) 文章進(jìn)入深度神經(jīng)網(wǎng)絡(luò )技術(shù)社區

比人腦突觸快百萬(wàn)倍！新型可編程電阻器誕生

人的大腦能夠同時(shí)學(xué)習和記憶大量信息而又不需要太多能量的能力，很多研究機構都希望制造出類(lèi)似于大腦甚至超越大腦的計算機。在人腦中，學(xué)習是由神經(jīng)元之間的連接（突觸）的增強和減弱而發(fā)生的。深度神經(jīng)網(wǎng)絡(luò )一直采用這種策略，實(shí)現模擬機器學(xué)習。美國麻省理工學(xué)院近日開(kāi)發(fā)出一種由無(wú)機材料制成的電阻器，它將人工模擬突觸的運行速度大大提高，比以前的版本快100萬(wàn)倍，也比人腦中的突觸快約100萬(wàn)倍。這些可編程電阻器不僅提高了神經(jīng)網(wǎng)絡(luò )訓練的速度，同時(shí)也降低了執行訓練所需的成本和能量，這可以幫助科學(xué)家更快地開(kāi)發(fā)深度學(xué)習模型。這一技術(shù)的
關(guān)鍵字：美國材料深度神經(jīng)網(wǎng)絡(luò )

直覺(jué)有害！Facbook最新研究：易于解釋的神經(jīng)元會(huì )誤導DNN的學(xué)習

　　編譯|蔣寶尚　　關(guān)于A(yíng)I是什么，學(xué)界和業(yè)界已經(jīng)給出了非常多的定義，但是對于A(yíng)I理解，探討尚不足。換句話(huà)說(shuō)，計算機科學(xué)家解釋深度神經(jīng)網(wǎng)絡(luò )（DNNs）的能力大大落后于我們利用其取得有用結果的能力?！　‘斍袄斫馍疃壬窠?jīng)網(wǎng)絡(luò )的常見(jiàn)做法是在單個(gè)神經(jīng)元特性上“折騰”。例如，激活識別貓圖像的神經(jīng)元，而關(guān)閉其他神經(jīng)元的“控制變量法”。這種方法的學(xué)術(shù)術(shù)語(yǔ)叫做“類(lèi)選擇性”?！　∮捎谥庇^(guān)和易理解，“類(lèi)選擇性”在學(xué)界廣泛應用。誠然，在訓練過(guò)程中，這類(lèi)可解釋的神經(jīng)元確實(shí)會(huì )“選擇性地”出現在各種不同任務(wù)網(wǎng)絡(luò )中。例如，預測產(chǎn)品評論
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò ) 深度學(xué)習

為什么深度學(xué)習如此容易被愚弄？AI研究員正努力修復神經(jīng)網(wǎng)絡(luò )缺陷

　　來(lái)源：nature　　編譯：張大筆茹、小七　　假設一輛自動(dòng)駕駛汽車(chē)看到停車(chē)標志時(shí)并沒(méi)有減速，而是加速駛入了繁忙的十字路口，從而導致了交通事故。事故報告顯示，停車(chē)標志的表面粘了四個(gè)小的矩形標志。這說(shuō)明一些微小擾動(dòng)就能愚弄車(chē)載人工智能（AI），使其將“停止”一詞誤讀為“限速45”?！　∧壳?，此類(lèi)事件還未發(fā)生，但是人為擾動(dòng)可能影響AI是非?，F實(shí)的。研究人員已經(jīng)展示了如何通過(guò)粘貼紙來(lái)欺騙AI系統誤讀停車(chē)標志，或者通過(guò)在眼鏡或帽子上粘貼印刷圖案來(lái)欺騙人臉識別系統，又或者通過(guò)在音頻中插入白噪聲使語(yǔ)音識別系統產(chǎn)生錯
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò ) 深度學(xué)習

DNNBrain：北師大團隊出品的用于映射深層神經(jīng)網(wǎng)絡(luò )到大腦的工具箱

導讀深度神經(jīng)網(wǎng)絡(luò )(DNN)通過(guò)端到端的深度學(xué)習策略在許多具有挑戰性的任務(wù)上達到了人類(lèi)水平的性能。深度學(xué)習產(chǎn)生了具有多層抽象層次的數據表示;然而，它沒(méi)有明確地提供任何關(guān)于DNNs內部運作的解釋?zhuān)瑩Q句話(huà)說(shuō)它的內部運作是一個(gè)黑盒子。深度神經(jīng)網(wǎng)絡(luò )的成功吸引了神經(jīng)科學(xué)家，他們不僅將DNN應用到生物神經(jīng)系統模型中，而且還采用了認知神經(jīng)科學(xué)的概念和方法來(lái)理解DNN的內部表示。盡管可以使用諸如PyTorch和TensorFlow之類(lèi)的通用深度學(xué)習框架來(lái)進(jìn)行此類(lèi)跨學(xué)科研究，但是使用這些框架通常需要高級編程專(zhuān)家和全面的數學(xué)知
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò ) 深度學(xué)習腦機接口

CNN(卷積神經(jīng)網(wǎng)絡(luò ))、RNN(循環(huán)神經(jīng)網(wǎng)絡(luò ))、DNN(深度神經(jīng)網(wǎng)絡(luò ))的內部網(wǎng)絡(luò )結構的區別

先說(shuō)DNN，從結構上來(lái)說(shuō)他和傳統意義上的NN（神經(jīng)網(wǎng)絡(luò )）沒(méi)什么區別，但是神經(jīng)網(wǎng)絡(luò )發(fā)展時(shí)遇到了一些瓶頸問(wèn)題。一開(kāi)始的神經(jīng)元不能表示異或運算，科學(xué)家通過(guò)增加網(wǎng)絡(luò )層數，增加隱藏層可以表達。并發(fā)現神經(jīng)網(wǎng)絡(luò )的層數直接決定了它對現實(shí)的表達能力。但是隨著(zhù)層數的增加會(huì )出現局部函數越來(lái)越容易出現局部最優(yōu)解的現象，用數據訓練深層網(wǎng)絡(luò )有時(shí)候還不如淺層網(wǎng)絡(luò )，并會(huì )出現梯度消失的問(wèn)題。我們經(jīng)常使用sigmoid函數作為神經(jīng)元的輸入輸出函數，在BP反向傳播梯度時(shí)，信號量為1的傳到下一層就變成0.25了，到最后面幾層基本無(wú)法達到調節參數
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò ) 深度學(xué)習 CNN RNN

深度神經(jīng)網(wǎng)絡(luò )（DNN）模型與前向傳播算法

　　深度神經(jīng)網(wǎng)絡(luò )（Deep Neural Networks，以下簡(jiǎn)稱(chēng)DNN）是深度學(xué)習的基礎，而要理解DNN，首先我們要理解DNN模型，下面我們就對DNN的模型與前向傳播算法做一個(gè)總結?！　?.從感知機到神經(jīng)網(wǎng)絡(luò )　　在感知機原理小結中，我們介紹過(guò)感知機的模型，它是一個(gè)有若干輸入和一個(gè)輸出的模型，如下圖:　　輸出和輸入之間學(xué)習到一個(gè)線(xiàn)性關(guān)系，得到中間輸出結果：　　z=∑i=1mwixi+bz=∑i=1mwixi+b　　接著(zhù)是一個(gè)神經(jīng)元激活函數:　　sign(z)={?11z<0z≥0sign(z)={
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò ) 深度學(xué)習

什么是DNN？它對AI發(fā)展意味著(zhù)什么

為了讓AI加速器在最短延遲內達到最佳精準度，特別是在自動(dòng)駕駛車(chē)中，TFLOP已經(jīng)成為許多所謂大腦芯片的關(guān)鍵指針，然而，有專(zhuān)家認為這種野蠻處理方式并不可持續…… 為了讓人工智能(AI)加速器在最短延遲內達到最佳精準度，特別是在自動(dòng)駕駛車(chē)(AV)中，TFLOP(兆次浮點(diǎn)運算)已經(jīng)成為許多所謂大腦芯片的關(guān)鍵指針。這場(chǎng)競賽的選手包括Nvidia的Xavier、Mobileye的EyeQ5、特斯拉(Tesla)的全自動(dòng)駕駛(FSD)計算機芯片，以及NXP-Kalray芯片。然而，有專(zhuān)家認為這種野蠻處理方式
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò ) 深度學(xué)習

深度學(xué)習干貨｜基于Tensorflow深度神經(jīng)網(wǎng)絡(luò )(DNN)詳解

深度神經(jīng)網(wǎng)絡(luò )(Deep Neural Networks，簡(jiǎn)稱(chēng)DNN)是深度學(xué)習的基礎，想要學(xué)好深度學(xué)習，首先我們要理解DNN模型。DNN的基本結構神經(jīng)網(wǎng)絡(luò )是基于感知機的擴展，而DNN可以理解為有很多隱藏層的神經(jīng)網(wǎng)絡(luò )。多層神經(jīng)網(wǎng)絡(luò )和深度神經(jīng)網(wǎng)絡(luò )DNN其實(shí)也基本一樣，DNN也叫做多層感知機(MLP)。DNN按不同層的位置劃分，神經(jīng)網(wǎng)絡(luò )層可以分為三類(lèi)，輸入層，隱藏層和輸出層，如下圖示例，一般來(lái)說(shuō)第一層是輸入層，最后一層是輸出層，而中間的層數都是隱藏層。網(wǎng)絡(luò )結構層與層之間是全連接的，也就是說(shuō)，第i層的任意一個(gè)神經(jīng)
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò ) 深度學(xué)習

特斯拉收購初創(chuàng )公司專(zhuān)注自動(dòng)駕駛“深度神經(jīng)網(wǎng)絡(luò )”

據外媒報道，特斯拉收購計算機視覺(jué)初創(chuàng )公司DeepScale的交易開(kāi)始收獲回報，通過(guò)收購完整團隊開(kāi)始為這家電動(dòng)汽車(chē)制造商提供新的專(zhuān)利。
關(guān)鍵字：特斯拉 “深度神經(jīng)網(wǎng)絡(luò )” 自動(dòng)駕駛

IBM的8位浮點(diǎn)精度深度神經(jīng)網(wǎng)絡(luò )模型解析

　　在12月初舉辦的NeurIPS會(huì )議上，IBM展示了一款新型人工智能芯片?！　BM的研究人員聲稱(chēng)，他們已開(kāi)發(fā)出一個(gè)更加高效的模型用于處理神經(jīng)網(wǎng)絡(luò )，該模型只需使用8位浮點(diǎn)精度進(jìn)行訓練，推理(inferencing)時(shí)更是僅需4位浮點(diǎn)精度。該研究的成果已于2018年12月初在國際電子元件會(huì )議(International Electron Devices Meeting，IEDM)和神經(jīng)信息處理系統大會(huì )(Conference on NeuralInformation Processing Syste
關(guān)鍵字： IBM 深度神經(jīng)網(wǎng)絡(luò )

人類(lèi)和DNN的目標識別穩健性比較

　　深度神經(jīng)網(wǎng)絡(luò )在很多任務(wù)上都已取得了媲美乃至超越人類(lèi)的表現，但其泛化能力仍遠不及人類(lèi)。德國蒂賓根大學(xué)等多所機構近期的一篇論文對人類(lèi)和 DNN 的目標識別穩健性進(jìn)行了行為比較，并得到了一些有趣的見(jiàn)解。機器之心對該論文進(jìn)行了編譯介紹?！　≌　∥覀兺ㄟ^(guò) 12 種不同類(lèi)型的圖像劣化(image degradation)方法，比較了人類(lèi)與當前的卷積式深度神經(jīng)網(wǎng)絡(luò )(DNN)在目標識別上的穩健性。首先，對比三種著(zhù)名的 DNN(ResNet-152、VGG-19、GoogLeNet)，我們發(fā)現不管對圖像進(jìn)行怎樣的操
關(guān)鍵字： DNN 深度神經(jīng)網(wǎng)絡(luò )

人工智能與語(yǔ)音識別技術(shù)

隨著(zhù)深度神經(jīng)網(wǎng)絡(luò )在大規模語(yǔ)音識別任務(wù)上獲得顯著(zhù)效果提升，大數據的不斷完善和漣漪效應的提出，在近十年，中國的人工智能也得到了快速發(fā)展。作為國內智能語(yǔ)音與人工智能產(chǎn)業(yè)領(lǐng)導者的科大訊飛率先將遞歸神經(jīng)網(wǎng)絡(luò )和卷積神經(jīng)網(wǎng)絡(luò )應用到真實(shí)在線(xiàn)系統中，并提出了全新的深度神經(jīng)網(wǎng)絡(luò )結構FSMN——訊飛構型。
關(guān)鍵字：深度神經(jīng)網(wǎng)絡(luò ) 遞歸神經(jīng)網(wǎng)絡(luò ) 卷積神經(jīng)網(wǎng)絡(luò ) 訊飛構型 201604

共12條 1/1 1

深度神經(jīng)網(wǎng)絡(luò )介紹

您好，目前還沒(méi)有人創(chuàng )建詞條深度神經(jīng)網(wǎng)絡(luò )!
歡迎您創(chuàng )建該詞條，闡述對深度神經(jīng)網(wǎng)絡(luò )的理解，并與今后在此搜索深度神經(jīng)網(wǎng)絡(luò )的朋友們分享。創(chuàng )建詞條

深度神經(jīng)網(wǎng)絡(luò ) 文章 進(jìn)入深度神經(jīng)網(wǎng)絡(luò )技術(shù)社區

深度神經(jīng)網(wǎng)絡(luò )介紹

熱門(mén)主題

深度神經(jīng)網(wǎng)絡(luò ) 文章進(jìn)入深度神經(jīng)網(wǎng)絡(luò )技術(shù)社區