2024諾貝爾物理學(xué)得主:以神經(jīng)網(wǎng)絡(luò )為筆 書(shū)寫(xiě)AI時(shí)代新篇章
當地時(shí)間周二(10月8日),瑞典皇家科學(xué)院宣布,將2024年諾貝爾物理學(xué)獎授予約翰·J·霍普菲爾德(John J. Hopfield)和杰弗里·E·辛頓(Geoffrey E. Hinton)。
本文引用地址:http://dyxdggzs.com/article/202410/463467.htm霍普菲爾德和辛頓將平分1100萬(wàn)瑞典克朗(約合110萬(wàn)美元)的獎金,以表彰他們在使用人工神經(jīng)網(wǎng)絡(luò )進(jìn)行機器學(xué)習的基礎性發(fā)現和發(fā)明,這些發(fā)現為當今的機器學(xué)習應用奠定基礎。
1982年,霍普菲爾德在論文中提出了“霍普菲爾德網(wǎng)絡(luò )”,旨在模擬人腦記憶的存儲和檢索過(guò)程。這個(gè)自聯(lián)想記憶網(wǎng)絡(luò )能夠在部分或不完整輸入下,通過(guò)動(dòng)態(tài)調整神經(jīng)元狀態(tài),恢復完整的存儲模式。
霍普菲爾德網(wǎng)絡(luò )的提出推動(dòng)了神經(jīng)網(wǎng)絡(luò )領(lǐng)域的發(fā)展,尤其是在理解記憶如何在大腦中存儲和檢索的機制上提供了理論框架。且它的“能量最小化”思想影響了后續許多神經(jīng)網(wǎng)絡(luò )模型的發(fā)展。
霍普菲爾德網(wǎng)絡(luò )被廣泛應用于神經(jīng)科學(xué)、計算機科學(xué)和優(yōu)化問(wèn)題等領(lǐng)域,尤其是在模式識別、聯(lián)想記憶和優(yōu)化算法方面發(fā)揮了重要作用,在推動(dòng)現代人工智能和神經(jīng)計算理論的發(fā)展上起到了關(guān)鍵作用。
霍普菲爾德還對生物物理學(xué)和分子生物學(xué)做出了重要貢獻,特別是在蛋白質(zhì)折疊和生物系統的計算功能方面。他提出的“Hopfield Barrier”概念解釋了蛋白質(zhì)如何有效找到其折疊的最低能量狀態(tài)。
霍普菲爾德網(wǎng)絡(luò )的發(fā)現吸引了一些理論物理學(xué)家參與到神經(jīng)網(wǎng)絡(luò )的研究當中。而辛頓就將霍普菲爾德網(wǎng)絡(luò )的想法應用于一種新網(wǎng)絡(luò ),這種新網(wǎng)絡(luò )使用另一種方法:玻爾茲曼機(Boltzmann Machine)。
玻爾茲曼機是第一個(gè)能夠學(xué)習不屬于輸入或輸出的神經(jīng)元內部表示的神經(jīng)網(wǎng)絡(luò ),可以學(xué)習給定數據類(lèi)型的特征元素,可以用來(lái)分類(lèi)圖像或創(chuàng )建新材料,幫助推動(dòng)了當今機器學(xué)習的快速發(fā)展。
辛頓的貢獻為深度學(xué)習的復興奠定了基礎,使得神經(jīng)網(wǎng)絡(luò )得以在更復雜、更大規模的數據集上進(jìn)行訓練,從而在圖像識別、語(yǔ)音識別、自然語(yǔ)言處理等任務(wù)中取得了巨大的成功。
辛頓在神經(jīng)網(wǎng)絡(luò )方面的開(kāi)創(chuàng )性工作塑造了為當今許多產(chǎn)品提供動(dòng)力的人工智能系統。2018年,辛頓與楊立昆(Yann LeCun)和約書(shū)亞·本吉奧(Yoshua Bengio)共同獲得了當年的圖靈獎。
值得一提的是,辛頓的團隊很早就開(kāi)始利用英偉達的CUDA平臺訓練神經(jīng)網(wǎng)絡(luò )模型。2012年,辛頓與他的學(xué)生Alex Krizhevsky和Ilya Sutskever在CUDA平臺上訓練了一個(gè)視覺(jué)識別神經(jīng)網(wǎng)絡(luò )“AlexNet”。
在當年著(zhù)名的ImageNet競賽中,AlexNet幾乎將對象識別的錯誤率減少一半,重塑了計算機視覺(jué)領(lǐng)域。這也讓英偉達GPU+CUDA組合在深度學(xué)習領(lǐng)域一鳴驚人,為十年后股價(jià)的爆發(fā)奠定了理論基礎。
2012年底,辛頓團隊三人創(chuàng )建了DNNresearch公司,次年該公司被谷歌買(mǎi)下。2016年,谷歌推出AlphaGo,在圍棋上橫掃了人類(lèi)棋手,成為當時(shí)公認的最強AI大廠(chǎng)。而在前一年,Sutskever離開(kāi)了谷歌,參與創(chuàng )立了OpenAI并擔任首席科學(xué)家。
去年,辛頓在社交媒體上證實(shí)他離開(kāi)谷歌。在接受媒體采訪(fǎng)時(shí),他表示,“我對我畢生所研究的東西感到后悔了?!苯芨ダ镄稳莘Q(chēng),AI聊天機器人所帶來(lái)的某些危險“相當恐怖”。
評論