2022年，計算機領(lǐng)域發(fā)生了哪些大事？Quanta Magazine的年終盤(pán)點(diǎn)來(lái)了。
2022年，計算機領(lǐng)域發(fā)生很多劃時(shí)代的大事。在今年，計算機科學(xué)家學(xué)會(huì )了完美傳輸秘密，Transformer的進(jìn)步神速，在A(yíng)I的幫助下，數十年歷史的算法被大大改進(jìn)……
2022年計算機大事件
現在，計算機科學(xué)家能解決的問(wèn)題，范圍是越來(lái)越廣了，因此，他們的工作也越來(lái)越跨學(xué)科。今年，許多計算機科學(xué)領(lǐng)域的成果，還助力了其他科學(xué)家和數學(xué)家。比如密碼學(xué)問(wèn)題，這涉及了整個(gè)互聯(lián)網(wǎng)的安全。密碼學(xué)的背后，往往是復雜的數學(xué)問(wèn)題。曾經(jīng)有一種非常有前途的新密碼方案，被認為足以抵御來(lái)自量子計算機的攻擊，然而，這個(gè)方案被「兩條橢圓曲線(xiàn)的乘積及其與阿貝爾曲面的關(guān)系」這個(gè)數學(xué)問(wèn)題推翻了。
以單向函數的形式出現的一組不同的數學(xué)關(guān)系，將告訴密碼學(xué)家是否有真正安全的代碼。計算機科學(xué)，尤其是量子計算，與物理學(xué)也有很大的重疊。今年理論計算機科學(xué)的一件大事，就是科學(xué)家證明了NLTS猜想。這個(gè)猜想告訴我們，粒子之間幽靈般的量子糾纏，并不像物理學(xué)家曾經(jīng)想象的那樣微妙。這不僅影響了對我們對物理世界的理解，也影響了糾纏所帶來(lái)的無(wú)數密碼學(xué)的可能性。
另外，人工智能一直與生物學(xué)相得益彰——事實(shí)上，生物學(xué)領(lǐng)域就是從人腦中汲取靈感，人腦也許是最終極的計算機。長(cháng)久以來(lái)，計算機科學(xué)家和神經(jīng)科學(xué)家都希望了解大腦的工作原理，創(chuàng )造出類(lèi)腦的人工智能，但這些似乎一直是白日夢(mèng)。但不可思議的是，Transformer神經(jīng)網(wǎng)絡(luò )似乎可以像大腦一樣處理信息。每當我們多了解一些Transformer的工作原理，就更了解大腦一些，反之亦然。或許這就是為什么Transformer在語(yǔ)言處理和圖像分類(lèi)上如此出色的原因。甚至，AI還可以幫我們創(chuàng )造更好的AI，新的超網(wǎng)絡(luò )（hypernetworks）可以幫助研究人員以更低的成本、用更快的速度訓練神經(jīng)網(wǎng)絡(luò )，還能幫到其他領(lǐng)域的科學(xué)家。
Top1：量子糾纏的答案
量子糾纏是一種將遙遠的粒子緊密聯(lián)系起來(lái)的特性，可以肯定的是，一個(gè)完全糾纏的系統是無(wú)法被完全描述的。不過(guò)物理學(xué)家認為，那些接近完全糾纏的系統會(huì )更容易描述。但計算機科學(xué)家則認為，這些系統同樣不可能被計算出來(lái)，而這就是量子PCP（概率可檢測證明，Probabilistically Checkable Proof）猜想。為了幫助證明量子PCP理論，科學(xué)家們提出了一個(gè)更簡(jiǎn)單的假設，被稱(chēng)為「非低能平凡態(tài)」（NLTS）猜想。今年6月，來(lái)自哈佛大學(xué)、倫敦大學(xué)學(xué)院和加州大學(xué)伯克利分校對三位計算機科學(xué)家，在一篇論文中首次實(shí)現了NLTS猜想的證明。
論文地址：https://arxiv.org/abs/2206.13228這意味著(zhù)存在可在更高的溫度下保持糾纏態(tài)的量子系統，同時(shí)也表明，即使遠離低溫等極端情況，糾纏粒子系統仍然難以分析，難以計算基態(tài)能量。物理學(xué)家們很驚訝，因為這意味著(zhù)糾纏不一定像他們想象的那樣脆弱，而計算機科學(xué)家們很高興離證明一個(gè)被稱(chēng)為量子PCP（概率可檢測證明）定理的證明又近了一步。
今年10月，研究人員成功地將三個(gè)粒子在相當遠的距離上糾纏在一起，加強了量子加密的可能性。
Top2：改變AI的理解方式
在過(guò)去的五年里，Transformer徹底改變了AI處理信息的方式。在2017年，Transformer首次出現在一篇論文中。人們開(kāi)發(fā)Transformer，是為了理解和生成語(yǔ)言。它可以實(shí)時(shí)處理輸入數據中的每一個(gè)元素，讓它們具有「大局觀(guān)」。與其他采取零散方法的語(yǔ)言網(wǎng)絡(luò )相比，這種「大局觀(guān)」讓Transformer的速度和準確性大大提高。
這也使得它具有不可思議的通用性，其他的AI的研究人員，也把Transformer應用于自己的領(lǐng)域。他們已經(jīng)發(fā)現，應用同樣的原理，可以用來(lái)升級圖像分類(lèi)和同時(shí)處理多種數據的工具。
論文地址：https://arxiv.org/abs/2010.11929Transformers迅速成為專(zhuān)注于分析和預測文本的單詞識別等應用程序的領(lǐng)跑者。它引發(fā)了一波工具浪潮，例如 OpenAI的GPT-3，它訓練數千億個(gè)單詞并生成一致的新文本，達到令人不安的程度。不過(guò)，跟非Transformer模型相比，這些好處是以Transformer更多的訓練量為代價(jià)的。
這些人臉是由基于Transformer的網(wǎng)絡(luò )，在對超過(guò)20萬(wàn)張名人面孔的數據集進(jìn)行訓練后創(chuàng )建的在今年3月，研究Transformer工作原理的研究人員發(fā)現，它之所以如此強大，部分原因是它將更大的意義附加到詞語(yǔ)上的能力，而不是簡(jiǎn)單的記憶模式。
事實(shí)上，Transformer的適應性如此之強，神經(jīng)科學(xué)家已經(jīng)開(kāi)始用基于Transformer的網(wǎng)絡(luò )對人腦功能進(jìn)行建模。這表明人工智能和人類(lèi)智能之間，或許是一體同源的。
Top3：破解后量子加密算法
量子計算的出現，讓很多原本需要消耗超大計算量的問(wèn)題都得到了解決，而經(jīng)典加密算法的安全性也因此受到了威脅。于是，學(xué)界便提出了后量子密碼的概念，來(lái)抵抗量子計算機的破解。作為備受期待的加密算法，SIKE（Supersingular Isogeny Key Encapsulation）是一種利用橢圓曲線(xiàn)作為定理的加密算法。然而就在今年7月，兩位來(lái)自比利時(shí)魯汶大學(xué)的研究人員發(fā)現，這個(gè)算法可以在短短1個(gè)小時(shí)內，用一臺10年「高齡」的臺式計算機被成功破解。值得注意的是，研究人員從純數學(xué)的角度來(lái)解決這個(gè)問(wèn)題，攻擊算法設計的核心，而不是任何潛在的代碼漏洞。
論文地址：https://eprint.iacr.org/2022/975對此，研究人員表示，只有當你能證明「單向函數」的存在時(shí)，才有可能創(chuàng )建一個(gè)可證明的安全代碼，也就是一個(gè)永遠不可能失敗的代碼。雖然現在仍然不知道它們是否存在，但研究人員認為，這個(gè)問(wèn)題等同于另一個(gè)叫做Kolmogorov復雜性的問(wèn)題。只有當某一版本的Kolmogorov復雜性難以計算時(shí)，單向函數和真正的密碼學(xué)才有可能。
Top4：用AI訓練AI
近年來(lái)，人工神經(jīng)網(wǎng)絡(luò )的模式識別技能，為人工智能領(lǐng)域注入了活力。但在一個(gè)網(wǎng)絡(luò )開(kāi)始工作之前，研究人員必須首先訓練它。這個(gè)訓練過(guò)程可能會(huì )持續數月，需要大量數據，在這個(gè)過(guò)程中，需要對潛在的數十億個(gè)參數進(jìn)行微調。現在，研究人員有了一個(gè)新的想法——讓機器替他們來(lái)做這件事。這種新型「超網(wǎng)絡(luò )」叫做GHN-2，它能夠處理和吐出其他網(wǎng)絡(luò )。
論文鏈接：https://arxiv.org/abs/2110.13100它的速度很快，能夠分析任何指定的網(wǎng)絡(luò )，并迅速提供一組參數值，這些參數值和以傳統方式訓練的網(wǎng)絡(luò )中的參數，一樣有效。盡管GHN-2提供的參數可能不是最佳的，但它仍然提供了一個(gè)更理想的起點(diǎn)，減少了全面訓練所需的時(shí)間和數據。
通過(guò)在給定的圖像數據集和我們的DEEPNETS-1M架構數據集上預測的參數進(jìn)行反向傳播訓練今年夏天，Quanta雜志還研究了另一種幫助機器學(xué)習的新方法——具身人工智能。
它允許算法從響應迅速的三維環(huán)境中學(xué)習，而不是通過(guò)靜態(tài)圖像或抽象數據。無(wú)論是探索模擬世界的代理，還是真實(shí)世界中的機器人，這些系統擁有從根本上不同的學(xué)習方式，而且在許多情況下，這些方式比使用傳統方法訓練的系統更好。
Top5：算法的改進(jìn)
提高基礎計算算法的效率一直都是學(xué)界熱點(diǎn)，因為它會(huì )影響大量計算的整體速度，從而對智能計算領(lǐng)域產(chǎn)生多米諾骨牌式的效應。今年10月，DeepMind團隊在發(fā)表于Nature上的論文中，提出了第一個(gè)用于為矩陣乘法等基本計算任務(wù)發(fā)現新穎、高效、正確算法的AI系統——AlphaTensor。它的出現，為一個(gè)50年來(lái)的懸而未決的數學(xué)問(wèn)題找到了新答案：找到兩個(gè)矩陣相乘的最快方法。矩陣乘法，作為矩陣變換的基礎運算之一，是是許多計算任務(wù)的核心組成部分。其中涵蓋了計算機圖形、數字通信、神經(jīng)網(wǎng)絡(luò )訓練和科學(xué)計算等等，而AlphaTensor發(fā)現的算法可以使這些領(lǐng)域的計算效率大大提升。
論文地址：https://www.nature.com/articles/s41586-022-05172-4今年3月，由六位計算機科學(xué)家組成的團隊提出了一種「快得離譜」的算法，讓計算機最古老的「最大流問(wèn)題」獲得了突破性的進(jìn)展。新算法可在「幾乎線(xiàn)性」的時(shí)間內解決這個(gè)問(wèn)題，也就是說(shuō)，其運行時(shí)間基本與記錄網(wǎng)絡(luò )細節所需的時(shí)間正比。
論文地址：https://arxiv.org/abs/2203.00671v2最大流問(wèn)題是一種組合最優(yōu)化問(wèn)題，討論的是如何充分利用裝置的能力使得運輸的流量最大，進(jìn)而取得最好的效果。在日常生活中，它在很多方面都有應用，如互聯(lián)網(wǎng)數據流、航空公司調度，甚至包含將求職者與空缺職位進(jìn)行匹配等等。作為論文的作者之一，來(lái)自耶魯大學(xué)的Daniel Spielman表示，「我原本堅信，這個(gè)問(wèn)題不可能存在如此高效的算法?！?/span> Top6：分享信息的新途徑
普林斯頓大學(xué)的理論計算機科學(xué)家Mark Braverman，花了一生中超過(guò)四分之一的時(shí)間，來(lái)研究交互式通信的新理論。他的工作使研究人員能夠對「信息」和「知識」等術(shù)語(yǔ)進(jìn)行量化，這不僅使人們在理論上對互動(dòng)有了更多的了解，而且還創(chuàng )造了新的技術(shù)，使交流更加高效和準確。
Braverman最喜歡在辦公室的沙發(fā)上思考量化的難題由于他的這一成就，以及其他成果，國際數學(xué)聯(lián)盟今年7月授予Braverman IMU Abacus獎?wù)?，這是理論計算機科學(xué)領(lǐng)域的最高榮譽(yù)之一。IMU的頒獎詞指出，Braverman對信息復雜性的貢獻，使人們更深入地了解了當兩方相互溝通時(shí)，信息成本的不同衡量標準。他的工作為不易受傳輸錯誤影響的新編碼策略，以及在傳輸和操作過(guò)程中壓縮數據的新方法，鋪平了道路。信息復雜性問(wèn)題，來(lái)自于Claude Shannon的開(kāi)拓性工作——在1948年，他為一個(gè)人通過(guò)通道向另一個(gè)人發(fā)送消息，制定了數學(xué)框架。而B(niǎo)raverman最大的貢獻在于，建立了一個(gè)廣泛的框架，該框架闡明了描述交互式通信邊界的通用規則——這些規則提出了在通過(guò)算法在線(xiàn)發(fā)送數據時(shí)，壓縮和保護數據的新策略。
論文地址：https://arxiv.org/abs/1106.3595「交互式壓縮」問(wèn)題可以這么理解：如果兩個(gè)人交換一百萬(wàn)條****，但只學(xué)習1,000位信息，交換是否可以壓縮為1,000位守恒？Braverman和Rao的研究表明，答案是否定的。
而B(niǎo)raverman不僅破解了這些問(wèn)題，他還引入了一種新的視角，使研究人員能夠首先闡明它們，然后將它們翻譯成數學(xué)的正式語(yǔ)言。他的理論為探索這些問(wèn)題和確定可能出現在未來(lái)技術(shù)中的新通信協(xié)議，奠定了基礎。
來(lái)源：悅智網(wǎng)
加入技術(shù)交流群
