田納西大學(xué)教授杰克·唐加拉獲得2021年度圖靈獎，為高性能計算發(fā)展做出重大貢獻

近日，美國計算機協(xié)會(huì )（Association for Computing Machinery，簡(jiǎn)稱(chēng) ACM）將 2021 年度圖靈獎授予田納西大學(xué)電氣工程和計算機科學(xué)系教授杰克·唐加拉（Jack J. Dongarra），以表彰其在高性能計算發(fā)展上的重大貢獻，該獎項相當于“計算領(lǐng)域的諾貝爾獎”。

在唐加拉過(guò)往的生命中，有很大一部分時(shí)間是在計算機科學(xué)和數學(xué)的世界之間穿梭。谷歌 AI 業(yè)務(wù)負責人杰夫·迪恩（Jeff Dean）這樣評價(jià)道， “唐加拉的工作從根本上改變并推動(dòng)了科學(xué)計算?！敝档靡惶岬氖?，在獲得表彰的同時(shí)，唐加拉還獲得了 100 萬(wàn)美元的獎金，谷歌為 ACM 提供了該獎項的財務(wù)支持。

對于此次獲獎，唐加拉表示，"我對此前的圖靈獎獲得者有著(zhù)極大的尊重，我使用過(guò)他們的書(shū)以及定理，我只希望自己能成為未來(lái)計算機科學(xué)家的榜樣。"

其實(shí)，很多科學(xué)工作者，甚至包括此前的圖靈獎獲得者，都曾在某個(gè)時(shí)候或者是每天都在使用唐加拉所開(kāi)發(fā)的程序和庫，如廣泛用于系統性能基準測試的線(xiàn)性代數程序 LINPAC、執行科學(xué)計算核心的向量和矩陣操作的主力運算庫 BLAS 以及用于 GPU 的線(xiàn)性代數庫 MAGMA。

圖 | 杰克·唐加拉（Jack J. Dongarra）（來(lái)源：ACM）

據了解，唐加拉出生于 1950 年，如今已過(guò)古稀之年。在他看來(lái)，其一生最重要的貢獻主要有三個(gè)方面。

第一是開(kāi)發(fā)了眾多可移植的、適用于高性能機器的數值軟件；第二是在計算機的并行處理機制上做了相關(guān)工作，如消息傳遞接口（Message passing interface，簡(jiǎn)稱(chēng)MPI）；第三是開(kāi)發(fā)測量計算機性能的評估技術(shù)，如衡量超級計算機能力的 TOP500 測試。

唐加拉稱(chēng)，“這些工作都集中在先進(jìn)的計算機架構上以及如何非常有效地利用它們?！倍ㄒ恢骶€(xiàn)是，如何讓科學(xué)家在計算機允許的范圍內做他們想做的實(shí)驗。

為此，唐加拉發(fā)明了一些工具，以幫助程序員在各種計算方面擁有更強的掌握能力，其最近專(zhuān)注的是一個(gè)叫做 SLATE 的線(xiàn)性代數軟件包。

據悉，SLATE 可以在“計算金字塔”（computational pyramid）上運行，從筆記本電腦到臺式機、集群以及超級計算機。唐加拉介紹，“用戶(hù)可以忘記底層的硬件，只需提出線(xiàn)性代數問(wèn)題，SLATE 會(huì )想辦法把它分散到數十萬(wàn)個(gè)處理器或 GPU 上?！?br />
現在，超級計算在世界范圍內盛行，越來(lái)越多的人通過(guò)云計算來(lái)使用超級計算機，這很大程度上歸功于唐加拉長(cháng)年的編程努力。

唐加拉表示，“就計算方式而言，我們正處于一個(gè)拐點(diǎn)，傳統方式是在這些占據兩個(gè)網(wǎng)球場(chǎng)大小的機器上進(jìn)行科學(xué)計算，而現在更多是基于云來(lái)調用機器"。

他認為，從某種意義上說(shuō)，超級計算行業(yè)在建造超級計算機的傳統方式上幾乎已經(jīng)走到了盡頭。摩爾定律失效后，組裝一臺獨立的高性能計算機并不是一個(gè)可以繼續擴展的過(guò)程，承擔下一個(gè)巨大計算時(shí)代的應當是云規模系統。

亞馬遜、Meta、谷歌等科技巨頭擁有巨大的設備和系統資源，而科學(xué)家們由于資金的原因，很難將必要的資源落實(shí)到位，而云中的商業(yè)資源可供科學(xué)家們利用，以滿(mǎn)足其特定需求。

值得一提的是，唐加拉還關(guān)注著(zhù)中國的超級計算發(fā)展，并多次到訪(fǎng)中國參與技術(shù)交流。他曾在北京考察中國首臺千兆次超級計算機“天河一號”，還在 2013 年出席了在長(cháng)沙舉行的國際 HPC 會(huì )議，與眾多的中國超算科學(xué)家進(jìn)行技術(shù)交流。

除超級計算外，線(xiàn)性代數也憑著(zhù)唐加拉對向量和矩陣以及張量的處理來(lái)到了計算的核心。唐加拉表示，“我是一個(gè)數學(xué)家，對我來(lái)說(shuō)，一切都是線(xiàn)性代數，但世界也在看到這一點(diǎn)。事實(shí)上，機器學(xué)習和人工智能中的大多數問(wèn)題，都可以追溯到線(xiàn)性代數中的‘永恒計算組件’。”

此外，唐加拉還注意到科學(xué)家和軟件編寫(xiě)者的編程語(yǔ)言需求。當被問(wèn)及更推薦哪種軟件編程范式，他表示，Julia、MatLab 都較為不錯。

他談到，今天需要的軟件編程范式是 “以簡(jiǎn)單的方法來(lái)表達所有計算”，也就是線(xiàn)性代數的計算，如矩陣乘法。

這也正是唐加拉多年來(lái)一直在做的事情，即輕松地表達事物，并獲得底層硬件的性能。具體而言，就是通過(guò)更多的工具來(lái)抽象化細節，讓科學(xué)家更有生產(chǎn)力。

目前，唐加拉的興趣所在是 AI 技術(shù)，他對 AI 為工程和科學(xué)帶來(lái)的好處有著(zhù)堅定的信念，并正在努力研究各類(lèi)基于線(xiàn)性代數的機器學(xué)習算法。

他表示，“機器學(xué)習是一個(gè)巨大的工具，我們才剛剛開(kāi)始了解如何使用機器學(xué)習等 AI 技術(shù)來(lái)幫助解決科學(xué)問(wèn)題。它也許不會(huì )直接解決我們的問(wèn)題，但它將成為幫助我們解決問(wèn)題的好伙伴。”

-End-