機器學(xué)習的出現，是否意味著(zhù)“古典科學(xué)”的過(guò)時(shí)？

作者：Laura Spinney

譯者：劉媛媛

原文：Are we witnessing the dawn of post-theory science?

讓我們回憶一下，Isaac Newton 被一個(gè)蘋(píng)果砸中頭部，然后是怎么提出牛頓第二定律——萬(wàn)有引力的？

大概過(guò)程是這樣的：大量的實(shí)驗和數據分析之后，他意識到，力、質(zhì)量和加速度之間存在根本的關(guān)系。然后他制定了一種理論來(lái)描述這種關(guān)系，表示為一個(gè)方程“F=ma”，并用它來(lái)預測蘋(píng)果以外的物體的行為。事實(shí)證明，他的預測是正確的（這對于不要求精確度的人們來(lái)說(shuō)是足夠）。

現在，我們再來(lái)對比一下當今科學(xué)發(fā)展的新潮流：Facebook 的機器學(xué)習工具比任何心理學(xué)家都更能預測你的偏好；DeepMind 開(kāi)發(fā)的 AlphaFold，可以根據蛋白質(zhì)所含的氨基酸對蛋白質(zhì)結構做出了迄今為止最準確的預測。

它們的誕生對于科學(xué)界的研究范式來(lái)說(shuō)究竟意味著(zhù)什么？換句話(huà)說(shuō)：獲取知識的最佳方式是什么？科學(xué)又從何而來(lái)？

人類(lèi)的不安

Facebook 和 AlphaFold 沒(méi)有提供任何理論解釋。這些算法只是完成工作并且效果還不錯。我們每天都在見(jiàn)證 Facebook 預測的社會(huì )影響。AlphaFold  的影響尚未顯現，但許多人相信它將改變醫學(xué)。

一時(shí)間，它們的理論基礎似乎隱居二線(xiàn)。

2008 年，時(shí)任 Wired 雜志的主編 Chris Anderson 預言了一種理論的消亡。他認為，現在已經(jīng)積累了如此多的數據，而計算機在發(fā)現數據間的關(guān)系方面比人類(lèi)表現的更好。很快，古老的科學(xué)方法，即假設、預測、檢驗，將被扔進(jìn)歷史的垃圾箱。人們不再尋找事物的本質(zhì)原因，而是滿(mǎn)足于數據間的相關(guān)性。

事后看來(lái)，Anderson 所看到的情況是真實(shí)的。大量數據的復雜性無(wú)法被我們傳統理解的理論所捕捉。

德國馬克斯普朗克生物控制論研究所所長(cháng)、計算神經(jīng)科學(xué)家 Peter Dayan 說(shuō)：“因為不知道它們會(huì )是什么樣子的，所以我們甚至沒(méi)有能力寫(xiě)出對描述有用的理論?！?/p>

但 Anderson 對理論終結的預測似乎為時(shí)過(guò)早。盡管 Facebook 和 AlphaFold 這樣的無(wú)理論基礎的預測引擎取得了成功，但理論不會(huì )消亡，此處有以下三個(gè)原因。

第一個(gè)原因是，我們已經(jīng)意識到 AI，尤其是神經(jīng)網(wǎng)絡(luò )這種機器學(xué)習形式，無(wú)需接受明確的指令即可從數據中學(xué)習，它們本身是容易出錯的。想想谷歌搜索引擎和亞馬遜招聘工具中記錄的偏見(jiàn)就可以明白。

第二，人類(lèi)對沒(méi)有理論基礎的科學(xué)方法深感不安。我們就是不喜歡和黑匣子相處。

第三，可能仍然有很多傳統類(lèi)型的理論（即人類(lèi)可以理解的）可以有效地解釋很多事情，只是尚未被發(fā)現。

所以理論還沒(méi)有消亡，但它正在改變——也許還會(huì )變得面目全非。普林斯頓大學(xué)心理學(xué)家 Tom Griffiths 說(shuō)：“擁有大量數據時(shí)的有意義的理論，與僅擁有少量數據時(shí)有意義的理論，看起來(lái)是完全不同?！?/p>

Griffiths 一直在使用神經(jīng)網(wǎng)絡(luò )來(lái)幫助改進(jìn)他所在領(lǐng)域的現有理論，即人類(lèi)決策。一個(gè)關(guān)于人們在涉及經(jīng)濟風(fēng)險時(shí)如何做出決策的流行理論是前景理論，它由行為經(jīng)濟學(xué)家 Daniel Kahneman 和 Amos Tversky 在 1970 年代提出的（后來(lái) Kahneman 獲得了諾貝爾獎）。其核心理念是：人并非總是理性的。

圖2 Daniel Kahneman，人類(lèi)行為前景理論的創(chuàng )始人之一

在 2021 年 6 月的 Science雜志上，Griffiths 的小組描述了他們如何在一個(gè)龐大的決策數據集上，訓練一個(gè)神經(jīng)網(wǎng)絡(luò )模型，該數據集包含在 10,000 個(gè)有風(fēng)險的選擇場(chǎng)景中人們做出的決策，然后比較模型預測有關(guān)前景理論的進(jìn)一步?jīng)Q策的準確度。他們發(fā)現前景理論做得很好，但是神經(jīng)網(wǎng)絡(luò )在突出理論失敗的地方（即預測失敗的地方）顯示出它的價(jià)值（參見(jiàn)“數據實(shí)戰派”往期報道）。

Griffiths 認為，這些反例反映的信息量更大，因為它們揭示了現實(shí)生活中存在的更多復雜性。例如，正如前景理論所描述的那樣，人類(lèi)不斷地根據傳入的信息權衡概率。但是，當大腦要計算的競爭概率太多時(shí)，他們可能會(huì )轉向不同的策略。例如，受經(jīng)驗法則的指導，股****經(jīng)紀人的經(jīng)驗法則，可能與青少年比特幣交易員的經(jīng)驗法則不同，因為它來(lái)自不同的經(jīng)驗。

 “我們基本上是在使用機器學(xué)習系統，來(lái)識別那些觀(guān)察與理論不一致的情況”，Griffiths 說(shuō)。

數據集越大，人工智能學(xué)習的不一致就越多。最終得到的結果，不是傳統意義上的關(guān)于人們如何做出決定的精確主張的理論，而是一組受某些約束的主張。

一種描繪它的方式可能是“如果...那么...”類(lèi)型規則的分支樹(shù)，這很難用數學(xué)來(lái)描述，更不用說(shuō)用語(yǔ)言描述了。

可理解和預測性之間的權衡

人類(lèi)也不是第一次面臨這種局面了。

1980 年代，語(yǔ)音識別軟件先驅 Frederick Jelinek 曾說(shuō)說(shuō)：每解雇一名團隊中的語(yǔ)言學(xué)家，語(yǔ)音識別器的性能就能獲得提高。

他的意思是，對理論的執著(zhù)某種程度上阻礙了實(shí)踐上的進(jìn)步。

以預測而蛋白質(zhì)結構的例子來(lái)說(shuō)明。蛋白質(zhì)的功能很大程度上取決于它的結構，因此，如果你想設計一種****物來(lái)阻斷或增強給定蛋白質(zhì)的作用，你需要了解它的結構。

AlphaFold 使用 X 射線(xiàn)晶體學(xué)等技術(shù)，對實(shí)驗推導的結構進(jìn)行了訓練，目前它對于有一些實(shí)驗數據的蛋白質(zhì)的預測，比那些沒(méi)有實(shí)驗數據的蛋白質(zhì)的預測更可靠。

歐洲生物信息學(xué)研究所 (EMBL-EBI) 前主任 Janet Thornton 說(shuō)：”模型的可靠性是一直在提高的。缺少理論并不會(huì )阻止****物設計師使用它，這只會(huì )增進(jìn)我們對生命和治療的理解?！?/p>

圖3 由 AlphaFold 程序模擬的蛋白質(zhì)結構

同時(shí)，也有一部分人顯然對這種科學(xué)發(fā)展方向不太滿(mǎn)意。

例如，批評者指出，神經(jīng)網(wǎng)絡(luò )可能會(huì )產(chǎn)生虛假的相關(guān)性，尤其是在訓練數據集很小的情況下。

而且所有數據集都是有偏見(jiàn)的，畢竟科學(xué)家們收集數據的方式不是均勻或中立的，而是始終考慮某些假設，這些假設對谷歌和亞馬遜的人工智能造成了破壞性影響。

正如科學(xué)哲學(xué)家 Sabina Leonelli 解釋的那樣：“我們使用的數據環(huán)境非常扭曲?！?/p>

雖然這些問(wèn)題確實(shí)存在，但計算神經(jīng)科學(xué)家Dayan并不認為它們是不可克服的。

他指出，人類(lèi)也有偏見(jiàn)，而且與人工智能不同，人類(lèi)是以非常難以審視或糾正的方式。

AI 新科學(xué)面臨的一個(gè)更大的障礙，可能是人類(lèi)需要解釋這個(gè)世界——用因果關(guān)系來(lái)討論。

2019 年，西雅圖華盛頓大學(xué)的神經(jīng)科學(xué)家 Bingni Brunton 和 Michael Beyeler 寫(xiě)道:“這種對可解釋性的需求，可能阻礙了科學(xué)家們對大腦產(chǎn)生新的見(jiàn)解，這種見(jiàn)解只能從大型數據集中出現”。

但他們對此也表示同情。他們說(shuō)：“如果要將這些見(jiàn)解轉化為****物和設備等有用的東西，計算模型必須產(chǎn)生對臨床醫生、最終用戶(hù)和行業(yè)可解釋和信任的洞察力?！?/p>

解決如何彌合可解釋性差距的——可解釋人工智能，已成為熱門(mén)話(huà)題。但這種差距只會(huì )越來(lái)越大，我們可能會(huì )面臨權衡取舍：愿意為可解釋性放棄多少可預測性？

對 AI 驅動(dòng)的科學(xué)，還有最后一個(gè)反對意見(jiàn)是，人們對舊理論方法仍有待發(fā)現，其中可能存在有用的地方（即從離散示例中提取的概括）。而且只有人類(lèi)才能做到這一點(diǎn)，因為它需要直覺(jué)。

換句話(huà)說(shuō)，它需要一種對一般規則相關(guān)的示例屬性，進(jìn)行本能的歸納總結。

牛頓厲害的一點(diǎn)，他為了提出牛頓第二定律，必須忽略一些數據。例如，他必須想象，事物在真空中下落，不受空氣阻力的干擾。

上個(gè)月 Nature 發(fā)了一篇文章，德國數學(xué)家 Christian Stump 在文中表示，人類(lèi)這種直覺(jué)行為是“發(fā)明/發(fā)現過(guò)程的核心”。但他寫(xiě)這篇文章的原因是，DeepMind 建立了一個(gè)機器學(xué)習程序，該程序幫助人類(lèi)數學(xué)家從以往的數學(xué)中獲得新的見(jiàn)解與概括。

因此，可以預見(jiàn)的是，2022 年，AI 會(huì )在各種科學(xué)過(guò)程中留下足跡。

我們越將它納入人類(lèi)對知識的追求，它就越會(huì )改變這種追求。

我們必須學(xué)會(huì )忍受這一點(diǎn)，并向自己保證這樣一件事：人類(lèi)仍然在問(wèn)問(wèn)題，正如 Pablo Picasso 在 1960 年代所說(shuō)，“計算機是無(wú)用的。他們只能給人類(lèi)答案?！?/p>

*博客內容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀(guān)點(diǎn)，如有侵權請聯(lián)系工作人員刪除。