《人工智能北京共識》發(fā)布：研發(fā)上要對潛在倫理風(fēng)險與隱患負責

5月25日，北京智源人工智能研究院聯(lián)合北京大學(xué)、清華大學(xué)、中國科學(xué)院自動(dòng)化研究所、中國科學(xué)院計算技術(shù)研究所、新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng )新戰略聯(lián)盟等高校、科研院所和產(chǎn)業(yè)聯(lián)盟，共同發(fā)布《人工智能北京共識》。

針對人工智能的研發(fā)、使用、治理三方面，《人工智能北京共識》提出了各個(gè)參與方應該遵循的有益于人類(lèi)命運共同體構建和社會(huì )發(fā)展的15條原則。其中，研發(fā)方面，提倡要有益于增進(jìn)社會(huì )與生態(tài)的福祉，服從人類(lèi)的整體利益，設計上要合乎倫理，體現出多樣性與包容性，盡可能地惠及更多人，要對潛在倫理風(fēng)險與隱患負責，提升技術(shù)水平控制各種風(fēng)險，并最大范圍共享人工智能發(fā)展成果。使用方面，提倡善用和慎用，避免誤用和濫用，以最大化人工智能技術(shù)帶來(lái)的益處、最小化其風(fēng)險，應確保利益相關(guān)者對其權益所受影響有充分的知情與同意，并能夠通過(guò)教育與培訓適應人工智能發(fā)展帶來(lái)的影響。在治理方面，對人工智能部分替代人類(lèi)工作保持包容和謹慎態(tài)度，鼓勵探索更能發(fā)揮人類(lèi)優(yōu)勢和特點(diǎn)的新工作，廣泛開(kāi)展國際合作，共享人工智能治理經(jīng)驗。人工智能的準則與治理措施應做到適應和適度，并開(kāi)展長(cháng)遠戰略設計，以確保未來(lái)人工智能始終保持向對社會(huì )有益的方向發(fā)展。

同時(shí)，北京智源人工智能研究院人工智能倫理與安全研究中心揭牌成立。

人工智能倫理與規范是未來(lái)智能社會(huì )的發(fā)展基石，已經(jīng)引起了各國政府和學(xué)術(shù)界、企業(yè)界等的廣泛關(guān)注。歐盟、英國、日本等國際組織和國家，均發(fā)布了人工智能的倫理準則。《人工智能北京共識》關(guān)注“服務(wù)于人”，將“和諧與優(yōu)化共生”這一中國哲學(xué)和文化中的特色理念，作為尋求跨行業(yè)、跨部門(mén)、跨地區全球協(xié)作的指導思想，并強調促進(jìn)人工智能相關(guān)準則的“落地”，為未來(lái)打造“負責任的、有益的”人工智能。這一共識的發(fā)布，為規范和引領(lǐng)人工智能健康發(fā)展提供了“北京方案”，對于實(shí)現人工智能“自律”“善治”“有序”具有重要意義。

另外，為降低人工智能發(fā)展過(guò)程中可能存在的技術(shù)風(fēng)險和倫理隱患，北京智源人工智能研究院專(zhuān)門(mén)成立人工智能倫理與安全研究中心，中國科學(xué)院自動(dòng)化研究所曾毅研究員任研究中心主任。

曾毅研究員介紹了人工智能倫理與安全研究中心的主要研究?jì)热?。據介紹，該研究中心將圍繞人工智能倫理與安全的理論探索、算法模型、系統平臺、行業(yè)應用等開(kāi)展一系列研究，目前主要包括四大方面：一是低風(fēng)險機器學(xué)習模型與平臺的構建，建立機器學(xué)習模型安全性的評估體系，并結合具體領(lǐng)域進(jìn)行驗證。二是開(kāi)展符合人類(lèi)倫理道德的智能自主學(xué)習模型研究，實(shí)現人工智能行為與人類(lèi)價(jià)值觀(guān)的校準，并在模擬環(huán)境與真實(shí)場(chǎng)景中進(jìn)行驗證。三是建設數據安全示范應用系統，建立數據基礎設施、數據分級、權限控制、數據審計，最大限度防止數據泄密，降低風(fēng)險，探索允許用戶(hù)撤銷(xiāo)個(gè)人數據授權的機制及計算平臺。四是構建人工智能風(fēng)險與安全綜合沙盒平臺，建設自動(dòng)檢測平臺，針對數據與算法的安全性、公平性、可追溯性、風(fēng)險類(lèi)型、影響程度與影響范圍等方面，對人工智能產(chǎn)品及應用進(jìn)行風(fēng)險與安全綜合檢測與評估，引導行業(yè)健康發(fā)展。

會(huì )議認為，人工智能涉及范圍極廣，應對人工智能帶來(lái)的挑戰，不是一個(gè)領(lǐng)域、一個(gè)城市、一個(gè)部門(mén)、一個(gè)機構能夠獨立完成的，需要充分匯聚科學(xué)家、企業(yè)家、產(chǎn)業(yè)聯(lián)盟和社會(huì )各界的力量，多方參與、共同努力，持續推動(dòng)人工智能倫理、規范方面的學(xué)術(shù)研究與成果轉化應用，并不斷強化行業(yè)自律。會(huì )議倡導北京人工智能領(lǐng)域廣大創(chuàng )新主體，積極踐行并不斷完善共識的內涵，共同營(yíng)造良好生態(tài)，加快人工智能領(lǐng)域基礎研究、核心技術(shù)創(chuàng )新和高精尖產(chǎn)業(yè)發(fā)展，讓人工智能更好支撐北京高質(zhì)量發(fā)展和創(chuàng )新驅動(dòng)發(fā)展戰略實(shí)施，并更好造福全人類(lèi)。

今后，人工智能倫理與安全研究中心將著(zhù)力在算法安全評估、安全模型構建、AI綜合沙盒建設等方面盡快取得一系列創(chuàng )新性成果，為降低人工智能的風(fēng)險和倫理隱患提供技術(shù)服務(wù)，促進(jìn)人工智能行業(yè)的良性健康發(fā)展。