有了安全邊界 人工智能才能有序發(fā)展

　　如果把對人工智能的態(tài)度分為樂(lè )觀(guān)派和憂(yōu)慮派，近日去世的著(zhù)名理論物理學(xué)家霍金一定屬于后者。最近幾年，他頻頻提醒人們注意人工智能的威脅，批評人工智能的無(wú)節制發(fā)展。

　　九三學(xué)社中央科技委委員張妍也深以為然?！叭斯ぶ悄馨l(fā)展的腳步無(wú)法阻擋，‘安全’就顯得尤為重要?！彼f(shuō)，“我們不是杞人憂(yōu)天，要知道，防范的成本比補救的成本低很多?！?/p>

　　2018年兩會(huì )期間，九三學(xué)社向全國政協(xié)十三屆一次會(huì )議提交了《關(guān)于推動(dòng)人工智能安全發(fā)展》的中央提案，提出應著(zhù)力構建安全發(fā)展戰略，將人工智能安全發(fā)展提升到與人工智能科技研發(fā)、成果應用、市場(chǎng)推廣同等重要的位置。

　沒(méi)有藩籬，發(fā)展或會(huì )失控

　　安全是個(gè)寬泛的概念，在九三學(xué)社中央科技委委員王仕看來(lái)，它指的是“可控性”。 他們提出了“五橫一縱”的概念：“五橫”指的是法律、倫理、標準、科技創(chuàng )新和產(chǎn)業(yè)應用;“一縱”指的是科普?！鞍踩睉摑B透在這經(jīng)緯網(wǎng)中。

　　“推薦系統是人工智能的重要應用場(chǎng)景。資訊類(lèi)APP可以無(wú)限制向你推薦你感興趣的內容，強化你的固有觀(guān)點(diǎn)，無(wú)論對錯;電商類(lèi)APP可以無(wú)限制誘導你去‘剁手’，就算超出你的消費能力也無(wú)所謂?！蓖跏伺e的例子，公眾已并不陌生。如果算法只是一味迎合人的需求，沒(méi)有法律或道德的約束與引導，那么最終結果，很可能并不利于個(gè)人或社會(huì )的健康發(fā)展。

　　王仕也從事人工智能相關(guān)工作。他告訴科技日報記者，做語(yǔ)音開(kāi)發(fā)時(shí)，如果產(chǎn)品要進(jìn)入美國市場(chǎng)，所有代碼就必須遵守美國兒童隱私保護法律?！斑@是為了防止智能音箱傳播兒童色情等不良內容?！钡趪鴥?，目前尚無(wú)相關(guān)硬性規定。

　　全國人大代表、科大訊飛董事長(cháng)劉慶峰也認為，“人工智能領(lǐng)域的頂尖科學(xué)家和頂尖企業(yè)的價(jià)值觀(guān)，對人工智能的未來(lái)發(fā)展至關(guān)重要”。比如，科大訊飛的語(yǔ)音合成技術(shù)已經(jīng)可以逼真合成出不同人的聲音，但他們至今不敢隨便對外公布這一技術(shù)，“就是怕出現各種詐騙”。

　　當數據成為重要資源，如果對掌握數據的人沒(méi)有明確約束，對可以自我學(xué)習的人工智能沒(méi)有明確邊界，張妍憂(yōu)慮道，“會(huì )不會(huì )讓壞人更‘壞’?”

　　有了規矩，前路方是坦途

　　去年國務(wù)院公布《新一代人工智能發(fā)展規劃》，但并沒(méi)有將安全作為基本原則之一。九三學(xué)社中央建議，應制定《人工智能安全發(fā)展綱要》，有序制定人工智能安全發(fā)展的法律法規和倫理道德準則。采取“政府主導、專(zhuān)家主體、公眾參與、社會(huì )協(xié)同”方式，深入研究人工智能安全發(fā)展戰略，針對不同環(huán)節和應用場(chǎng)景，明晰不同主體的責任、權利和義務(wù)，制定有關(guān)的政策、措施和法規、標準，劃定人工智能安全發(fā)展的邊界。

　　“對人工智能的科研人員，也要進(jìn)行知識普及，用倫理道德加以約束?！睆堝f(shuō)，“在市場(chǎng)推廣和應用環(huán)節，還要建立安全評估和市場(chǎng)準入機制?！?/p>

　　在法律方面，劉慶峰也專(zhuān)門(mén)從數據角度給出了自己的建議。他指出，應該制定《數據安全保護法》，實(shí)行大數據分級安全保護機制，加強對各行業(yè)領(lǐng)域大數據安全治理，并規范大數據運營(yíng)企業(yè)的資質(zhì)要求?！吧婕暗絿嬅裆拿舾袛祿?，一定要設置嚴格安全等級。這些數據一旦泄露，對人工智能和大數據產(chǎn)業(yè)的發(fā)展就是極大的沖擊和毀滅?！?/p>

　　除了倫理和法律，九三學(xué)社中央還在建議中指出，應該加快科學(xué)普及。

　　神化人工智能，會(huì )讓公眾產(chǎn)生不必要的恐慌;貶低人工智能，又讓公眾對人工智能不敢信任。做好科普和引導，消除誤解，才可讓人類(lèi)與人工智能和諧相處。

　　“人工智能是造福還是為禍，核心就是要看社會(huì )法律體系能否迅速健全，在法律體系框架下，人工智能倫理和人文引導能否到位?！眲c峰強調。