<dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><small id="yhprb"></small><dfn id="yhprb"></dfn><small id="yhprb"><delect id="yhprb"></delect></small><small id="yhprb"></small><small id="yhprb"></small> <delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"></dfn><dfn id="yhprb"></dfn><s id="yhprb"><noframes id="yhprb"><small id="yhprb"><dfn id="yhprb"></dfn></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><small id="yhprb"></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn> <small id="yhprb"></small><delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn>
"); //-->

博客專(zhuān)欄

EEPW首頁(yè) > 博客 > OpenAI 等死里逃生：加州 AI 法案剛剛被斃，LeCun 李飛飛吳恩達狂喜

OpenAI 等死里逃生：加州 AI 法案剛剛被斃，LeCun 李飛飛吳恩達狂喜

發(fā)布人：旺材芯片 時(shí)間：2024-10-02 來(lái)源：工程師 發(fā)布文章

圖片

重磅！今天凌晨，美加州州長(cháng) Gavin Newsom 正式宣告：否決 SB-1047 法案！圖片對于全世界開(kāi)發(fā)者們來(lái)說(shuō)，SB-1047 法案取消，意味著(zhù) Meta、谷歌等大廠(chǎng)的開(kāi)源模型，再次繼續可用。這個(gè)決定可謂是眾望所歸。AI 圈大佬們激動(dòng)地奔走相告，在否決中出了大力的吳恩達、LeCun、李飛飛，則尤其開(kāi)心。圖片圖片加州州長(cháng)否決意味著(zhù)什么？SB-1047 法案就真的終結了。「臭名昭著(zhù)」的 SB-1047 規定，SB 1047 將會(huì )通過(guò)追究開(kāi)發(fā)者的責任，來(lái)防止 AI 系統造成大規模人員傷亡，或引發(fā)損失超過(guò) 5 億美元的網(wǎng)絡(luò )安全事件。消息一出，就引來(lái)學(xué)界和業(yè)界巨大的反對聲浪。要知道，全球 50 家頂尖 GenAI 企業(yè)，有 32 家便扎根在加州，它們在定義 AI 未來(lái)起著(zhù)關(guān)鍵作用。加州辦公室新聞稿中介紹，過(guò)去一個(gè)月里，Gavin 簽署了 18 個(gè) GenAI 法案，卻唯獨否決了 SB-1047。圖片在過(guò)去 30 天里，州長(cháng)簽署了一系列法案，以打擊 Deepfake 內容，以及保護表演者的數字肖像權等等這項法案初衷是好的，但實(shí)際上存在一些嚴重的問(wèn)題。他表示，我認為這不是保護公眾免受 AI 帶來(lái)真正威脅的最佳方法。圖片
SB-1047 沒(méi)有考慮到 AI 系統是否部署在高風(fēng)險環(huán)境中、是否涉及關(guān)鍵決策，或敏感數據使用。相反，法案對最基本的功能 —— 部署大模型系統，也應用了嚴格的標準。
在 SB-1047 被否決的過(guò)程中，AI 教母李飛飛起到的作用不容忽視。斯坦福教授李飛飛開(kāi)心地表示，自己能和 StanfordHAI 一起，為加州負責任的 AI 治理鋪平道路，深感榮幸。圖片AI 泰斗吳恩達也感謝了李飛飛對于 SB-1047 的公開(kāi)反對，稱(chēng)她的努力能推動(dòng)更理性的 AI 政策，從而保護研究和創(chuàng )新。圖片就在前幾天，SB-1047 法案即將塵埃落定之際，吳恩達和 LeCun 還在焦急地奔走呼吁、發(fā)起投票，擔心一旦通過(guò)，開(kāi)源 AI 和整個(gè) AI 生態(tài)系統都會(huì )產(chǎn)生寒蟬效應。圖片如今，全加州的 AI 公司們終于松了一口氣。州長(cháng)否決信：不予簽署
「本人謹此退回參議院法案 1047，不予簽署?！?/span>圖片全文地址：https://www.gov.ca.gov/wp-content/uploads/2024/09/SB-1047-Veto-Message.pdf在信中，州長(cháng)承認，SB-1047 對于 AI 部署可能帶來(lái)的威脅過(guò)于放大了。而且，法案僅關(guān)注最昂貴的大規模模型，其實(shí)是給了公眾一種「錯誤的安全感」。他指出，即使是較小的專(zhuān)有模型，可能也會(huì )一樣危險。總之，法案對 AI 實(shí)施的監管，是以「遏制利于公眾利益的創(chuàng )新」為代價(jià)的。州長(cháng)表示，法案對最基本的功能，也適用最嚴格的標準，這并不是保護公眾買(mǎi)免受 AI 技術(shù)威脅的最佳辦法。而最好的解決辦法是，是一個(gè)不以 AI 系統和能力的實(shí)證發(fā)展軌跡分析為依據的方案。圖片AI 大佬深?lèi)和唇^
這樣的結局，對于除了 Bengio、Hinton 的絕大多數人，都可謂非常圓滿(mǎn)。提到 SB-1047，一眾大佬們是深?lèi)和唇^。事情的來(lái)龍去脈是這樣的。去年，加州州長(cháng)簽署了一項行政命令，強調加州面對 GenAI 態(tài)度要更加審慎，讓 AI 更加道德、透明、可信。而今年 2 月，加州直接擬定了法案，名為《SB-1047 前沿 AI 大模型安全創(chuàng )新法案》，對于大模型安全、透明的使用給出了更具體的條例。圖片法案地址：https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202320240SB1047然而，其中有多項不合理內容，簡(jiǎn)直是指名道姓地給某些公司卡脖子。成本超 1 億的模型，得防止造成「重大傷害」比如有一條規定，開(kāi)發(fā)、訓練成本超 1 億美元，且浮點(diǎn)運算超過(guò) 10^26 次的大模型，一旦開(kāi)源后被有人用來(lái)做非法的事，那么模型開(kāi)發(fā)商也會(huì )受到嚴重處罰。要知道，Meta 的 Llama 3 模型，谷歌的 Gemma 模型等，都符合這個(gè)條件。這個(gè)規定顯然極有爭議。比如，如果有人入侵自動(dòng)駕駛系統并導致事故，開(kāi)發(fā)該系統的公司也要被追責嗎？按照法案的說(shuō)法，開(kāi)發(fā)者需要評估其模型的衍生產(chǎn)品、防止他們可能造成的任何傷害，包括客戶(hù)微調模型、以其他方式修改模型（越獄）或與其他軟件組合。然而一旦開(kāi)源軟件發(fā)布，人們可以直接將模型下載到個(gè)人設備上，因此開(kāi)發(fā)者根本無(wú)從得知其他開(kāi)發(fā)者或客戶(hù)的具體操作。圖片另外，法案中也有多處定義模糊。比如 AI 模型的「關(guān)鍵傷害」，被描述為大量傷亡、超過(guò) 5 億美元的損失或其他「同等嚴重」的傷害，但開(kāi)發(fā)者在什么條件下要被追責？要承擔何種責任？法案對此都語(yǔ)焉不詳。并且，法案適用于花費超過(guò) 1 億美元訓練的 AI 模型，或花費超過(guò) 1000 萬(wàn)美元微調現有模型的開(kāi)發(fā)者，也就讓許多小型科技公司落入被打擊范圍。SB-1047 還有一些不合理規定，比如如果公司開(kāi)放模型給其他國家使用，還得提交客戶(hù)的所有資料，包括客戶(hù)的身份證、****號、賬號等。開(kāi)發(fā)者還必須創(chuàng )建能夠解決 AI 模型風(fēng)險的測試程序，并且必須每年聘請第三方審計員來(lái)評估其 AI 安全實(shí)踐。對于那些基于模型打造的 AI 產(chǎn)品，則需要制定相應的安全協(xié)議來(lái)防止濫用，包括一個(gè)關(guān)閉整個(gè) AI 模型的「緊急停止」按鈕。法案被詬?。簩φ嬲娘L(fēng)險視而不見(jiàn)更多批評者認為，這個(gè)法案實(shí)在是過(guò)于杞人憂(yōu)天了。它不僅會(huì )阻礙 AI 的創(chuàng )新，而且對當今 AI 的安全性也沒(méi)有幫助。更諷刺的是，法案用所謂的「緊急開(kāi)關(guān)」預防世界末日，但對 Deepfake、虛假信息等已出現的安全風(fēng)險卻視而不見(jiàn)。雖然后來(lái)的修正案在措辭上更加寬松，減少了加州政府追究 AI 實(shí)驗室責任的權力。但即便如此，SB-1047 也會(huì )給 OpenAI、Meta、谷歌等大廠(chǎng)帶來(lái)不小的影響。而對一些初創(chuàng )企業(yè)來(lái)說(shuō)，這種打擊甚至會(huì )是毀滅性的。如今塵埃落地，大公司和小初創(chuàng )們都可以長(cháng)出一口氣了。圖片圖靈巨頭決裂SB-1047，甚至讓圖靈三巨頭為此「決裂」。LeCun、李飛飛、吳恩達為代表的大佬們，多次公開(kāi)反對不滿(mǎn)。圖片圖片圖片甚至，LeCun 還照搬了之前要求暫停 AI 研究時(shí)的原梗 —— 請暫停 AI 立法六個(gè)月！圖片而圖靈三巨頭中的另外兩位 —— Yoshua Bengio 和 Geoffrey Hinton，卻出人意料地強烈支持這項法案通過(guò)。甚至還覺(jué)得，現在的條款定得有些太過(guò)寬松了。圖片
作為高級人工智能技術(shù)和政策研究人員，我們寫(xiě)信表達對加州參議院法案 1047 的強烈支持。SB 1047 概述了對這種技術(shù)進(jìn)行有效監管的基本要求。它沒(méi)有實(shí)施許可制度，不要求公司在訓練或部署模型之前獲得政府機構的許可，它依賴(lài)于公司自行評估風(fēng)險，甚至在發(fā)生災難時(shí)也不對公司嚴格追責。相對于我們面臨的風(fēng)險規模，這是一項相對寬松的立法。取消該法案的基本措施將是一個(gè)歷史性的錯誤 —— 這一錯誤將在一年內變得更加明顯，因為下一代更強大的 AI 系統將被發(fā)布。
但 Bengio 和 Hinton 顯然不是主流。總結來(lái)說(shuō)，各家科技巨頭和一眾大佬對此的立場(chǎng)如下。圖片

來(lái)源：新智元

*博客內容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀(guān)點(diǎn)，如有侵權請聯(lián)系工作人員刪除。

關(guān)鍵詞： OpenAI

技術(shù)專(zhuān)區

關(guān)閉
国产精品自在自线亚洲|国产精品无圣光一区二区|国产日产欧洲无码视频|久久久一本精品99久久K精品66|欧美人与动牲交片免费播放
<dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><small id="yhprb"></small><dfn id="yhprb"></dfn><small id="yhprb"><delect id="yhprb"></delect></small><small id="yhprb"></small><small id="yhprb"></small> <delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"></dfn><dfn id="yhprb"></dfn><s id="yhprb"><noframes id="yhprb"><small id="yhprb"><dfn id="yhprb"></dfn></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><small id="yhprb"></small><dfn id="yhprb"><delect id="yhprb"></delect></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn> <small id="yhprb"></small><delect id="yhprb"><strike id="yhprb"></strike></delect><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn><dfn id="yhprb"><s id="yhprb"><strike id="yhprb"></strike></s></dfn><dfn id="yhprb"><s id="yhprb"></s></dfn>