機器學(xué)習的知識產(chǎn)權問(wèn)題

機器學(xué)習的知識產(chǎn)權問(wèn)題

假設一家公司主要生產(chǎn)對于客戶(hù)的業(yè)務(wù)運營(yíng)至關(guān)重要的設備。為了避免發(fā)生故障而對這些客戶(hù)產(chǎn)生重大影響，這家公司使用機器學(xué)習模型來(lái)做出預防性維護決策。為了構建這種模型，公司花費了大量時(shí)間、金錢(qián)和精力。但是，客戶(hù)可以復制這個(gè)知識產(chǎn)權來(lái)自行進(jìn)行維護，這樣就不必繼續支付維護合同的費用。同時(shí)，競爭對手也可能會(huì )直接復制模型來(lái)獲取利益，而不是投資構建自己的模型。本白皮書(shū)探討了機器學(xué)習模型的哪些方面將受到知識產(chǎn)權法律的保護。

要構建用于維護的機器學(xué)習（ML）模型，必須收集并標記正確的訓練集，選擇正確的架構和訓練參數以實(shí)現算法精度和速度的優(yōu)化平衡，并投入計算時(shí)間來(lái)訓練模型。但是，如果這個(gè)維護專(zhuān)用的機器學(xué)習模型的知識產(chǎn)權沒(méi)有得到妥善保護，競爭對手只需花費很少的時(shí)間和精力就能復制和竊取機器學(xué)習模型，稍加調整以免被發(fā)現，然后即可直接部署到自己的產(chǎn)品中。這僅僅是一個(gè)例子而已。在很多情況中，公司都希望保護其投資和知識產(chǎn)權，但是現在和將來(lái)，應該如何保護機器學(xué)習領(lǐng)域的知識產(chǎn)權呢？

對于任何公司而言，機器學(xué)習模型都意味著(zhù)一筆可觀(guān)的投資，同時(shí)也是一項寶貴的資產(chǎn)。盡管由機器學(xué)習驅動(dòng)的業(yè)務(wù)越來(lái)越受到青睞，但一些公司可能不愿意在數據收集和模型構建方面進(jìn)行必要投資，因為他們擔心競爭對手會(huì )竊取勞動(dòng)果實(shí)。一直以來(lái)，非實(shí)物資產(chǎn)創(chuàng )作方面都有專(zhuān)利或版權之類(lèi)的知識產(chǎn)權保護。但是，在法律領(lǐng)域中，關(guān)于知識產(chǎn)權如何保護機器學(xué)習以及具體涵蓋哪些方面，仍然是一個(gè)頗具爭議的問(wèn)題。本白皮書(shū)闡述了機器學(xué)習知識產(chǎn)權（IP）方面的法律背景和挑戰。

術(shù)語(yǔ)

在我們深入探討機器學(xué)習的知識產(chǎn)權問(wèn)題之前，必須先要正確理解術(shù)語(yǔ)。廣義上講，機器學(xué)習是針對算法和統計模型的科學(xué)研究。電腦系統使用這些算法和統計模型，依靠模式和推理來(lái)高效地執行特定任務(wù)，而無(wú)需使用手動(dòng)編程的指令。

在機器學(xué)習中，通常使用一系列“訓練數據”推導統計模型的權重。然后在新情況中運用這些權重，從適用于新情況的模型中獲得答案。一種流行的機器學(xué)習模型是神經(jīng)網(wǎng)絡(luò )。為了闡明使用神經(jīng)網(wǎng)絡(luò )的過(guò)程，請參考下圖：

用于將圖片標記為貓或狗的機器學(xué)習模型

這類(lèi)機器學(xué)習分為兩步。首先，在訓練階段，推導架構參數以賦予模型特定的功能。我們將這個(gè)階段稱(chēng)為訓練模型。模型完成訓練后，通過(guò)測試數據測量模型質(zhì)量。第二步，在推理階段，利用經(jīng)過(guò)訓練的模型進(jìn)行預測，例如對新數據進(jìn)行分類(lèi)。雖然所有這些概念在不同文獻中有不同的說(shuō)法，但在本白皮書(shū)中，我們使用以下術(shù)語(yǔ)：

架構

神經(jīng)網(wǎng)絡(luò )中的神經(jīng)元、神經(jīng)元之間的連接以及所用激活函數的集合。架構可以有向圖的形式呈現。

訓練集

一組用于訓練架構的數據，幫助架構確定合適的權重。

測試集

另外一組數據，用于測試和驗證模型是否提供預期的結果。

機器學(xué)習系統

實(shí)現機器學(xué)習（訓練和/或推理）的軟件和硬件。

模型

對于神經(jīng)網(wǎng)絡(luò )，模型是指與神經(jīng)網(wǎng)絡(luò )架構連接相關(guān)聯(lián)的權重的集合。這些權重是在訓練期間收集的。

訓練參數

用于控制訓練算法的參數。例如：訓練集應該迭代幾次？在更新權重之前，要處理多少個(gè)數據項？在每次更新中，應對權重應用多大幅度的更改？使用什么成本函數進(jìn)行優(yōu)化？

如今，機器學(xué)習用于處理各種各樣的任務(wù)。一種主流應用是分類(lèi)，例如識別圖像或視頻中的特定物體，將文本分類(lèi)為特定類(lèi)別，以及檢測偽劣品或異常尺寸。

其他應用還包括自動(dòng)駕駛汽車(chē)中使用的預測和物體檢測。對于許多使用機器學(xué)習的公司而言，用于機器學(xué)習應用的訓練集和模型是不應被競爭對手接觸到的寶貴信息。這就引出了如何通過(guò)法律手段保護這些信息和其他機器學(xué)習要素的問(wèn)題，即知識產(chǎn)權。

知識產(chǎn)權

知識產(chǎn)權（IPR）是指保護非有形商業(yè)資產(chǎn)免遭第三方盜用的法定權利。通過(guò)法院發(fā)布的法律禁令以及常見(jiàn)的經(jīng)濟損失賠償和/或侵權產(chǎn)品沒(méi)收處罰，可以制止這一類(lèi)盜用行為。但是，每種類(lèi)型的知識產(chǎn)權都有其特定要求和局限性。在本白皮書(shū)中，我們將探討版權、專(zhuān)利、數據庫權利和商業(yè)秘密。

版權

版權是最廣為人知的知識產(chǎn)權類(lèi)型。版權是指禁止復制和傳播受保護作品的權利。這項權利一直廣泛運用于創(chuàng )造藝術(shù)領(lǐng)域，例如音樂(lè )、書(shū)籍和照片。但是，版權同樣適用于軟件、手冊、白皮書(shū)（甚至是本白皮書(shū)?。?、公司視頻等商業(yè)作品。

這類(lèi)權利的相關(guān)法律在世界范圍內已經(jīng)達到非常高的標準化程度。作品在創(chuàng )作后即自動(dòng)受到保護，無(wú)需申請或注冊。甚至不需要版權聲明，但通常會(huì )聲明版權以震懾潛在的抄襲者。唯一的真實(shí)要求是作品中必須存在某種形式的創(chuàng )造性。例如，僅僅列出一串日期不受版權保護，但巧妙地用句子來(lái)表述將受版權保護。

版權的局限性在于只針對實(shí)際復制行為。獨立再創(chuàng )作同一作品并不算侵犯版權。再創(chuàng )作的獨立性可以通過(guò)創(chuàng )作過(guò)程的相關(guān)記錄或日志進(jìn)行證明。

專(zhuān)利

專(zhuān)利是知識產(chǎn)權領(lǐng)域的重要組成部分。當某項創(chuàng )新受到專(zhuān)利保護時(shí)，任何人都不得制造、使用或出售任何包含該創(chuàng )新的設備。與版權不同，專(zhuān)利甚至可以保護并非通過(guò)復制進(jìn)行的獨立再創(chuàng )作。專(zhuān)利持有人可以要求他人支付版稅，或者直接終止他人對其創(chuàng )新成果的商業(yè)使用。

專(zhuān)利的主要缺點(diǎn)是必須申請，這會(huì )經(jīng)過(guò)長(cháng)達數年的漫長(cháng)審查和高達數萬(wàn)歐元的申請費用，并且結果還不確定。在軟件方面，一個(gè)非常復雜的問(wèn)題是法律對所謂的“軟件專(zhuān)利”有非常嚴格的規定，而這在世界范圍內都是令人詬病的問(wèn)題。因此而出現了非常嚴格的判例法，從而很難針對大量依賴(lài)軟件或自動(dòng)化的創(chuàng )新執行專(zhuān)利權。

獲得軟件專(zhuān)利的基本準則是發(fā)明必須提供真實(shí)世界中的改進(jìn)，而不能僅僅是提高軟件性能。例如，壓縮算法通常被認為是專(zhuān)利技術(shù)，內存效率更高的矩陣乘法技術(shù)也算專(zhuān)利。但是用于準確預測下一屆足球世界杯冠軍的算法則不符合申請專(zhuān)利的條件。

數據庫權利

數據庫權利是知識產(chǎn)權領(lǐng)域中一個(gè)相對較新的概念。數據庫權利于上世紀九十年代末在歐洲提出，旨在保護信息集合，防止被復制和重復使用。數據庫權利的主要要求是在創(chuàng )建或維護數據庫中的數據方面進(jìn)行了大量投資。與版權一樣，數據庫權利無(wú)需進(jìn)行正式注冊或申請。

受保護數據庫包括在線(xiàn)詞典、帶標記的圖像集合和地圖制圖的源數據。關(guān)鍵在于以某種便于搜索和瀏覽的方式組織數據。

數據庫權利的復雜之處在于，該項權利在歐盟以外的地區不受認可。特別是在擁有著(zhù)悠久法律傳統的美國，數據集合不受知識產(chǎn)權保護，只有創(chuàng )意作品才能受到版權保護。

商業(yè)機密

在知識產(chǎn)權世界中，商業(yè)機密的現狀在全球范圍內不一而同。但總體而言，可以通過(guò)法律針對盜用受良好保護信息的行為采取行動(dòng)。這要求此類(lèi)信息的所有者表明已采取適當的安全措施來(lái)防止未經(jīng)授權的訪(fǎng)問(wèn)。同時(shí)，竊取商業(yè)秘密的“嫌疑人”可以通過(guò)證明該信息已經(jīng)在公共領(lǐng)域中披露進(jìn)行反駁。

公司通常會(huì )通過(guò)與客戶(hù)或其他第三方簽署保密協(xié)議（NDA）來(lái)保護其商業(yè)機密。在某些支持違約罰款或其他法律措施的司法管轄區中，可通過(guò)嚴格的契約義務(wù)禁止復制或復用。其他協(xié)議中也可能包含NDA條款。但是，即使使用反向工程等特殊技術(shù)，從合法購買(mǎi)產(chǎn)品中挖掘機密數據的個(gè)人也不受此類(lèi)條款的約束。這就限制了商業(yè)機密法的作用。

面向機器學(xué)習的知識產(chǎn)權保護

競爭對手或其他意圖不軌的實(shí)體會(huì )通過(guò)多種方法，企圖從機器學(xué)習系統創(chuàng )造者的成果或投資中分一杯羹。機器學(xué)習的獨特性引起這樣一個(gè)問(wèn)題：如何利用知識產(chǎn)權法律保護這項新技術(shù)的各個(gè)方面。

訓練集保護

為特定的機器學(xué)習應用創(chuàng )建出色的訓練集是一項耗時(shí)耗財的工作。盡管在典型環(huán)境中，侵權人無(wú)法直接訪(fǎng)問(wèn)此訓練集，但是如果通過(guò)某些方式獲得了訪(fǎng)問(wèn)權限，那么復制訓練集輕而易舉。知識產(chǎn)權法律的作用正在于此。

如果訓練集所有者的主要營(yíng)業(yè)地點(diǎn)位于歐盟地區，那么訓練集將受到 數據庫權利的保護。但是，這一權利僅對同樣位于該司法管轄區的侵權者具有法律效力。

而更加困難的是能否針對機器學(xué)習訓練集主張版權。訓練集并不是一件藝術(shù)作品。其目的通常是確保數據適合用例。根據版權法的規定，針對主題創(chuàng )建合適的數據集并不是一項創(chuàng )造性活動(dòng)。但是，仍然可以主張版權的一個(gè)方面是對數據進(jìn)行分類(lèi)的方式。如果類(lèi)別是通過(guò)創(chuàng )造性過(guò)程（例如，“美麗/丑陋”、“強/弱”、“大/小”）進(jìn)行篩選的，那么就可以認為通過(guò)創(chuàng )造性標記方式創(chuàng )造的訓練集受到版權保護?；谑聦?shí)要素（例如“貓/狗”、“交通信號燈/路燈/停車(chē)標志”）的分類(lèi)不具備創(chuàng )造性，因此不受版權保護。

在某些應用領(lǐng)域，訓練集是通過(guò)模擬或其他人工手段生成的。有另一種觀(guān)點(diǎn)認為，這樣的訓練集可以受到版權保護，因為所選的模擬或生成方式可以看作是一種創(chuàng )造性選擇。但是，這一觀(guān)點(diǎn)從未在法庭上得到檢驗。

通常，公司會(huì )對其訓練集嚴格保密。這種做法十分合理，因為使用機器學(xué)習模型無(wú)需共享訓練集。避免訓練集被惡意復制，并對需要擁有訓練集的各方施加嚴格的契約約束似乎是最好的方法。

訓練參數保護

訓練集和模型只是機器學(xué)習系統寶貴價(jià)值的一部分。驅動(dòng)訓練算法的參數也同樣十分寶貴：選擇正確的訓練參數需要經(jīng)驗豐富的工程師花費大量時(shí)間和精力。

對于創(chuàng )建機器學(xué)習系統所用的訓練參數集，版權保護是最有用的。如果數據科學(xué)家通過(guò)創(chuàng )造性工作來(lái)選擇合適的訓練參數，從而確定這些參數，那么最終得到的參數集就很有可能受到版權保護。但是，如果是通過(guò)詳盡搜索（例如評估文獻中提出的許多選項）或算法過(guò)程發(fā)現的訓練參數，則不受版權保護。這一原則同樣適用于使用這些訓練參數和指定訓練集生成的模型。

數據庫權利可能不太適用于參數集，因為數據庫權利的一個(gè)標準是集合中的各個(gè)元素必須系統地或有條理地排列。參數集很難符合這個(gè)標準。

架構保護

系統架構是機器學(xué)習系統的基礎。其設計是確保系統正常運行的關(guān)鍵要素。在完成訓練后，架構就將投入使用。

這類(lèi)系統包含兩部分：定義架構的圖形和實(shí)現架構的軟件。圖形符合保護的條件與模型參數相同。從理論上講，架構的創(chuàng )新硬件層面可以申請專(zhuān)利；但是由于這一領(lǐng)域的大多數創(chuàng )新基本只與軟件有關(guān)，因此硬件專(zhuān)利不太現實(shí)。實(shí)施訓練和/或推理的軟件通常會(huì )受到版權保護，因為軟件主要是通過(guò)創(chuàng )造性工作設計而成的。

機器學(xué)習系統保護

理論上，使用精心選擇的參數集編程并基于特定訓練集訓練的電腦系統屬于可獲專(zhuān)利的主題范圍。但是，歐洲和美國的現行判例法要求系統的設計目標是執行現實(shí)世界中的任務(wù)，例如駕駛汽車(chē)或識別現實(shí)世界中的圖像。對于以更抽象的方式運行的機器學(xué)習系統（例如，在現實(shí)世界中缺少特定用例的情況下，進(jìn)行識別和/或分類(lèi)），能否獲得專(zhuān)利仍未可知。

就像任何其他軟件一樣，機器學(xué)習系統的軟件一定可以受到版權保護。

機器學(xué)習系統的數據庫權利在理論上是有爭議的：爭議點(diǎn)在于數據集可通過(guò)模型和執行該模型的軟件進(jìn)行搜索。但是，這一觀(guān)點(diǎn)從未在法庭上或法律文獻中得到檢驗。

舉證責任

發(fā)現侵權者和在法庭上證明侵權是兩件截然不同的事情。在知識產(chǎn)權訴訟案件中，舉證責任可能難以實(shí)現。一般而言，法院需要得到充分的證據來(lái)確信很有可能存在侵權。被指控的侵權人沒(méi)有義務(wù)提供相關(guān)證據。因此，如果需要的證據在侵權人的掌握之下，那么知識產(chǎn)權權利所有者就可能會(huì )遇到問(wèn)題。一些司法管轄區允許扣押證據或要求當事方進(jìn)行所謂的“透露”，但這并不能確保權利所有者得到所需證據。

根據版權法的規定，如果兩個(gè)物品非常相似，那么法院可以反轉舉證責任：侵權人必須證明其作品是獨立創(chuàng )作的。但是，這是法院針對特定事實(shí)分析的結果，權利所有者不應依賴(lài)于這一機制。

根據商業(yè)機密法的規定，權利所有者有時(shí)可以選擇要求法院對證據保密，或者讓獨立的一方（例如公證人）將證據與機密信息進(jìn)行比較，而不必使機密成為公開(kāi)法院記錄的一部分。

模型防復制保護

當機器學(xué)習系統在對公眾沒(méi)有契約或使用限制的情況下推出時(shí)，就可以使用某種獨特的方法來(lái)復制其功能。本質(zhì)上，抄襲者使用一個(gè)未分類(lèi)項目數據集，并將每個(gè)項目提交到機器學(xué)習系統。每個(gè)答案都仔細地記錄為抄襲者的數據集分類(lèi)。從而獲得一個(gè)帶有標簽的數據集，用來(lái)訓練相似質(zhì)量的模型。事實(shí)證明，即使數據集包含非問(wèn)題域數據，并且目標系統和克隆系統的架構與模型參數不匹配，這一方法仍然有效。根據版權或數據庫法律的規定，暫時(shí)無(wú)法界定這種行為是否合法。原始機器學(xué)習系統中的數據集未被復制；只是利用了系統輸出，而且只用來(lái)標記另一個(gè)數據集。

如果數據集分類(lèi)本身具有創(chuàng )造性，那么抄襲者可能會(huì )因為重復使用標簽而侵犯版權。即使只是復制和復用標簽以對完全獨立的數據集進(jìn)行分類(lèi)，也有可能侵犯版權。但是，這一觀(guān)點(diǎn)從未在法庭上得到檢驗。

機器學(xué)習中的水印

知識產(chǎn)權法律的一個(gè)實(shí)際問(wèn)題是權利所有者必須證明其權利受到侵犯。

當機器學(xué)習模型或訓練集遭到復制時(shí)，證明侵權會(huì )異常困難，尤其是數據涉及現實(shí)世界的元素時(shí)。抄襲者可以輕松地辯稱(chēng)，他只不過(guò)是從原始來(lái)源或位置收集了相同或高度相似的數據而已。如果沒(méi)有辦法反駁這一論點(diǎn)，權利所有者就會(huì )遭到冷落。

水印是指在內容中嵌入信息的過(guò)程，在正常觀(guān)察時(shí)可能無(wú)法輕易發(fā)現嵌入的信息。數字水印誕生于1992年12月，自90年代末以來(lái)一直為權利所有者廣泛運用，以察覺(jué)和追蹤可能發(fā)生的電影和歌曲泄漏。例如，嵌入的信息可以揭露泄漏源頭，或是最初傳播該內容的網(wǎng)絡(luò )。

水印在機器學(xué)習中也找到了用武之地，但是運用方式略有不同。這里的水印是指對原始訓練數據和/或模型稍作修改以創(chuàng )建某些唯一的模型屬性。例如，可以修改圖像以在特定位置添加標志。要檢測這些水印，需要向機器學(xué)習系統提供精心制作的秘密圖像，其中包含相同的唯一輸入。獨立訓練的系統會(huì )將該圖像歸為普通類(lèi)別，但是最初訓練的系統以及抄襲帶水印機器學(xué)習系統的系統都將提供由修改觸發(fā)的唯一輸出。這就可以表明該系統抄襲了原始系統。

這種方法的另一個(gè)優(yōu)勢是，水印可以用作創(chuàng )意元素，從而為機器學(xué)習系統增加了受版權保護的信息。這有助于加強針對抄襲者的版權主張。

襲者可能會(huì )反駁他獨立使用了相同的水印，或者實(shí)際上是自己創(chuàng )建的水印。這樣將扭轉關(guān)于抄襲的指控。為了解決此類(lèi)爭論，必須清晰地記錄選擇和插入水印時(shí)的日期和時(shí)間。如果沒(méi)有有力的證據，版權所有者將無(wú)法提出侵權主張。

機器學(xué)習和知識產(chǎn)權的未來(lái)

由機器學(xué)習驅動(dòng)的業(yè)務(wù)越來(lái)越受到青睞。因此，為了保護該領(lǐng)域中的投資，對于知識產(chǎn)權的興趣也在日益增加：從訓練集的版權到分類(lèi)系統的專(zhuān)利。但是，當前這一領(lǐng)域的知識產(chǎn)權法律和實(shí)踐仍處于發(fā)展階段，判例法也非常稀少。因此很難確定面向機器學(xué)習系統和機器學(xué)習驅動(dòng)型產(chǎn)品的法律保護將發(fā)展到何種程度。

話(huà)雖如此，但仍有一些通用說(shuō)明可供參考，如下表所示：

結論

在本白皮書(shū)中，我們闡述了未來(lái)哪些機器學(xué)習知識產(chǎn)權將受到哪些知識產(chǎn)權法律的保護。那么對于本文開(kāi)篇的資本設備示例而言，這意味著(zhù)什么呢？盡管用于維護的機器學(xué)習模型本身無(wú)法獲得專(zhuān)利，但是這一模型的實(shí)施可能是符合專(zhuān)利要求的，因為其目的是執行現實(shí)世界中的任務(wù)。此外，還可以對實(shí)現機器學(xué)習算法的軟件提出版權主張。但是，如果抄襲者僅僅是復制模型（權重）并在自己的實(shí)現中使用，或者如果通過(guò)標記自己的訓練集來(lái)創(chuàng )建克隆模型，那么能否進(jìn)行版權保護就難以確定。開(kāi)發(fā)人員必須證明在架構設計、訓練參數、訓練集組成或數據標記方面做出了創(chuàng )造性選擇，并且這些選擇不僅僅是出于技術(shù)考慮。即使能證明這一點(diǎn)，也無(wú)法確定這種創(chuàng )造性是否充分地存在于模型的克隆/副本中，從而在法庭上得到認可。因此，制定應對策略來(lái)防止克隆或復制（例如平臺安全）或者融入創(chuàng )造性（例如水?。τ跈C器學(xué)習知識產(chǎn)權的保護來(lái)說(shuō)至關(guān)重要。最后，我們要指出，在法庭沒(méi)有判例之前，侵權案件的審判結果以及法律是否將在這些問(wèn)題上作出改變只能是推測。盡管如此，公司現在也應該開(kāi)始考慮如何保護其機器學(xué)習知識產(chǎn)權。

恩智浦半導體致力于通過(guò)先進(jìn)的解決方案為人們更智慧安全、便捷的生活保駕護航。作為全球領(lǐng)先的嵌入式應用安全連結解決方案領(lǐng)導者，恩智浦不斷推動(dòng)著(zhù)安全互聯(lián)汽車(chē)、工業(yè)與物聯(lián)網(wǎng)、移動(dòng)設備及通信基礎設施市場(chǎng)的創(chuàng )新。除了嵌入式平臺安全之外，恩智浦還提供機器學(xué)習模型保護功能。

機器學(xué)習模型完成訓練后，將被部署到指定用途的系統中。借助恩智浦? eIQ?機器學(xué)習軟件開(kāi)發(fā)環(huán)境，您就可以在恩智浦i.MX RT交叉處理器和i.MX系列SoC上使用機器學(xué)習算法。eIQ?提供推理引擎、神經(jīng)網(wǎng)絡(luò )編譯器和優(yōu)化庫。其中還包含提高機器學(xué)習網(wǎng)絡(luò )安全性的方法，能夠解決本文所述的克隆和對抗攻擊等問(wèn)題。其他機器學(xué)習安全措施也已納入發(fā)展計劃。