蘋(píng)果如何保護AI隱私：將云數據封入"黑箱"中

5月30日消息，據內部知情人士透露，蘋(píng)果正在其服務(wù)器內部設立的虛擬“黑箱”中處理來(lái)自人工智能應用的數據，確保即使公司內部員工也無(wú)法訪(fǎng)問(wèn)。此策略通過(guò)云計算分擔iPhone執行人工智能任務(wù)時(shí)的負載，同時(shí)確保用戶(hù)數據的安全與隱私得到持續保護。據悉，這一技術(shù)依賴(lài)于蘋(píng)果自主設計的高安全性芯片以及“安全飛地”，即便在數據泄露的情況下，也能有效阻止黑客訪(fǎng)問(wèn)。

以下為英文翻譯全文：

當蘋(píng)果高管在六月中旬的年度開(kāi)發(fā)者大會(huì )上亮相時(shí)，他們預計將公布如何在虛擬助手Siri及其他產(chǎn)品中融入人工智能的詳細信息。一個(gè)重大的挑戰是如何在實(shí)現這一目標的同時(shí)，蘋(píng)果繼續履行其保護用戶(hù)個(gè)人數據的承諾。

根據四位曾參與該項目的前員工透露，蘋(píng)果計劃在一個(gè)虛擬“黑箱”中處理來(lái)自人工智能應用的數據，確保即便是公司員工也無(wú)法訪(fǎng)問(wèn)這些數據。在過(guò)去三年中，蘋(píng)果一直在秘密推進(jìn)一個(gè)內部稱(chēng)為“蘋(píng)果數據中心芯片”（ACDC，Apple Chips in Data Centers）的項目，支持這種隔離的數據處理方式。這種做法類(lèi)似于業(yè)界的“機密計算（confidential computing）”，即在數據處理過(guò)程中保持其私密性。

科技公司通常會(huì )加密存儲或傳輸的數據，但保持數據在內存處理時(shí)的機密性，則更為罕見(jiàn)且具挑戰性。

據知情人士透露，蘋(píng)果的機密計算技術(shù)使用了最初為Mac設計的高端定制芯片，這些芯片在安全性方面優(yōu)于英特爾和AMD的產(chǎn)品。通過(guò)使用自家芯片，蘋(píng)果控制了服務(wù)器的硬件和軟件，從而能夠設計出比競爭對手更為安全的系統。因此，蘋(píng)果可以宣稱(chēng)，其服務(wù)器上的數據處理就像在iPhone上一樣私密。

如果這種方法行得通，蘋(píng)果就能在不威脅其長(cháng)期承諾——保護用戶(hù)數據隱私的前提下，將人工智能整合到其產(chǎn)品中。這種隱私立場(chǎng)使得蘋(píng)果在與谷歌和OpenAI等公司競爭時(shí)處于劣勢，因為這些公司的聊天機器人和其他生成式人工智能產(chǎn)品是在不受智能手機處理能力、內存和電池續航限制的云服務(wù)器上運行的。

然而，在云端處理個(gè)人數據會(huì )增加被黑客竊取的風(fēng)險，這也是蘋(píng)果更傾向于將數據保留在設備上而非云端的原因。采用機密計算技術(shù)后，蘋(píng)果將能在云端安全處理人工智能數據，即使在數據泄露的情況下，也能有效阻止黑客訪(fǎng)問(wèn)。這還能減輕蘋(píng)果在應政府或執法部門(mén)請求時(shí)提供個(gè)人數據的負擔。

蘋(píng)果還沒(méi)有回復相關(guān)置評請求。

人工智能閘門(mén)

這一策略可能為iPhone推出更多、更新的人工智能功能，這些功能將由云端的大語(yǔ)言模型所驅動(dòng)。據兩位曾參與該項目的前員工透露，蘋(píng)果抱有更遠大的抱負，希望將未來(lái)蘋(píng)果可穿戴設備的處理能力轉移到服務(wù)器，這將使蘋(píng)果能夠設計出更輕便的頭戴設備和眼鏡，而不需要為功率大的處理器配備重型電池和冷卻風(fēng)扇。

雖然《華爾街日報》和彭博社上個(gè)月首次報道了ACDC計劃的一些細節，但該項目對機密計算技術(shù)的深度依賴(lài)尚屬首次披露。

該項目的關(guān)鍵在于蘋(píng)果開(kāi)發(fā)的硬件技術(shù)“安全飛地”（Secure Enclave），這一技術(shù)自2013年首次發(fā)布，用于存儲iPhone 5s指紋傳感器捕獲的生物識別數據。所謂“安全飛地”是芯片上與主處理器物理隔離的區域，相當于一個(gè)存放密碼和加密密鑰等敏感數據的保險箱。即使黑客攻破了iPhone的軟件和中央處理器，也無(wú)法訪(fǎng)問(wèn)“安全飛地”中的數據。

據知情人士透露，蘋(píng)果計劃利用“安全飛地”幫助隔離服務(wù)器上處理的數據，使其不被系統或蘋(píng)果本身看到。

前蘋(píng)果員工表示，“安全飛地”在技術(shù)上優(yōu)于英特爾和AMD使用的其他機密計算方法，后者主要基于軟件而非硬件。盡管微軟、亞馬遜和谷歌等提供商已為云客戶(hù)提供了機密計算選項多年，但由于它們依賴(lài)于英特爾和AMD的芯片，這些芯片的安全性不如“安全飛地”。

然而，人工智能的普及促使芯片制造商推出自己的機密計算方案。英偉達和AMD最近都發(fā)布了新產(chǎn)品，但其硬件和軟件解決方案是否能與蘋(píng)果的相媲美，還有待市場(chǎng)驗證。

并非絕對安全

盡管蘋(píng)果的處理方法在技術(shù)上領(lǐng)先，但仍存在不是絕對安全的風(fēng)險。前蘋(píng)果安全設計工程師喬恩·卡拉斯（Jon Callas）表示，雖然蘋(píng)果的云端數據處理方式提高了安全性，但服務(wù)器還是可能受到物理篡改的威脅。不過(guò)，這些風(fēng)險在iPhone處理數據時(shí)同樣存在?？ɡ共⑽磪⑴cACDC項目，他表示：“用戶(hù)可以相當確信蘋(píng)果不會(huì )窺視他們的計算活動(dòng)，蘋(píng)果也可以有力地向執法部門(mén)聲明他們無(wú)法訪(fǎng)問(wèn)這些數據?！?/p>

此外，蘋(píng)果如何調整其軟硬件配置以在云服務(wù)器上支持單個(gè)芯片服務(wù)于多用戶(hù)，同時(shí)保持其安全保證，仍是未知數。同樣，蘋(píng)果將如何迅速擴大其自家服務(wù)器硬件支持的服務(wù)，覆蓋全球超過(guò)22億部蘋(píng)果設備，也是一個(gè)挑戰。蘋(píng)果云端的人工智能功能可能最初會(huì )受到限制，或者只向最新型號的iPhone用戶(hù)開(kāi)放。

目前還不清楚蘋(píng)果將在云端與設備上提供哪些類(lèi)型的服務(wù)。據報道，蘋(píng)果的一些人工智能功能，如智能網(wǎng)頁(yè)、新聞文章和文件摘要，可能需要在云端運行，因為其人工智能模型的潛在規模較大。前蘋(píng)果工程師透露，蘋(píng)果的定制芯片可能將一些機器學(xué)習任務(wù)從iPhone轉移至服務(wù)器，如照片標記和文件索引，以提高速度和電池續航時(shí)間。最先進(jìn)的多模態(tài)人工智能需要的計算能力遠超當前設備的上限。不過(guò)，隨著(zhù)這些能力的增強，用于照片和視頻的生成式人工智能功能在iPhone上將變得更加可行。

半導體研究公司SemiAnalysis的首席分析師迪倫·帕特爾（Dylan Patel）表示： “雖然蘋(píng)果可以在iPhone上運行小型人工智能模型，但這會(huì )顯著(zhù)影響電池續航。因此，蘋(píng)果更傾向于將這些任務(wù)以及中型人工智能模型的運算轉移到其數據中心，減少客戶(hù)對OpenAI或谷歌等服務(wù)的依賴(lài)?！?/p>

盡管蘋(píng)果對其服務(wù)器的安全和隱私做出了保證，但它可能仍面臨市場(chǎng)營(yíng)銷(xiāo)方面的挑戰。2021年，蘋(píng)果宣布計劃掃描用戶(hù)照片中的兒童色情內容。蘋(píng)果發(fā)明了一種全新方法，可以完全在設備上執行此操作，僅能查看照片的數值表示，而非實(shí)際像素。盡管如此，安全研究人員和消費者仍強烈反對該計劃，最終迫使蘋(píng)果取消了該功能的推出。