“在人工智能的浪潮中，我們不能以犧牲隱私為代價(jià)換取便利?！? 月 10 日Apple 在全球開(kāi)發(fā)者大會(huì)上宣布了一個(gè)重大的 AI 舉措——“Apple Intelligence”，證實(shí)了長(zhǎng)期的傳聞，即它將與 OpenAI 合作，將 ChatGPT 帶入 iPhone。

OpenAI 的吉印通創(chuàng)始人之一埃隆·馬斯克很快在 X 上做出回應(yīng)，稱由 ChatGPT 支持的 Apple AI 工具是“令人毛骨悚然的間諜軟件”和“不可接受的安全違規(guī)行為”。他警告說(shuō)：“如果 Apple 在操作系統(tǒng)層面集成 OpenAI，那么我的公司將禁止使用 Apple 設(shè)備?！?/p>

但在 AI 隱私問(wèn)題受到關(guān)注之際，iPhone 制造商 Apple 表示，Apple Intelligence 提供了一種保護(hù)用戶數(shù)據(jù)的新方式。該公司正在研究哪些核心任務(wù)可以在設(shè)備本地完成，以最大限度地保護(hù)隱私。

對(duì)于更復(fù)雜的請(qǐng)求，Apple 開(kāi)發(fā)了一種稱為“Private Cloud Compute (PCC)”的基于云的系統(tǒng)，運(yùn)行在自己的服務(wù)器上。該公司稱這是一種保護(hù)新興 AI 時(shí)代隱私的創(chuàng)新方式。

Apple 軟件工程高級(jí)副總裁克雷格·費(fèi)德里吉稱其戰(zhàn)略是“AI 隱私的全新標(biāo)準(zhǔn)”。那么，Apple 的說(shuō)法是否站得住腳？與包括三星 Galaxy 系列在內(nèi)的設(shè)備上提供的“混合 AI”產(chǎn)品相比，Apple 的戰(zhàn)略有何不同？

AI 與端到端加密

Digital Barriers 首席執(zhí)行官扎克·多夫曼表示，通過(guò) PCC，Apple 設(shè)計(jì)了一種全新的端到端 AI 架構(gòu)，讓用戶的 iPhone 擁有私有云飛地?cái)U(kuò)展，從而可以更好地控制數(shù)據(jù)。Digital Barriers 是一家專注于實(shí)時(shí)監(jiān)控視頻存儲(chǔ)和分析的公司。

在實(shí)踐中，這意味著 Apple 可以掩蓋 AI 提示的來(lái)源，并防止任何人（包括 Apple 本身）訪問(wèn)用戶的數(shù)據(jù)。多夫曼說(shuō)：“從理論上講，這是云端 AI 實(shí)現(xiàn)端到端加密的最接近的方式?！?/p>

Inrupt 安全架構(gòu)負(fù)責(zé)人布魯斯·施奈爾表示，Apple 為其 AI 構(gòu)建了一個(gè)“相當(dāng)令人印象深刻的隱私系統(tǒng)”。他說(shuō)：“Apple 的目標(biāo)是讓 AI 的使用——甚至是在云端——與手機(jī)的安全性一樣安全。這是一個(gè)復(fù)雜的過(guò)程，但我認(rèn)為他們做得相當(dāng)不錯(cuò)?！?/p>

到目前為止，還沒(méi)有任何其他解決方案能與之相提并論。在搭載 Google Android 和 Google Nano 系列的三星 Galaxy 設(shè)備上使用的“混合 AI”中，一些 AI 流程在本地處理，在必要時(shí)利用云端來(lái)實(shí)現(xiàn)更先進(jìn)的功能。

GRC International Group 人工智能集團(tuán)負(fù)責(zé)人卡姆登·伍爾文表示，其想法是盡可能提供隱私保護(hù)，同時(shí)提供強(qiáng)大的 AI 功能?！斑@意味著你甚至可以在中端智能手機(jī)上體驗(yàn)到一些相當(dāng)復(fù)雜的 AI。”

但是，這種類型的混合 AI 處理仍可能存在風(fēng)險(xiǎn)，因?yàn)橐恍?shù)據(jù)被發(fā)送到云服務(wù)器，而沒(méi)有 Apple 通過(guò)其 PCC 提供的相同級(jí)別的問(wèn)責(zé)制?！皩?duì)于混合 AI 來(lái)說(shuō)，一些數(shù)據(jù)必須離開(kāi)設(shè)備并在其他地方處理，使其更容易受到攔截或?yàn)E用，”O(jiān)pen 技術(shù)研究所創(chuàng)始人兼總監(jiān)里卡多·奧克萊波說(shuō)。

然而，谷歌及其硬件合作伙伴認(rèn)為，隱私和安全性是 Android AI 方法的主要關(guān)注點(diǎn)。三星電子安全團(tuán)隊(duì)負(fù)責(zé)人、移動(dòng)業(yè)務(wù)副總裁 Justin Choi 表示，其混合 AI 為用戶提供了“對(duì)數(shù)據(jù)的控制和無(wú)可妥協(xié)的隱私保護(hù)”。

Choi 解釋說(shuō)，云端處理的功能受到嚴(yán)格政策制約的服務(wù)器保護(hù)。他說(shuō)：“我們?cè)谠O(shè)備上的 AI 功能通過(guò)在設(shè)備本地執(zhí)行任務(wù)來(lái)提供額外的安全性，并且不會(huì)依賴云服務(wù)器，既不存儲(chǔ)設(shè)備數(shù)據(jù)，也不向云上傳數(shù)據(jù)。”

谷歌表示，其數(shù)據(jù)中心采用了強(qiáng)大的安全措施，包括物理安全、訪問(wèn)控制和數(shù)據(jù)加密。該公司表示，當(dāng)在云端處理 AI 請(qǐng)求時(shí)，數(shù)據(jù)將保留在安全的谷歌數(shù)據(jù)中心架構(gòu)內(nèi)，并且不會(huì)將用戶信息發(fā)送給第三方。

同時(shí)，Choi 表示，Galaxy 的 AI 引擎不會(huì)使用來(lái)自設(shè)備上功能的用戶數(shù)據(jù)進(jìn)行訓(xùn)練。三星會(huì)通過(guò)其 Galaxy AI 符號(hào)清楚地表明哪些 AI 功能在設(shè)備上運(yùn)行，并且智能手機(jī)制造商會(huì)添加水印以顯示內(nèi)容何時(shí)使用了生成式 AI。

該公司還引入了名為“高級(jí)智能設(shè)置”的新安全和隱私選項(xiàng)，讓用戶可以選擇禁用基于云的 AI 功能。

谷歌表示，該公司“擁有保護(hù)用戶數(shù)據(jù)隱私的悠久歷史”，并補(bǔ)充說(shuō)這適用于其在設(shè)備上和云端啟用的 AI 功能。“對(duì)于敏感案例，例如篩選電話，我們使用設(shè)備上的模型，數(shù)據(jù)永遠(yuǎn)不會(huì)離開(kāi)手機(jī)，”谷歌產(chǎn)品信任副總裁蘇珊·弗雷告訴 WIRED。

弗雷描述了谷歌產(chǎn)品如何依賴其基于云的模型，以確保“消費(fèi)者的信息，例如需要總結(jié)的敏感信息，永遠(yuǎn)不會(huì)被發(fā)送給第三方進(jìn)行處理。”

她說(shuō)：“我們一直致力于構(gòu)建人們可以信任的 AI 功能，因?yàn)樗鼈兡J(rèn)安全，設(shè)計(jì)時(shí)考慮了隱私，最重要的是，它們遵循了谷歌首創(chuàng)的負(fù)責(zé)任的 AI 原則。”

Apple 改變了對(duì)話

專家表示，Apple 的 AI 戰(zhàn)略不僅僅是匹配“混合”的數(shù)據(jù)處理方法，它改變了對(duì)話的性質(zhì)。多夫曼說(shuō)：“每個(gè)人都期待這種設(shè)備內(nèi)、隱私至上的推動(dòng)，但 Apple 實(shí)際上做的是說(shuō)，無(wú)論您在 AI 中做什么，或在哪里做——重要的是如何做?！?他認(rèn)為這“很可能會(huì)定義智能手機(jī) AI 領(lǐng)域的最佳實(shí)踐。”

即便如此，Apple 還沒(méi)有贏得 AI 隱私之戰(zhàn)：與 OpenAI 的交易——Apple 不同尋常地向外部供應(yīng)商開(kāi)放其 iOS 生態(tài)系統(tǒng)——可能會(huì)損害其隱私聲明。

Apple 反駁了馬斯克關(guān)于與 OpenAI 的合作會(huì)損害 iPhone 安全性的說(shuō)法，稱“為訪問(wèn) ChatGPT 的用戶構(gòu)建了隱私保護(hù)措施”。該公司表示，在查詢被共享給 ChatGPT 之前，會(huì)要求用戶許可，同時(shí)會(huì)模糊 IP 地址，并且 OpenAI 不會(huì)存儲(chǔ)請(qǐng)求——但 ChatGPT 的數(shù)據(jù)使用政策仍然適用。

安全公司 ESET 的全球網(wǎng)絡(luò)安全顧問(wèn)杰克·摩爾表示，與另一家公司合作對(duì) Apple 來(lái)說(shuō)是一個(gè)“奇怪的舉動(dòng)”，但這一決定“不會(huì)輕易做出”。雖然確切的隱私影響尚不清楚，但他承認(rèn)“雙方都可能收集一些個(gè)人數(shù)據(jù)，并且這些數(shù)據(jù)可能被 OpenAI 分析?！?/p>

這意味著對(duì)于一些數(shù)據(jù)，“你只能遵守 OpenAI 的規(guī)則，”施奈爾說(shuō)。“Apple 在向 OpenAI 發(fā)送查詢時(shí)刪除識(shí)別信息，但是許多查詢中包含大量的識(shí)別信息?！?/p>

蘋(píng)果和 OpenAI 之間的合作有可能“完全改變 AI 領(lǐng)域的問(wèn)責(zé)制”，人工智能教授兼科技咨詢公司 Wisdom Works Group 創(chuàng)始人安迪·帕多說(shuō)?！斑@種合作伙伴關(guān)系將責(zé)任分散到多個(gè)實(shí)體，從而影響到如何為其互連系統(tǒng)內(nèi)的成功和潛在失敗分配責(zé)任?！?/p>

隨著 AI 技術(shù)被集成到科技巨頭的操作系統(tǒng)中，還需要考慮安全風(fēng)險(xiǎn)。至少在理論上，Apple Intelligence 是一個(gè)令人印象深刻的壯舉，但該公司 的 AI 工具也創(chuàng)造了“一個(gè)前所未見(jiàn)的巨大攻擊面”，多夫曼說(shuō)?！八捎昧艘幌盗胁煌陌踩珓?chuàng)新，并將其結(jié)合到一個(gè)新的產(chǎn)品中以實(shí)現(xiàn)一個(gè)新的目的，因此，如果它起作用，它將是一個(gè)改變游戲規(guī)則的舉措。但在它上線時(shí)，Apple 將需要管理一些問(wèn)題?！?/p>

正因?yàn)槿绱?，Apple 和谷歌都在鼓勵(lì)安全研究人員尋找其 AI 解決方案中的漏洞。谷歌的安全 AI 框架讓安全公司 Mandiant 測(cè)試了 AI 模型的防御能力。

Apple 的一位發(fā)言人提供了該公司關(guān)于 PCC 安全性論文和模型論文的鏈接，詳細(xì)介紹了其對(duì) AI 開(kāi)發(fā)的“負(fù)責(zé)任”方法。 Apple 沒(méi)有對(duì) WIRED 關(guān)于其與 OpenAI 的合作引發(fā)的隱私問(wèn)題或潛在安全風(fēng)險(xiǎn)的后續(xù)問(wèn)題做出公開(kāi)回應(yīng)。

Apple 正在為 PCC 使用一種稱為“可驗(yàn)證透明度”的模式。 Apple 在介紹 PCC 的一篇博客文章中說(shuō)：“我們希望確保安全和隱私研究人員可以檢查 Private Cloud Compute 軟件、驗(yàn)證其功能并幫助識(shí)別問(wèn)題——就像他們可以與 Apple 設(shè)備一樣?！?為了實(shí)現(xiàn)這一點(diǎn)，Apple 正在向安全研究人員公開(kāi)提供 PCC 每個(gè)生產(chǎn)版本的軟件圖像。

Apple Intelligence 將與即將推出的 iOS 18 軟件更新一起集成到 ChatGPT 中，完整的功能套件將于今年秋天在 iPhone 16 上推出。你可以選擇禁用此功能，但如果你想在任何設(shè)備上使用 AI 功能，最好考慮其隱私和安全影響。

具體到 iOS 和 Android AI，這取決于你信任誰(shuí)。帕多建議評(píng)估操作系統(tǒng)在隱私功能、數(shù)據(jù)處理實(shí)踐和透明度方面的整體權(quán)衡。帕多指出：“Apple 對(duì)隱私的強(qiáng)烈關(guān)注仍然是優(yōu)先考慮數(shù)據(jù)安全性高于一切的用戶的一個(gè)關(guān)鍵看點(diǎn)?！?/p>