智道

欄目主持人：於興中

“軟硬結合”的人工智能讓每個人都能使用擴散模型和GPT模型，每個人為善的潛力空前增強，作惡的能力——例如深度偽造的能力——也在增強。因此，更加需要預見和防范人工智能幫助為惡的可能性

□  朱悅

人工智能的用途日趨廣泛，需要人工智能的場景日益增加。人工智能的計算效率越來越重要，“軟硬結合”也就成為自然的趨勢。所謂“軟”，是指作為軟件的人工智能本身。而“硬”，則是指用來加速人工智能計算的硬件芯片。專門用于加速人工智能計算的硬件芯片，支持著眾多日常生活的應用場景。

“軟硬結合”是人工智能技術和個人信息保護發展的結果。端側處理信息由此越發普遍，隱私計算（通俗而言，即用技術實現個人信息保護的方法與手段）應用由此更加現實。與此同時，新型的個人信息侵害風險正在滋生，需要對此加以防范。

潛力巨大的專用芯片

首先，有必要介紹“軟硬結合”的技術原理。當前熱門的人工智能主要是通過大型神經網絡模型來實現。訓練大型神經網絡模型，需要進行大量重復的計算工作。所謂“專業的人做專業的事”，專業的芯片也可以進行專門的計算。因此，我們一方面可以通過改進神經網絡模型，盡可能把重復的計算拆分出來、彼此融合，另一方面要開發出架構和功能高度專業化的芯片，以承接這些計算工作。軟硬如此結合，計算方能大大加速。

“軟硬結合”能夠支持許多不同的人工智能。以下列舉兩個正在發生的例子。

一是按照語言指令生成指定畫面的擴散模型。近來備受關注的“AI畫畫”背后通常都是擴散模型。之前，訓練擴散模型需要專業顯卡或者云的算力，現在，這一目的已經可以通過家用顯卡或者手機端的專業芯片來實現。這也使得每個人都能夠用得起“AI畫畫”類的應用。

二是更加熱門的GPT（生成預訓練轉換器）文本生成模型。今年2月，這一模型同樣改進到了接近擴散模型的程度。

“軟硬結合”的加速在日常生活中已有許多應用。最常見的例子就是手機。許多廠商宣稱手機內置的“神經引擎”，實際上就是“軟硬結合”的專用芯片。每一次拍照、每一次錄像、每一次翻譯，背后都有專用芯片在發揮作用。人工智能越發展，“AI畫畫”或者文本生成的爆款越多樣，這些芯片的潛力就越大。2022年年底時的手機芯片已經能夠部署擴散模型，手機芯片行業部署GPT也已是“海平面上的桅桿”了。

端側處理和隱私計算

“軟硬結合”的人工智能可以通過兩種方式加強個人信息的保護。一方面，既然人工智能的運算可以全部放到手機等個人設備來運行，涉及的個人信息就沒有必要上傳?；蛘哒f，這實現了個人信息的端側處理。端側處理的保護效果正在越來越多地得到制度的認可。另一方面，由于算力等因素的制約，很多保護效果很好的隱私計算技術長期難以投入實用，通過專用芯片的優化，這些技術得以投入實用。

先看端側處理。制度對于端側處理的認可主要是三個角度。一是在美國等法域，端側處理不上傳個人信息，也就意味著沒有收集個人信息，可以豁免許多義務。二是在歐盟等法域，端側處理可能允許用戶出于個人事務處理其信息，同樣豁免許多義務。三是應用商店“守門人”對端側處理通常也很“寬容”。不過，享受這些優遇的條件是端側處理要徹底，不能以安全、運維、升級為名暗中上傳。

再看隱私計算。制約隱私計算應用的因素主要有兩個。一是為了正確實施技術、避免漏洞影響效果，需要具備可信的環境。二是實施技術的過程常常需要進行復雜度較高的加密解密運算，需要足夠的算力。在手機等日常設備上，這些條件長期得不到滿足，技術也就很難實用。

專用芯片內置可信環境組件，通過軟硬協同提供高效算力，克服了上述兩種制約。手機解鎖和驗證過程中用到的人臉識別技術，由此用上了基于可信環境和安全加密的隱私計算技術。

新型侵害正在滋生

“軟硬結合”的人工智能也會通過兩種方式造成新型的個人信息侵害風險。一方面，用來開展人工智能運算的芯片不僅可以用于持續追蹤個體，還可以補充既有的其他追蹤手段。對于這樣的追蹤造成的隱私風險，人們目前只有初步的了解。另一方面，“軟硬結合”的人工智能讓每個人都能使用擴散模型和GPT模型，每個人為善的潛力空前增強，作惡的能力——例如，深度偽造的能力——也在增強。因此，更加需要預見和防范人工智能幫助為惡的可能性。

先看持續追蹤?，F實中每個硬件的特征都有差別，既可能有唯一的編號，又可能因為生產過程的差異造成獨有的特征。從手機設備號到SIM卡卡號，從網卡地址號到顯卡的“指紋”，這些特征都已經用于追蹤個體?！败浻步Y合”中的芯片也不例外。為了安全、質量控制以及其他目的，同樣可以為這些芯片設定其獨有的“指紋”。由此既可以單獨地識別使用人工智能的個體，又可以補強其他識別的手段。

再看幫助為惡?！癆I畫畫”既是文娛創作的生產力，也可能是侵擾安寧的深度偽造者。文本生成既是搜索引擎的變革，又可能在訓練和使用過程中濫用或泄露個人信息。先前，使用這些人工智能有一定的門檻和成本，這對其為惡的一面也是一種限制。但現在，這些人工智能紛紛部署到人人皆有的日常設備，深度偽造和濫用、泄露個人信息也增加了許多潛在的風險。

從長遠看，無論是應對何種風險，人工智能開發者的素養都很重要?！败浻步Y合”的人工智能在技術上更加復雜，對其進行外部監督相對困難。防范持續追蹤的風險需要培養開發者的素養和意識，否則難以在軟硬件中嵌入制度的保護。強大的人工智能因為“軟硬結合”人人可用，人工智能的善治需要人人參與，防范協助為惡的風險需要培養每個人的素養和自覺，否則，難以遏制生活當中偶發或沖動的侵害。

（作者系北京科技創新中心研究基地研究員）