■如何應對GPT-4帶來的挑戰 專題

如何應對GPT-4帶來的挑戰④

以發展為導向的生成型人工智能治理

□  張凌寒  

掌握人工智能治理的話語權、規則制定權，搶先形成新的國家競爭優勢，已經成為世界不同法域的努力目標。我國在個人信息保護和數據立法領域與歐盟、美國并行，在算法治理和深度合成治理領域則成為了一定意義上的領跑者。筆者認為，領跑不代表要求嚴苛，過強的監管并不一定形成制度競爭優勢；符合我國本土經濟、社會、政治、價值觀，能夠促進我國深度合成產業長遠健康合法發展的治理制度，才是我國真正的制度競爭優勢。

ChatGPT并非曇花一現而是人工智能革命

ChatGPT在短短幾個月之內驚艷世界。近日問世的GPT-4比它的前輩GPT-3更復雜、更敏捷、更熟練，而且似乎可能顛覆從藝術、廣告到教育、法律服務等一切領域。技術的發展速度與表現意味著我們可能迎來一些輝煌但不可預測的東西，更是激起了公眾對于人類本質、認知模式、生存方式和AI主體性的哲學思考。

ChatGPT與之前技術的不同之處在于其采用了海量數據訓練的大規模人工智能模型。這些模型采用的數據量大得驚人，這使得其生成的文本更加具有創造性。更重要的是這些模型通常設置了隨機元素，意味著它們可以以不同的輸出應對同一個輸入請求，使得ChatGPT看起來更加栩栩如生。預訓練大模型（LGAIMs）以大量的參數、訓練數據和計算進行操作，目前雖然沒有達到接近通用人工智能（Artificial General Intelligence，AGI）的水平，但仍然比傳統的深度學習更具通用性通用人工智能類似于類腦智慧，其強大的學習能力和完備性可以通用于現今人工智能許多關聯松散的子領域（如視覺、聽覺、文本等），其主導的人工智能第三次浪潮，可能進一步形成人工智能子領域之間共同的基礎或框架。

在ChatGPT等生成型人工智能的推動下，網絡信息內容的生產經歷了此前Web1.0、Web2.0時代的PGC（專業生產內容）和UGC（用戶生產內容），進入到AIGC（人工智能技術生成內容）的新一輪內容生產方式變革，而AIGC內容在Web3.0時代也將出現指數級增長。

在此之前，虛假信息生產有限，國家通過源頭管理、賬戶賬號管理、傳播平臺治理即可以控制有害信息傳播。在深度合成技術應用于內容生產后，內容生產成本進一步降低，生產主體難以追蹤，信息內容真假難辨，生成類似人類文本的技術能力提高了冒充和盜竊身份案件的發生概率。傳統的新聞信息服務許可、用戶賬號管理和平臺算法過濾、人工審核標注等手段，可能都會面臨嚴重的治理挑戰。

深度合成會極大地降低專業知識與特定技能的獲取門檻，顯著擴大網絡安全風險的范圍，提高安全風險的等級。例如，代碼的編寫和網絡攻擊本身具有專業門檻，網絡安全攻擊在大眾眼中仍是專業技術。ChatGPT類的生成型人工智能具備了無代碼編程能力，降低了攻擊代碼編寫的技術門檻，可能會導致更多的網絡安全攻擊發生。未來，黑客發動網絡安全攻擊將如同頑童投擲石子一樣容易，這也意味著重要數據、關鍵信息基礎設施等可能面臨著網絡安全防范資源的嚴重不足的重大挑戰。

我國已有相關法律但應對不足

2023年1月10日生效的《互聯網信息服務深度合成管理規定》（以下簡稱《規定》）由國家互聯網信息辦公室、工業和信息化部以及公安部共同發布，《規定》明確界定“深度合成技術，是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術”；《規定》采取了開放的列舉方法，大致囊括了深度合成的前沿應用情形，如：生成或者編輯文本，生成或者編輯語音和音樂，圖像和視頻的生成編輯（生物特征和非生物特征），甚至包括了三維重建、數字仿生等生成或者編輯數字任務、虛擬場景的技術。按照《規定》的定義，AI語音、NFT生成藝術、虛擬演唱會、全息人像投影、虛擬人數字人、AR購物等元宇宙的重要組成部分都屬于深度合成技術的具體應用。這種功能式的列舉可容納未來的技術發展，包括目前的生成合成類算法、生成型人工智能、AIGC應用等。

盡管我國在深度合成的治理方面走在了世界前列，但目前的治理邏輯是將深度合成技術納入生成合成類算法予以規制。在當前我國的治理邏輯中深度合成主要被定位為算法，聚焦信息安全。在我國制度語境中，深度合成服務是指利用生成合成類算法提供信息服務，屬于我國《互聯網信息服務算法推薦管理規定》中規定的生成合成類、排序精選類、檢索過濾類、個性化推送類、調度決策類算法五類推薦服務中的一種。通過對近年來我國頒布的法律法規的脈絡進行梳理可得，深度合成的監管對象聚焦的是信息內容。

相比歐美，這一治理架構雖然已經在治理對象、治理鏈條和治理工具上有明顯的制度引領和先發優勢，但實踐中也難以充分應對生成型人工智能的迅猛發展產生的問題。因為深度合成的技術迭代已經使得其日漸超出了前述立法時所設計的生成合成類算法框架所能調控的范圍。此外，目前深度合成治理過于關注內容輸出治理而影響了治理全局的功能。因此，從縱向角度考慮，深度合成的治理應當在數字產業化和產業數字化的進程中進一步深入產業治理。

深度合成治理的進一步升級迫在眉睫

深度合成治理應成為人工智能治理的專門領域，并在此基礎上推進我國人工智能基礎性立法。我國現有的算法規制體系在實踐中承擔起了人工智能治理的任務。

從2017年國務院發布的《新一代人工智能發展規劃》，到2022年的《最高人民法院關于規范和加強人工智能司法應用的意見》，我國人工智能治理各級文件中均提出了“安全可控”的治理目標，具體制度均提到了建立公開透明的制度體系、建立相應問責機制、技術和應用全流程監管等。而這些具體制度的落地則是由算法透明度、算法問責、算法設計、輸出與結果監管，以及算法推薦服務結果公平等規定保障實現的。國外的研究一般也認為中國針對算法設計的系統法規，包括對算法系統的設計、使用和數據種類的要求和標準，是中國人工智能的治理制度。

筆者認為，應以ChatGPT為代表的生成型人工智能發展為契機，推動深度合成治理成為人工智能治理的專門領域。保障急用先行一向是我國立法的一條重要經驗。短期內，繼續采用垂直和領域性人工智能監管能夠有效地將可能的風險控制在最小范圍，延伸深度合成現有制度是治理效率最高的方式。

從長遠來看，加強深度合成治理專門立法是必然趨勢。在擬出臺全盤人工智能治理方案的歐洲，也在討論對人工智能立法的部分定義和監管類型進行修訂，以增強對“大型生成式AI模型”部署者和用戶進行直接監管。深度合成的治理等待全盤人工智能治理的立法出臺，會面臨針對性、可用性不強的制度困境。

生成型人工智能具有一定通用性，是否延續傳統對人工智能的分級分類方式進行治理？目前歐盟就面臨著這個問題。2022年5月，歐盟《人工智能法》第4a-4c的修正案目前成為了監管生成型人工智能的核心條款?？捎糜谌魏胃唢L險應用的“通用人工智能系統”（GPAIS），如就業、醫療、信用評分、行政、執法都必須初步遵守《人工智能法》對高風險系統規定的全部義務。由此可見，一個全盤的人工智能治理方案極可能受到技術發展的沖擊。因此也有歐洲學者建議歐盟應將其所設想的全盤人工智能法案監管轉向具體的監管職責和內容治理。

在筆者看來，應在對深度合成治理作出專門性制度探索的基礎上，推進人工智能基礎性立法，解決人工智能領域的通用問題。一是算法、算力與數據的規制制度必須在人工智能治理的框架下統籌協調。如歐盟立法面臨著《人工智能法》《通用數據保護條例》《數字服務法》等法規協調的問題。預訓練大模型需要海量的算力，如何統籌全國范圍內的算力使用，也是法律層面立法才能解決的問題。二是需要在法律層面上統籌，方可保證較高的效力位階將我國現行的有關數據、算法和人工智能問題的探索統一納入未來人工智能基礎性立法。

（作者系中國政法大學數據法治研究院教授）