■如何應對GPT-4帶來的挑戰 專題

如何應對GPT-4帶來的挑戰③

機器智能挑戰現有法律秩序

□  鄭志峰

2016年3月，谷歌公司研發的人工智能圍棋程序AlphaGo以4比1的總比分，戰勝圍棋世界冠軍、職業九段棋手李世石，引發全球關注，掀開了新一輪人工智能浪潮的大幕。2022年11月，OpenAI公司發布聊天機器人ChatGPT，在聊天、搜索、翻譯、寫作、寫代碼等方面展現出驚人的能力，注冊人數迅速破億。今年3月，升級版GPT-4上線，一夜之間成為全球關注的焦點，被譽為迎來了人工智能的“iphone”時刻。一時間，人工智能的熱浪再次席卷全球。

相較于早年的AlphaGo，GPT-4的出現代表著人工智能技術發展的另一座新高峰。如果說AlphaGo讓人們看到機器智能在圍棋等特定領域是如何超越人類智能的，那么GPT-4則是讓人們看到機器智能與人類智能之間的界限正在全方位地縮小，機器智能正在跨過人類語言這一人機之間的天然藩籬，一步步向著通用人工智能的未來方向逼近。毫無疑問，這樣一款高度理解人類語言的生成式人工智能，將會給現有的以人類智能為中心構建的法律秩序帶來全方位、顛覆式的挑戰。

GPT-4是“機器”還是“人”

現有的法律秩序是以人類智能為中心構建的，人是絕對的法律主體，機器是絕對的客體，人物區分是分明的。然而，隨著機器人、人工智能技術的發展，主體與客體之間的界限日益模糊。早前，人們常常用圖靈測試來檢驗一款機器是否到達了人類智能的水平。從GPT-4展現的能力來看，其比以往任何人工智能程序都更接近于人類智能，通過圖靈測試幾乎沒有任何壓力。并且與以往不同的是，GPT-4不再是鸚鵡學舌般地找出數據之間的對應關系，然后去模仿人類智能，而是真正具備了“理解”人類語言的能力，能夠準確理解人類的指令，讀懂人類語言中的幽默、諷刺，識別提問中的邏輯陷阱，找出上下文中的情景關系。這種“理解”能力是前所未有的，是GPT-4在學習中突然“涌現”的能力，是一種新范式的“機器智能”。  

機器智能的新突破必然會加速挑戰現有人類智能的主體地位。當前的GPT-4僅僅是一款聊天機器人程序，賦予其法律人格或者法律主體地位并不迫切，畢竟它只是虛擬的存在。但如果將GPT-4與伴侶機器人結合，制造出一個擁有類人的身體構造和理解人類語言的新型智能體，屆時討論它是“人”還是“機器”將會變得非常重要。

從現有的法律規范來看，民事主體包括自然人、法人和非法人組織，自然人以外的存在可以通過擬制人格的方式獲得法律人格，故法律技術并非“機器”成為“人”的真正障礙。真正決定法律如何對待人工智能的因素或許在法律之外，包括社會、倫理、文化、技術等各個方面。面對以GPT-4為代表的人工智能形式，我們需要重新認識人類智能的獨特性，做好應對機器智能挑戰的準備?；蛟S我們現在還可以說GPT-4當前只是在符號層面理解了人類語言，并不知曉語言背后蘊含的意識、情感、情緒，但這種突破可能并不遙遠。

GPT-4的作品是“創作”還是“拼湊”

GPT-4是一種大語言模型，也是一種生成式人工智能。GPT-4在訓練過程中，學習了人類社會的大量優質作品，包括文字、音樂、畫畫、海報、視頻等各種類型，在學習知識、繼承知識的基礎上，產生了創作知識的能力，由此引發了著作權的保護問題。事實上，人工智能的著作權問題并非新鮮事，近年來人工智能寫詩、畫畫、寫歌、寫報道、寫小說等新聞屢見不鮮。與以往人工智能不同的是，借助對于人類語言的獨特理解能力，GPT-4的生成模型更為智能：一是對于文學藝術作品的學習更加接近人類的理解，從而具有更強的知識生產能力，能夠真正從人類語言的視角去創作符合人類思維習慣的作品，這為之后生成新內容提供了能力基礎；二是對于用戶指令的理解更加到位，能夠根據用戶的提問準確地生成內容，使得作品的使用價值大幅提升。

對于GPT-4為代表的生成式人工智能引發了著作權的問題，首先需要判斷生成內容是否構成作品。根據我國著作權法的規定，作品認定的核心是新穎性或者獨創性。對此，有人從主觀主義出發，認為GPT-4不過是更加智能的“洗稿機器”，是對現有作品重新進行拼湊，本質上是一種“抄襲”，不具有獨創性。另一種觀點則從客觀主義出發，主張GPT-4生成的作品客觀上存在獨創性，有明顯的辨識度、區分度，也具有經濟和藝術價值，從而構成作品。

2023年3月16日，美國版權局發布了一份公告，認為用戶使用Photoshop進行創作的圖片構成作品，受版權法保護，因為整個過程都有人工參與進行創作，而Midjourney、Stability AI、ChatGPT等自動生成的作品完全由機器人完成，不受版權法保護。與此同時，從我國司法實踐來看，法院傾向于保護人工智能的生成物，逐漸放寬對作品的認定。無論司法實踐是否承認，GPT-4等機器智能生成的內容越來越具有經濟價值，不予以保護只會引發更多的糾紛。對此，從鼓勵創作和維護市場秩序的角度出發，筆者認為應當考慮保護GPT-4生成的作品，同時相應限縮這類作品著作權保護的期限和強度。

GPT-4闖禍了誰來負責

GPT-4是迄今為止最為強大的大語言模型，能夠聊天、創作，為用戶帶來正向價值，但也可能出現隱私與數據泄露、內容抄襲、語言詆毀等侵權行為，從而引發責任承擔的問題。從GPT-4的運行機制來看，無論其展現的機器智能多么優秀，仍然需要用戶進行主動提問，且生成的內容只有用戶才能主動公開或者使用。用戶對于內容的生成和后續應用有著主導權，是首要的責任主體，理應盡到合理的注意義務。

例如，用戶提問本身存在過錯，如提問讓GPT-4寫一段侮辱某人的文字、制作一個侵害某人名譽權的視頻等，隨后GPT-4依照指令生成了內容，用戶公開了該文字或者視頻，造成特定人損害。再比如，用戶提問本身沒有過錯，但GPT-4生成的內容存在明顯的侵權行為，如明顯的抄襲內容或者侵害他人隱私、名譽的內容，用戶沒有盡到任何審核義務就公開該內容，最后造成損害。此種情形下，用戶需要承擔相應的賠償責任。

與此同時，GPT-4也需要負擔特定的注意義務，對于用戶明顯有侵權風險的提問應當予以拒絕回答，生成的內容應當避免侵害他人的權益。例如，用戶向GPT-4提問設計一款具有獨創性的方便面食品包裝，結果GPT-4生成的包裝卻是抄襲某個服裝設計師的作品，用戶沒有辦法去審核內容是否侵權。對此，從平衡各方利益的角度出發，在對外方面應當允許被侵權人同時向用戶和GPT-4提供商提起訴訟，在用戶證明自己沒有過錯的情況下，應當由GPT-4提供商承擔最終的賠償責任。

從規范層面看，GPT-4的使用本身就是有償的，提供的是一種類似于專家的服務，用戶對于GPT-4的生成內容有合理的信賴基礎。如果GPT-4沒有達到一個算法類專家應有的理性水平，那么可以認為存在算法缺陷或者算法瑕疵，需要承擔相應的責任。我們不能要求用戶去實質上審查GPT-4的生成內容是否有法律風險，否則用戶的使用成本過高。

（作者系西南政法大學民商法學院副教授）