法治日報全媒體見習記者 李兆娣
2024年4月16日,中國社會科學院國情調(diào)研重大項目《我國人工智能倫理審查和監(jiān)管制度建設狀況調(diào)研》起草組(以下簡稱“起草組”)發(fā)布《人工智能示范法2.0(專家建議稿)》(以下簡稱《示范法》2.0)?!度斯ぶ悄苁痉斗?.0(專家建議稿)》已于2023年8月15日全球首發(fā)。
中國社會科學院法學研究所網(wǎng)絡與信息法研究室副主任周輝在起草組主持起草工作,他向法治網(wǎng)記者介紹,《示范法》并非正式法律法規(guī),而是由學界、業(yè)界多方研討后形成的帶有示范和建議性質(zhì)的法律文本,發(fā)布《示范法》2.0,旨在提出治理方案,助力我國人工智能(簡稱“AI”)立法工作。
北京大學人工智能研究院雙聘教授、中國科學技術(shù)法學會常務副會長兼秘書長張平和周輝一致認為,AI治理必須堅持智能向善,均衡發(fā)展與安全。
據(jù)周輝介紹,《示范法》2.0進一步提出構(gòu)建知識產(chǎn)權(quán)創(chuàng)新規(guī)則,擬構(gòu)建“新避風港規(guī)則”。
焦慮
自2022年末,以ChatGPT為代表的生成式人工智能技術(shù)快速崛起,掀起產(chǎn)業(yè)界的新一輪科技革命。據(jù)國家數(shù)據(jù)局統(tǒng)計,目前中國10億參數(shù)規(guī)模以上的大模型數(shù)量已超100個,正深度應用于電子信息、醫(yī)療、交通等千行百業(yè),并走入人們的日常生活。
與此同時,一場全球范圍的安全焦慮快速發(fā)酵。
數(shù)據(jù)顯示,2023年,基于AI的深度偽造欺詐暴增了3000%,基于AI的釣魚郵件數(shù)量增長了1000%,已有多個有國家背景的黑客組織利用AI實施了十余起網(wǎng)絡攻擊事件。
起訴AI在提供人工智能服務過程中著作權(quán)侵權(quán)、訓練數(shù)據(jù)來源不合法的訴狀,雪花一般飄至各國各地法院法官的案頭,對傳統(tǒng)知識產(chǎn)權(quán)法律體系發(fā)起挑戰(zhàn)。
《2024年人工智能指數(shù)報告》(以下簡稱《報告》)中來自市場研究公司Ipsos的一項調(diào)查顯示,2023年,52%的人對人工智能產(chǎn)品和服務表示焦慮,比2022年上升13個百分點。
“AI 技術(shù)的研發(fā)以數(shù)據(jù)為支撐,以互聯(lián)網(wǎng)技術(shù)為依托,在研發(fā)與應用的過程中不僅涉及個人信息、隱私等倫理問題,還牽涉國家網(wǎng)絡與數(shù)據(jù)安全?!北本┐髮W人工智能研究院雙聘教授、中國科學技術(shù)法學會常務副會長兼秘書長張平教授說。
探索
為應對安全焦慮,人工智能發(fā)展與規(guī)則體系建立的競賽在全球范圍內(nèi)進入前所未有的熱潮?!秷蟾妗凤@示,2023年,全球立法程序中有 2175次提及人工智能,幾乎是上一年的兩倍。僅美國,2023年與人工智能相關的法規(guī)有25項,僅一年,總數(shù)增長56.3%。而2016年只有1項。
中國也陸續(xù)探索出一批規(guī)則制度。例如,國家網(wǎng)信辦、工業(yè)和信息化部等部委先后于2021年、2022年聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》,2023年7月,國家網(wǎng)信辦聯(lián)合多部門發(fā)布《生成式人工智能服務管理暫行辦法》,自2023年8月15日起施行,規(guī)定了生成式人工智能的安全評估、算法備案、投訴舉報等制度,明確了法律責任。
在司法層面,2023年11月27日和2024年2月8日,北京互聯(lián)網(wǎng)法院和廣州互聯(lián)網(wǎng)法院分別作出了AI文生圖著作權(quán)侵權(quán)國內(nèi)第一案(簡稱為“春風圖案”)一審判決、AIGC平臺著作權(quán)侵權(quán)全球第一案(簡稱為“奧特曼案”)一審判決,就AIGC是否屬于作品及其權(quán)利歸屬等問題,給出初步探索思路和思考。
在春風圖案中,北京互聯(lián)網(wǎng)法院給出的思路是,AI不能成為作者,只是工具,但AIGC可能構(gòu)成作品,只要滿足智力投入、獨創(chuàng)性等要件,作者應當是生成式AI的使用者。
在奧特曼案中,廣州互聯(lián)網(wǎng)法院明確,生成式人工智能服務提供者在提供相關服務時應盡到注意義務,尊重和保護知識產(chǎn)權(quán),否則可能構(gòu)成侵權(quán)。
在智庫層面,2023年8月15日,中國社會科學院國情調(diào)研重大項目《我國人工智能倫理審查和監(jiān)管制度建設狀況調(diào)研》起草組起草的《人工智能示范法1.0(專家建議稿)》全球首發(fā),2024年4月16日,《人工智能示范法2.0(專家建議稿)》也已發(fā)布,為人工智能立法設計建議和方案。
建議
據(jù)周輝介紹,《示范法》2.0在繼續(xù)堅持明確人工智能主管機關、科學設計法律主體架構(gòu)、劃明人工智能安全底線、提出許可管理負面清單等1.0版本起草思路的同時,對上述制度設計作了補充和完善,并進一步提出構(gòu)建知識產(chǎn)權(quán)創(chuàng)新規(guī)則、重視人工智能開源發(fā)展等建議。
周輝表示,起草組起草《示范法》的初衷是,吸取、借鑒域外國家在人工智能治理方面的有益經(jīng)驗,提出有益的人工智能治理建議和方案,助力中國人工智能立法工作。
比如,《示范法》擬提出構(gòu)建“新避風港規(guī)則”,允許人工智能提供者在已經(jīng)履行標注生成物、建立投訴受理機制、警示機制和違規(guī)處置機制的前提下就知識產(chǎn)權(quán)侵權(quán)行為不承擔責任。鑒于人工智能模型訓練必然需要投喂大量優(yōu)質(zhì)數(shù)據(jù)物料,需要對知識產(chǎn)權(quán)法中有關作品許可利用的內(nèi)容作出變通規(guī)定,《示范法》2.0提出建立與人工智能發(fā)展相適應的知識產(chǎn)權(quán)法定許可和合理使用制度,破除訓練數(shù)據(jù)使用面臨的合法性難題,降低數(shù)據(jù)使用成本。
“人工智能治理,既要管住風險,也要鼓勵技術(shù)創(chuàng)新應用,破解數(shù)據(jù)壁壘等一系列人工智能創(chuàng)新發(fā)展瓶頸、障礙?!敝茌x稱,《示范法》2.0遵循均衡發(fā)展與安全的原則,既著眼于防范突出風險,也提出鼓勵發(fā)展的舉措。
比如,在安全風險治理方面,《示范法》2.0繼續(xù)按“研發(fā)者-提供者-使用者”三類主體進行制度設計,在設計一般性的安全評估、審計、采取防護措施等義務的基礎上,還對基礎模型研發(fā)者、網(wǎng)絡平臺、國家機關等主體規(guī)定了特殊義務以加強重點環(huán)節(jié)保障,并提出以稅收優(yōu)惠等政策鼓勵企業(yè)在安全防護方面進行投資。
在鼓勵發(fā)展方面,《示范法》2.0圍繞目前人工智能發(fā)展的關鍵環(huán)節(jié)即算力基礎設施、算法和基礎模型創(chuàng)新、數(shù)據(jù)要素供給以及商業(yè)應用創(chuàng)新等方面進行了制度設計,并提出促進人工智能開源發(fā)展、建立監(jiān)管試驗機制等措施。
此外,《示范法》提出成立人工智能倫理專家委員會,以更好開展人工智能倫理問題研究、指導倫理審查等工作?!皥猿忠匀藶楸尽⒅悄芟蛏?,是人工智能發(fā)展的底線原則。”周輝說。
為應對AI技術(shù)發(fā)展的不確定性,周輝表示,《示范法》在起草和更新過程中,采取較為包容審慎的態(tài)度。在安全風險管理、治理體制機制等方面?zhèn)戎赜诖_立相關原則、明確未來方向,而非直接規(guī)定制度細節(jié)。同時《示范法》也在制度設計上留出更多容錯空間,允許人工智能主管機關和行業(yè)組織通力合作,更有效地實施和執(zhí)行相關制度。
此外,周輝也提到,人工智能立法過程中應聚焦AI技術(shù)特點和行業(yè)發(fā)展需要,與我國現(xiàn)有法律中已經(jīng)確立的網(wǎng)絡數(shù)據(jù)安全監(jiān)管、個人信息保護等制度做好銜接,不宜重復規(guī)定。但可以考慮根據(jù)AI技術(shù)特點,出臺專門的安全標準、合規(guī)指南,協(xié)助相關企業(yè)和研究機構(gòu)依法開展工作。
合力
張平教授表示:“AI是人類發(fā)展的新領域,機遇大,挑戰(zhàn)也大,需要以全球合力共同參與人工智能的合作與建設。”
《報告》顯示,2023 年,61個著名的人工智能模型源自美國的機構(gòu),歐盟 21個,中國15個。同時,中國的機器人安裝量居世界首位,世界上61%的人工智能專利來自中國。
《報告》指出,負責任的人工智能嚴重缺乏標準化,包括 OpenAI、 Google 和 Anthropic 在內(nèi)的領先開發(fā)商主要根據(jù)不同的負責任人工智能基準測試他們的模型。這種做法使系統(tǒng)地比較頂級人工智能模型的風險和局限性的工作變得更加復雜。
2023年我國率先提出全球人工智能治理倡議,圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國方案,堅持以人為本、智能向善,為相關討論和規(guī)則制定提供了思路藍本。
2024年3月,包括圖靈獎得主約書亞·本吉奧、杰弗里·辛頓、姚期智等在內(nèi)的數(shù)十位的中外專家在北京聯(lián)合簽署了《北京AI安全國際共識》。2024年4月《2024年中非互聯(lián)網(wǎng)發(fā)展與合作論壇關于中非人工智能合作的主席聲明》發(fā)布。全球人工智能治理的合作范式不斷刷新。
張平認為,AI安全風險治理是一項綜合性工作,應當分層級、分領域、分階段、分重點開展。具體而言,“人類安全——國家安全——個體安全”這三個維度的潛在安全風險都不容忽視,應予重點關注,三層風險的解決方案也應對癥下藥。即AI技術(shù)應以尊重人類權(quán)益為前提,堅持以人為本,智能向善;保障各國在這場“AI競賽”中權(quán)利平等、機會平等、規(guī)則平等,彌合智能鴻溝和治理能力差距;關注AI應用對個體權(quán)益的影響,尤其是對個人隱私安全的影響。
“人工智能的發(fā)展與治理問題,是創(chuàng)新與傳統(tǒng)制度之間的張力問題。人工智能發(fā)展尚在初期,且不確定性是其最大特性,圍繞人工智能法律規(guī)制的這場討論還遠遠不到下定論的時候。不如讓子彈飛一會兒?!睆埰秸f。
“人工智能技術(shù)發(fā)展日新月異,《示范法》也將隨著實踐發(fā)展而不斷迭代出3.0、4.0等版本,以期得出更成熟、更全面、更有效率的治理方案?!敝茌x說。
信息網(wǎng)絡傳播視聽節(jié)目許可證:120330032
中華人民共和國互聯(lián)網(wǎng)新聞信息服務許可證:45120170002
中華人民共和國互聯(lián)網(wǎng)出版許可證 (署)網(wǎng)出證(桂)字第020號
廣播電視節(jié)目制作經(jīng)營許可證編號:(桂)字第0230號
網(wǎng)警備案號:45010302000253
桂ICP備11003557 南寧新聞網(wǎng)版權(quán)所有
舉報電話:0771—5530647 郵箱:mail@nnnews.net
登錄南寧云賬號
登錄
還沒賬號?立即注冊
點擊頭像快速登錄
請輸入驗證碼