10月18日，在第三屆“一帶一路”國際合作高峰論壇上，中國提出《全球人工智能治理倡議》（以下簡稱《倡議》），這是我國繼今年7月出臺全球首部生成式人工智能規(guī)范性政策文件《生成式人工智能服務(wù)管理暫行辦法》后，在人工智能治理領(lǐng)域的又一重大舉措?！冻h》提出了構(gòu)建開放、公正、有效的全球人工智能治理機(jī)制，為相關(guān)國際討論和規(guī)則制定提供了藍(lán)本，對于促進(jìn)人工智能技術(shù)造福全人類，推動構(gòu)建人類命運(yùn)共同體具有重要意義。
一、《倡議》提出的背景
（一）通用人工智能帶來重大發(fā)展機(jī)遇的同時，也伴隨著難以預(yù)測的重大風(fēng)險，需要國際社會共同應(yīng)對。
通用人工智能是人工智能發(fā)展的終極目標(biāo)。目前對通用人工智能有兩種理解：通用性的人工智能（General Artificial Intelligence，GAI）是媒體和社會公眾的一般理解，指的是能夠處理多種任務(wù)的人工智能；人工智能專業(yè)領(lǐng)域的理解是人工通用智能（Artificial General Intelligence，AGI），指的是在所有方面都達(dá)到和超越人類水平的智能系統(tǒng)，能夠自適應(yīng)地應(yīng)對外界環(huán)境挑戰(zhàn)，完成人類能完成的所有任務(wù)的人工智能，也稱強(qiáng)人工智能、超級人工智能等。前者應(yīng)該鼓勵，后者應(yīng)該嚴(yán)防。
近年來，大模型通過持續(xù)擴(kuò)大規(guī)模，出現(xiàn)了從量變到質(zhì)變的能力“涌現(xiàn)”現(xiàn)象，在語言理解生成、邏輯推理等方面表現(xiàn)出預(yù)料之外的能力，拉開了邁向通用人工智能的序幕，成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，將帶來10年到20年左右的發(fā)展紅利期。
大模型取得的突破性進(jìn)展基本上是通過經(jīng)驗?zāi)Ｊ饺〉玫?，其背后的智能發(fā)生和涌現(xiàn)機(jī)理尚不清晰。隨著智能水平的高速增長，風(fēng)險也同步增長，已出現(xiàn)誤用、濫用等一系列風(fēng)險和挑戰(zhàn)，當(dāng)前國際社會對如何構(gòu)建一個安全的人工智能系統(tǒng)仍知之甚少，人類面臨著全新挑戰(zhàn)。
通用人工智能（GAI）和人工通用智能（AGI）都是高度復(fù)雜的系統(tǒng)，特點(diǎn)是難以預(yù)測。特別的，GAI什么時候演化為AGI也是難以預(yù)測的。根據(jù)控制論的“阿什比定律”：任何有效的控制系統(tǒng)都必須和它控制的系統(tǒng)一樣復(fù)雜。如果人類實(shí)現(xiàn)了比自己更強(qiáng)大的AGI，從理論上說不可能控制這些系統(tǒng)，極端情況是導(dǎo)致人類滅絕的“生存危機(jī)”。
因此，防范人工通用智能（AGI）不是未來的事情，現(xiàn)在就要開始，不僅要研究應(yīng)對AGI的戰(zhàn)略，還要研究GAI演化為AGI的可能性及對策，這是世界各國共同面臨的事關(guān)人類未來的重大課題。
（二）通用人工智能技術(shù)發(fā)展將會進(jìn)一步拉大國家之間的智能鴻溝，全球人工智能治理進(jìn)入新階段，需要建立公平公正的全球人工智能治理體系。
隨著通用人工智能技術(shù)的不斷發(fā)展，各個國家在智能技術(shù)掌握與應(yīng)用能力上的差距將形成智能鴻溝，加劇技術(shù)發(fā)展的不平等問題。在全球?qū)用嫔希斯ぶ悄苣壳吧形葱纬山y(tǒng)一標(biāo)準(zhǔn)和規(guī)范的人工智能治理體系。
與此同時，全球人工智能治理出現(xiàn)了單邊主義、國家主義、保護(hù)主義的趨勢，少數(shù)發(fā)達(dá)國家試圖掌控人工智能相關(guān)的法律法規(guī)、政策和原則，發(fā)展中國家話語權(quán)較弱，甚至無法參與相關(guān)討論。中國作為最大的發(fā)展中國家和人工智能發(fā)展大國，需要積極參與全球人工智能治理工作，提升發(fā)展中國家在全球人工智能治理中的影響力與話語權(quán)，推動人工智能治理朝著更加公平公正的方向發(fā)展。
二、《倡議》的主要內(nèi)容
《倡議》內(nèi)容共十一條，圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理的“中國方案”。
（一）明確發(fā)展原則，推動人工智能向善而治。
人工智能的發(fā)展應(yīng)回歸人本主義，致力于解決人類面臨的共同挑戰(zhàn)?！冻h》提出了人工智能發(fā)展的基本原則，推動人工智能健康發(fā)展。
一是堅持以人為本、智能向善，以增進(jìn)人類共同福祉為目標(biāo)，確保人工智能始終朝著有利于人類文明進(jìn)步的方向發(fā)展，共同防范和打擊恐怖主義、極端勢力和跨國有組織犯罪集團(tuán)對人工智能技術(shù)的惡用濫用。
二是堅持相互尊重、平等互利，鼓勵全球共同推動人工智能健康發(fā)展，共享人工智能知識成果，開源人工智能技術(shù)。尊重各國主權(quán)，技術(shù)服務(wù)應(yīng)充分尊重所在國的法律、法規(guī)，反對利用人工智能技術(shù)干涉內(nèi)政、妨礙他國社會制度及秩序。反對以意識形態(tài)劃線或構(gòu)建排他性集團(tuán)，惡意阻撓他國人工智能發(fā)展。
（二）打造安全體系，構(gòu)建安全可信的人工智能系統(tǒng)。
針對大模型發(fā)展面臨的隱私和數(shù)據(jù)泄露、誤用濫用、不透明、不公平、責(zé)任認(rèn)定等安全問題，《倡議》通過“內(nèi)外兼修”的方式，推動構(gòu)建安全可信的人工智能系統(tǒng)。
在外部措施方面，一是推動建立風(fēng)險等級測試評估體系，實(shí)施敏捷治理，分類分級管理，快速有效響應(yīng)。二是逐步建立健全法律和規(guī)章制度，保障人工智能研發(fā)和應(yīng)用中的個人隱私與數(shù)據(jù)安全，反對竊取、篡改、泄露和其他非法收集利用個人信息的行為。三是堅持倫理先行，建立并完善人工智能倫理準(zhǔn)則、規(guī)范及問責(zé)機(jī)制，形成人工智能倫理指南，建立科技倫理審查和監(jiān)管制度，明確人工智能相關(guān)主體的責(zé)任和權(quán)力邊界，充分尊重并保障各群體合法權(quán)益，及時回應(yīng)國內(nèi)和國際相關(guān)倫理關(guān)切。
在人工智能系統(tǒng)內(nèi)部安全能力提升方面，一是針對系統(tǒng)透明度問題，倡議各研發(fā)主體不斷提高人工智能可解釋性和可預(yù)測性，提升數(shù)據(jù)真實(shí)性和準(zhǔn)確性，確保人工智能始終處于人類控制之下，打造可審核、可監(jiān)督、可追溯、可信賴的人工智能技術(shù)。二是針對偏見和不公平問題，倡議堅持公平性和非歧視性原則，避免在數(shù)據(jù)獲取、算法設(shè)計、技術(shù)開發(fā)、產(chǎn)品研發(fā)與應(yīng)用過程中，產(chǎn)生針對不同或特定民族、信仰、國別、性別等偏見和歧視。
（三）倡導(dǎo)全球治理，推動實(shí)現(xiàn)多邊的開放性治理生態(tài)。
單絲不成線，孤樹不成林。人工智能的發(fā)展并不是一場“零和游戲”，人工智能治理需要全世界的廣泛參與，在充分尊重各國人工智能治理原則和實(shí)踐的前提下，形成具有廣泛共識的國際人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，推動全球人工智能治理邁向更加完善的新階段。
《倡議》以開放姿態(tài)，以關(guān)切全人類發(fā)展為初衷，抵制“俱樂部”式的霸權(quán)操縱模式，積極推動真正的多邊對話的實(shí)現(xiàn)，促進(jìn)全球發(fā)達(dá)國家和發(fā)展中國家人工智能治理的協(xié)同發(fā)展。一是鼓勵各國積極對話和分享最佳操作實(shí)踐，推動國際人工智能治理領(lǐng)域形成廣泛共識。二是建議增強(qiáng)發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權(quán)，開展面向發(fā)展中國家的國際合作與援助，不斷彌合智能鴻溝和治理能力差距。積極支持在聯(lián)合國框架下討論成立國際人工智能治理機(jī)構(gòu)，協(xié)調(diào)國際人工智能發(fā)展、安全與治理重大問題。三是倡導(dǎo)“以技術(shù)監(jiān)管技術(shù)”，積極發(fā)展用于人工智能治理的相關(guān)技術(shù)開發(fā)與應(yīng)用，支持以人工智能技術(shù)防范人工智能風(fēng)險，提高人工智能治理的技術(shù)能力。
結(jié)語
確保人工智能安全、健康、可控發(fā)展是人類共同的責(zé)任，《倡議》為人工智能治理提出了一個覆蓋治理多元主體，推動搭建多方共建的可落地“中國方案”。智源研究院作為人工智能領(lǐng)域的新型研發(fā)機(jī)構(gòu)，將從技術(shù)研發(fā)角度推動《倡議》的落地。一是堅持開源開放原則，構(gòu)建全面開源、共建共享、開放透明的人工智能技術(shù)底座，持續(xù)開展人工智能算法可解釋性、魯棒性、可信性等研究，不斷提升人工智能系統(tǒng)的透明性和可靠性。二是開展大模型安全與價值觀對齊、大模型安全評測技術(shù)等人工智能治理技術(shù)研究，為全球人工智能治理提供強(qiáng)有力的技術(shù)工具鏈，促進(jìn)人工智能和人類智能的良性互動和價值共塑，構(gòu)建人工智能和人類智能友好共處的人類命運(yùn)共同體。（北京智源人工智能研究院）
信息網(wǎng)絡(luò)傳播視聽節(jié)目許可證：120330032
中華人民共和國互聯(lián)網(wǎng)新聞信息服務(wù)許可證：45120170002
中華人民共和國互聯(lián)網(wǎng)出版許可證 （署）網(wǎng)出證（桂）字第020號
廣播電視節(jié)目制作經(jīng)營許可證編號：（桂）字第0230號
網(wǎng)警備案號：45010302000253
桂ICP備11003557 南寧新聞網(wǎng)版權(quán)所有
舉報電話：0771—5530647 郵箱：mail@nnnews.net
登錄
還沒賬號？立即注冊
點(diǎn)擊頭像快速登錄
請輸入驗證碼