生成式人工智能技術(shù)因ChatGPT的爆火而獲得了社會各界的廣泛關(guān)注，并在近年來取得了突飛猛進(jìn)的發(fā)展。然而，其強大的學(xué)習(xí)與生成能力也帶來了諸如惡意輸出、版權(quán)侵犯、深度偽造等熱點安全問題。2023年10月18日，習(xí)近平主席在第三屆“一帶一路”國際合作高峰論壇開幕式主旨演講中提出《全球人工智能治理倡議》，指出“人工智能治理攸關(guān)全人類命運，是世界各國面臨的共同課題”，應(yīng)當(dāng)“共同做好風(fēng)險防范，形成具有廣泛共識的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，不斷提升人工智能技術(shù)的安全性、可靠性、可控性、公平性”。在此背景下，國家網(wǎng)信辦發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識辦法(征求意見稿)》(以下簡稱《辦法》)以及配套強制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法(征求意見稿)》(以下簡稱《標(biāo)準(zhǔn)》)?！掇k法》、《標(biāo)準(zhǔn)》的提出，旨在應(yīng)對人工智能技術(shù)發(fā)展帶來的新型挑戰(zhàn)，通過構(gòu)建標(biāo)識驗證技術(shù)體系，有效識別和管理合成內(nèi)容，保障信息的真實性與公正性，維護(hù)技術(shù)的穩(wěn)定發(fā)展和社會秩序。

　　一、規(guī)范內(nèi)容標(biāo)識，防范誤解與濫用風(fēng)險

　　隨著人工智能技術(shù)的快速發(fā)展，AI生成合成內(nèi)容的逼真度不斷提升，其與真實信息的界限日益模糊。這種高度仿真的內(nèi)容不僅容易造成公眾誤解，更有可能被不法分子利用，對個人隱私、組織聲譽以及社會穩(wěn)定、國家安全產(chǎn)生巨大危害。《辦法》和《標(biāo)準(zhǔn)》立足于規(guī)范化人工智能生成合成內(nèi)容的標(biāo)識方法，明確了使用的技術(shù)手段和基本目標(biāo)，并提出了一系列的檢測手段和添加目標(biāo)，解決了當(dāng)前人工智能面臨的諸多問題。

　　首先是人工智能生成合成內(nèi)容混淆誤認(rèn)的問題。當(dāng)前，公眾在獲取和傳播信息時，常常難以分辨由AI生成的內(nèi)容，導(dǎo)致公眾錯誤傳播。為防止AI生成內(nèi)容被錯誤傳播或被公眾誤認(rèn)為真實信息，《標(biāo)準(zhǔn)》采用顯式標(biāo)識的方法，在生成內(nèi)容的顯著地方提示用戶該內(nèi)容為人工智能生成合成。這種措施旨在提高公眾的辨識能力，促進(jìn)信息傳播的真實性和可靠性，同時也為內(nèi)容創(chuàng)作者和合規(guī)檢測平臺提供了明確的操作指南。

　　其次是AI生成內(nèi)容可能被惡意使用或濫用的問題。當(dāng)前生成式人工智能性能出色，使用門檻低，任何人都可能輕易生成大量AI生成的內(nèi)容，從而增加了濫用或惡意使用的風(fēng)險?！稑?biāo)準(zhǔn)》采用隱式標(biāo)識的方法，在不影響內(nèi)容呈現(xiàn)的同時，在生成內(nèi)容中嵌入可追溯信息。我們可以在發(fā)現(xiàn)內(nèi)容被濫用或惡意使用時，迅速追溯其來源，確定責(zé)任主體，從而有效遏制惡意使用行為，維護(hù)網(wǎng)絡(luò)空間秩序。同時，這種方法也為后續(xù)的監(jiān)管執(zhí)法、糾紛處理提供了關(guān)鍵的技術(shù)支持。

　　二、標(biāo)準(zhǔn)化多模態(tài)標(biāo)識與全周期監(jiān)管，推動AI健康發(fā)展

　　生成式人工智能重塑了人類與技術(shù)的交互方式，改變了知識信息的生產(chǎn)方式，涉及范圍廣，應(yīng)用模態(tài)多，涉及場景復(fù)雜。不充分、不協(xié)調(diào)、不完整的標(biāo)識技術(shù)與應(yīng)用覆蓋將會對網(wǎng)絡(luò)信息空間安全帶來巨大隱患。

　　《辦法》和《標(biāo)準(zhǔn)》充分結(jié)合人工智能生成合成內(nèi)容的典型應(yīng)用場景，圍繞相關(guān)關(guān)鍵技術(shù)環(huán)節(jié)提出多項條款，為應(yīng)對多種可能存在的風(fēng)險場合提出合適的生成標(biāo)識方法，有效推動生成式人工智能技術(shù)健康發(fā)展。針對不同場景，《標(biāo)準(zhǔn)》以顯式標(biāo)識為主，隱式標(biāo)識為輔，圍繞相關(guān)關(guān)鍵技術(shù)環(huán)節(jié)提出多項舉措以加強監(jiān)管治理：一是明確了顯式與隱式標(biāo)識結(jié)合的方案。未經(jīng)監(jiān)管的生成內(nèi)容存在難以辨別真假、缺乏透明度且易于構(gòu)造誤導(dǎo)信息的潛在威脅，《標(biāo)準(zhǔn)》在顯式上注重標(biāo)識的易添加和易檢測，在隱式上注重標(biāo)識的安全性和不可篡改性，從而保證生成內(nèi)容溯源可查以降低風(fēng)險。二是確立了多種模態(tài)下的治理手段。多模態(tài)技術(shù)發(fā)達(dá)且不同的模態(tài)具有獨特的數(shù)據(jù)表征，《標(biāo)準(zhǔn)》針對主流的生成式人工智能應(yīng)用音、視、圖、文四種模態(tài)各自獨特的應(yīng)用特點提出相應(yīng)的約束，從而提高各界對生成內(nèi)容的識別能力。三是覆蓋了人工智能生命全周期。《標(biāo)準(zhǔn)》確保從制作、發(fā)布、下載的每個階段都符合相應(yīng)的安全要求，提出各個環(huán)節(jié)下嚴(yán)格的技術(shù)規(guī)范和管理措施，有助于保障人工智能技術(shù)在發(fā)展階段始終符合隱私保護(hù)和安全防控的要求，以全方位指導(dǎo)規(guī)范生成式人工智能合規(guī)應(yīng)用。

　　三、推進(jìn)開放產(chǎn)業(yè)生態(tài)建設(shè)，作出中國回答

　　《辦法》和《標(biāo)準(zhǔn)》的制定和出臺，是我國推進(jìn)生成式人工智能服務(wù)領(lǐng)域治理、促進(jìn)產(chǎn)業(yè)規(guī)范健康發(fā)展、引導(dǎo)技術(shù)向善的重要舉措。在生成式人工智能發(fā)展的新階段，如何劃定合理的安全紅線，建立安全、開放、公平、符合國情的人工智能產(chǎn)業(yè)生態(tài)，推動人工智能技術(shù)的健康發(fā)展，成為了管理者與相關(guān)從業(yè)者即將面臨的一大難點。

　　針對這一問題，《標(biāo)準(zhǔn)》作出了回應(yīng)。一是加強技術(shù)，提升多模態(tài)全周期場景下人工智能生成合成內(nèi)容的標(biāo)識與檢測能力，指導(dǎo)相關(guān)安全平臺的建設(shè)。二是提升管理，《標(biāo)準(zhǔn)》積極引導(dǎo)企業(yè)正確理解并落實強制性國家標(biāo)準(zhǔn)要求，幫助部門督促指導(dǎo)當(dāng)?shù)仄髽I(yè)貫徹強制性國家標(biāo)準(zhǔn)要求，提升整體監(jiān)管效能。三是落實“包容審慎”，正視中國的技術(shù)發(fā)展與產(chǎn)業(yè)現(xiàn)狀，積極聽取群眾的建議，完善制度與政策。在人工智能技術(shù)快速發(fā)展的時期，我們要平衡安全監(jiān)管與創(chuàng)新引導(dǎo)，推動健康發(fā)展，促進(jìn)社會活力，建立良好的產(chǎn)業(yè)生態(tài)。《辦法》和《標(biāo)準(zhǔn)》通過明確發(fā)展與安全并重的原則，構(gòu)建生成式AI的安全治理環(huán)境，幫助公眾識別人工智能生成合成內(nèi)容，保障信息安全，促進(jìn)協(xié)同治理與良性發(fā)展。

　　生成式人工智能擁有巨大的潛力，很可能在未來對人類經(jīng)濟、政治、社會、文化、軍事各方面產(chǎn)生深刻影響。面對核心技術(shù)革新帶來的巨大挑戰(zhàn)，《辦法》和《標(biāo)準(zhǔn)》對于人工智能產(chǎn)業(yè)的開發(fā)部署、檢測評估、合規(guī)管理以及安全應(yīng)用有著重要的指導(dǎo)作用，讓中國能夠在全球智能技術(shù)浪潮中先行一步。我們期待著《辦法》與《標(biāo)準(zhǔn)》的實施能夠為后續(xù)人工智能的立法積累中國經(jīng)驗，為全球人工智能治理貢獻(xiàn)中國智慧，推進(jìn)全社會共同治理，建立開放和諧的網(wǎng)絡(luò)空間命運共同體。

　　作者：任奎　浙江大學(xué)計算機科學(xué)與技術(shù)學(xué)院院長，區(qū)塊鏈與數(shù)據(jù)安全全國重點實驗室常務(wù)副主任