聯(lián)系電話(huà)：0915-3356512
投稿郵箱：news@akxw.cn
聯(lián)系電話(huà)：0915-3356512 投稿郵箱：news@akxw.cn國(guó)家互聯(lián)網(wǎng)信息辦公室等部門(mén)聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱(chēng)《標(biāo)識(shí)辦法》）及配套強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》（以下簡(jiǎn)稱(chēng)《標(biāo)識(shí)標(biāo)準(zhǔn)》），旨在防范人工智能生成合成內(nèi)容引發(fā)的信息安全風(fēng)險(xiǎn)，提升人工智能安全水平，規(guī)范人工智能行業(yè)應(yīng)用和健康發(fā)展。從技術(shù)規(guī)則到技術(shù)標(biāo)準(zhǔn)的有機(jī)組合，是一種兼具靈活性和約束力的制度創(chuàng)新，符合全球人工智能治理通用做法，提出人工智能標(biāo)識(shí)管理的中國(guó)方案，為全球人工智能治理規(guī)則形成和兼容協(xié)調(diào)提供更多基礎(chǔ)共識(shí)。
一、《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》的制定背景
當(dāng)前以ChatGPT、Sora、DeepSeek等為代表的生成式人工智能迅猛發(fā)展，借助人工智能生成合成文本、圖像、音頻、視頻、虛擬場(chǎng)景等，逐漸演變?yōu)橹匾男畔⑸a(chǎn)模式。然而，伴隨技術(shù)門(mén)檻降低，虛假信息、深度偽造、惡意輸出等安全問(wèn)題突出，加劇傳統(tǒng)信息安全風(fēng)險(xiǎn)的動(dòng)態(tài)性、滲透性和全局性。聯(lián)合國(guó)2024年《治理人工智能，助力造福人類(lèi)》報(bào)告將“損害信息完整性”列為排名第一的風(fēng)險(xiǎn)。
生成合成內(nèi)容標(biāo)識(shí)已成為國(guó)際慣例。無(wú)論是已施行的歐盟《人工智能法》、正式出臺(tái)的澳大利亞《安全和負(fù)責(zé)任的人工智能咨詢(xún)：澳大利亞政府的臨時(shí)回應(yīng)》，還是正在制定中的美國(guó)《編輯和深度偽造內(nèi)容來(lái)源保護(hù)完整性法案》《數(shù)字內(nèi)容溯源標(biāo)識(shí)法案》、英國(guó)《人工智能（監(jiān)管）法案》等提案，均對(duì)水印、標(biāo)識(shí)義務(wù)有要求。在我國(guó)，2023年1月施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》提出針對(duì)文本、圖像、音頻、視頻、虛擬場(chǎng)景等信息內(nèi)容的標(biāo)識(shí)要求，2023年8月施行的《生成式人工智能服務(wù)管理暫行辦法》承襲這一規(guī)定。盡管各國(guó)對(duì)數(shù)字水印、數(shù)字指紋、加密元數(shù)據(jù)等標(biāo)識(shí)技術(shù)的具體要求存在不同，對(duì)平臺(tái)標(biāo)識(shí)義務(wù)的強(qiáng)度設(shè)定也存在差異，但在從事后內(nèi)容審核轉(zhuǎn)向生成端風(fēng)險(xiǎn)內(nèi)嵌控制、提高人工智能治理技術(shù)能力的理念是一致的。
二、《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》的核心內(nèi)容與治理邏輯
作為網(wǎng)絡(luò)信息內(nèi)容治理制度體系的有機(jī)組成部分，《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》是我國(guó)人工智能法治建設(shè)進(jìn)程中的重要一步，既與《中華人民共和國(guó)網(wǎng)絡(luò)安全法》一脈相承，又與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等有效銜接，構(gòu)建的人工智能標(biāo)識(shí)管理要求具有體系性、技術(shù)性、協(xié)同性、融貫性、全流程、精細(xì)化等特點(diǎn)，在明確治理標(biāo)準(zhǔn)和落地機(jī)制、促成治理實(shí)效方面，具備可操作性、落實(shí)基礎(chǔ)和前景。
1.體系性、技術(shù)性：技治與法治互嵌運(yùn)行，探索顯隱雙標(biāo)識(shí)機(jī)制
技治與法治彼此的內(nèi)嵌、牽連、塑造在人工智能標(biāo)識(shí)管理中尤為明顯�！稑�(biāo)識(shí)辦法》援引的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》涵蓋人工智能輸出的基本數(shù)據(jù)類(lèi)型，并明確各類(lèi)信息內(nèi)容的可標(biāo)識(shí)性。其中，顯式標(biāo)識(shí)能夠?qū)χ黧w權(quán)利、義務(wù)進(jìn)行明確提示；而元數(shù)據(jù)的隱式標(biāo)識(shí)、基于技術(shù)中立性選擇的內(nèi)容隱式標(biāo)識(shí)和加密，在不影響輸出數(shù)據(jù)質(zhì)量、用戶(hù)感觀的同時(shí)，其內(nèi)容的完備性、唯一性要求，形式的強(qiáng)制性、規(guī)范性等共同構(gòu)成結(jié)構(gòu)化數(shù)據(jù)的一部分�！稑�(biāo)識(shí)標(biāo)準(zhǔn)》中顯式標(biāo)識(shí)與隱式標(biāo)識(shí)的有機(jī)結(jié)合、綜合運(yùn)用，使得通過(guò)技術(shù)檢測(cè)機(jī)制識(shí)別人工智能生成合成內(nèi)容成為可能，并在一定程度上具有確立主體行為性質(zhì)的初步證據(jù)效力。
2.協(xié)同性、融貫性：多部門(mén)監(jiān)管統(tǒng)籌協(xié)調(diào)，多制度銜接資源整合
在人工智能標(biāo)識(shí)監(jiān)管執(zhí)法中，厘清相關(guān)主管部門(mén)管理職責(zé)，明確標(biāo)識(shí)違規(guī)行為法律責(zé)任，強(qiáng)化標(biāo)識(shí)管理與算法備案、安全評(píng)估等制度的銜接和程序協(xié)調(diào)至關(guān)重要。《標(biāo)識(shí)辦法》規(guī)定，服務(wù)提供者在履行算法備案、安全評(píng)估等手續(xù)時(shí)，應(yīng)當(dāng)按照本辦法提供生成合成內(nèi)容標(biāo)識(shí)相關(guān)材料，并加強(qiáng)標(biāo)識(shí)信息共享�！稑�(biāo)識(shí)辦法》明確，違反本辦法規(guī)定的，由網(wǎng)信、電信、公安、廣播電視等有關(guān)主管部門(mén)依據(jù)職責(zé)，按照有關(guān)法律、行政法規(guī)、部門(mén)規(guī)章的規(guī)定予以處理。
3.全流程、精細(xì)化：產(chǎn)業(yè)生態(tài)鏈治理，科學(xué)設(shè)定上下游主體義務(wù)
《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》從網(wǎng)絡(luò)信息服務(wù)提供者這一整體視角切入，進(jìn)一步明晰適用標(biāo)識(shí)義務(wù)的主體。通過(guò)深入審視各主體在人工智能生態(tài)體系中的角色、定位、行為模式以及影響程度，精準(zhǔn)區(qū)分為生成合成內(nèi)容服務(wù)提供者、內(nèi)容傳播服務(wù)提供者這兩大類(lèi)主體。同時(shí)，針對(duì)其他關(guān)鍵參與方，如互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)主體的責(zé)任范疇等，也進(jìn)行明確規(guī)定，基本實(shí)現(xiàn)對(duì)生成合成內(nèi)容上下游主體的全覆蓋。將行為主體作為抓手進(jìn)行識(shí)別和義務(wù)分配，法律的追責(zé)機(jī)制和后果承擔(dān)方得以落實(shí)。此外，《標(biāo)識(shí)辦法》體現(xiàn)出在數(shù)據(jù)內(nèi)容創(chuàng)作與打擊濫用間尋求平衡的考量，也表明在立法思路上對(duì)當(dāng)前蓬勃發(fā)展的人工智能產(chǎn)業(yè)整體上的鼓勵(lì)傾向，可理解為早期確立的平臺(tái)避風(fēng)港原則在新時(shí)代背景下的創(chuàng)新性發(fā)展。
三、《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》的制度意義
從制度構(gòu)建角度審視，《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》的制度化進(jìn)程，本質(zhì)是將人工智能標(biāo)識(shí)產(chǎn)業(yè)實(shí)踐經(jīng)驗(yàn)升維為有約束力的治理范式。依托“立法確認(rèn)-標(biāo)準(zhǔn)轉(zhuǎn)化-產(chǎn)業(yè)傳導(dǎo)”機(jī)制，我國(guó)構(gòu)建起從技術(shù)共識(shí)邁向法律秩序的進(jìn)階之路。這一過(guò)程契合我國(guó)人工智能立法秉持的總體思路，即靈活運(yùn)用既有規(guī)則，鼓勵(lì)行業(yè)產(chǎn)業(yè)先行開(kāi)展試點(diǎn)探索，同時(shí)針對(duì)痛點(diǎn)、難點(diǎn)問(wèn)題精準(zhǔn)發(fā)力，靶向施策，其產(chǎn)生的影響也將輻射至全球人工智能治理的理念層面以及標(biāo)準(zhǔn)實(shí)踐領(lǐng)域。
從規(guī)范協(xié)同角度審視，人工智能標(biāo)識(shí)治理體系呈現(xiàn)“規(guī)則+技術(shù)”雙輪驅(qū)動(dòng)特征，覆蓋從內(nèi)容生產(chǎn)到傳播的全鏈條治理�！稑�(biāo)識(shí)辦法》側(cè)重構(gòu)建“責(zé)任鏈閉環(huán)”，通過(guò)主體資質(zhì)審查、過(guò)程性義務(wù)設(shè)定等形成行為約束。《標(biāo)識(shí)標(biāo)準(zhǔn)》聚焦“技術(shù)錨點(diǎn)”建設(shè)，針對(duì)關(guān)鍵技術(shù)要件確立具備可驗(yàn)證性的實(shí)施基準(zhǔn)。我國(guó)《中華人民共和國(guó)標(biāo)準(zhǔn)化法》規(guī)定，對(duì)保障人身健康和生命財(cái)產(chǎn)安全、國(guó)家安全、生態(tài)環(huán)境安全以及滿(mǎn)足經(jīng)濟(jì)社會(huì)管理基本需要的技術(shù)要求，應(yīng)當(dāng)制定強(qiáng)制性國(guó)家標(biāo)準(zhǔn)。將生成合成內(nèi)容標(biāo)識(shí)的最低要求上升為國(guó)家強(qiáng)制性標(biāo)準(zhǔn)，不僅是對(duì)《標(biāo)識(shí)辦法》的具體落地，更是表明在社會(huì)應(yīng)用全過(guò)程中，人工智能標(biāo)識(shí)及活動(dòng)已與人身健康和生命財(cái)產(chǎn)安全、國(guó)家安全等緊密相連。
從技術(shù)治理效能角度審視，人工智能標(biāo)識(shí)制度并非顛覆人工智能既有的生產(chǎn)環(huán)境，而是致力于在現(xiàn)有生產(chǎn)基礎(chǔ)之上，提升人類(lèi)對(duì)相關(guān)內(nèi)容的辨識(shí)度以及機(jī)械處理的準(zhǔn)確性�！稑�(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》不僅及時(shí)響應(yīng)了將人工智能的“海量、逼真”輸出納入監(jiān)管視野的緊迫需求，標(biāo)準(zhǔn)化且有所區(qū)分的顯式、隱式技術(shù)要求也為權(quán)利記載、算法備案、數(shù)據(jù)溯源、執(zhí)法協(xié)助、安全評(píng)估等工作，提供具有普適性的、可量化度量與評(píng)價(jià)的操作方法及實(shí)用工具，同時(shí)通過(guò)建立“生成即標(biāo)識(shí)”的技術(shù)規(guī)范推動(dòng)產(chǎn)業(yè)內(nèi)生合規(guī)，實(shí)現(xiàn)安全和發(fā)展之間的動(dòng)態(tài)平衡。這一制度體系也切實(shí)回應(yīng)在人機(jī)互動(dòng)、人機(jī)融合的新一輪技術(shù)跨越式發(fā)展中，人類(lèi)對(duì)真實(shí)與虛擬進(jìn)行辨別，從而形成行為、決策依據(jù)的基本需求。
四、《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》的未來(lái)展望
可以預(yù)見(jiàn)，我國(guó)人工智能安全執(zhí)法將延續(xù)重點(diǎn)事項(xiàng)監(jiān)管、促進(jìn)產(chǎn)業(yè)有序發(fā)展的方向。伴隨標(biāo)識(shí)管理與算法備案、安全評(píng)估等機(jī)制逐步實(shí)現(xiàn)有機(jī)銜接，生成合成內(nèi)容標(biāo)識(shí)合規(guī)有望成為相關(guān)部門(mén)開(kāi)展人工智能監(jiān)督檢查、專(zhuān)項(xiàng)行動(dòng)的重點(diǎn)關(guān)注領(lǐng)域。在此進(jìn)程中，一系列深層次問(wèn)題亟待審慎思考與妥善解決——如何平衡發(fā)展與安全、創(chuàng)新與責(zé)任、公益與私益等多元目標(biāo)的內(nèi)在張力，怎樣達(dá)成不同執(zhí)法部門(mén)、不同層級(jí)、不同地域執(zhí)法的一致性、協(xié)調(diào)性，又該通過(guò)何種路徑提升執(zhí)法的專(zhuān)業(yè)化、精細(xì)化、智慧化水平，從而培育出安全、開(kāi)放、公平、符合國(guó)情的人工智能產(chǎn)業(yè)生態(tài)環(huán)境。這些都是標(biāo)識(shí)管理中需要深入探究的重要課題。
此外，“人的因素”應(yīng)融入人工智能標(biāo)識(shí)管理的全過(guò)程，著重提升公眾對(duì)于信息內(nèi)容真實(shí)性、來(lái)源可追溯性的批判性評(píng)估能力，無(wú)疑是重中之重。積極培育公眾人工智能素養(yǎng)，確保人工智能技術(shù)成果普惠共享，這也是應(yīng)有之義。（作者：金波，公安部第三研究所副所長(zhǎng)）
