聯(lián)系電話：0915-3356512
投稿郵箱：news@akxw.cn
聯(lián)系電話：0915-3356512 投稿郵箱：news@akxw.cn人工智能技術(shù)掀起的浪潮方興未艾，新技術(shù)給人類帶來了前所未有的生產(chǎn)力和體驗(yàn)的提升。我國重點(diǎn)關(guān)注人工智能領(lǐng)域，迄今已備案生成式人工智能產(chǎn)品300余款，生成合成服務(wù)3000余個(gè)，有力推動(dòng)了人工智能行業(yè)的快速發(fā)展。與此同時(shí)，人工智能技術(shù)帶來的虛假信息、技術(shù)濫用風(fēng)險(xiǎn)逐漸顯露，給網(wǎng)絡(luò)生態(tài)安全帶來了新的風(fēng)險(xiǎn)挑戰(zhàn)，各國陸續(xù)推出或完善法案加以應(yīng)對(duì)�！度斯ぶ悄苌珊铣蓛�(nèi)容標(biāo)識(shí)辦法》（以下簡稱《標(biāo)識(shí)辦法》）及其配套國家強(qiáng)制性標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》（以下簡稱《標(biāo)識(shí)標(biāo)準(zhǔn)》），是對(duì)我國人工智能算法治理體系的進(jìn)一步完善�！稑�(biāo)識(shí)辦法》是對(duì)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理暫行辦法》的繼承和延伸，從人工智能技術(shù)特性出發(fā)，在生成合成標(biāo)識(shí)這一人工智能安全治理關(guān)鍵上提出了針對(duì)性的管理思路，將成為我國建立健全人工智能新技術(shù)安全體系的重要推動(dòng)力。《標(biāo)識(shí)標(biāo)準(zhǔn)》作為《標(biāo)識(shí)辦法》的補(bǔ)充，明確了生成合成內(nèi)容標(biāo)識(shí)應(yīng)當(dāng)遵循的技術(shù)方法，為產(chǎn)業(yè)落地提供了參考依據(jù)。
一、銜接技術(shù)安全法規(guī)，擴(kuò)展治理覆蓋范疇
《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等規(guī)章對(duì)生成合成類算法的標(biāo)識(shí)做出了明確要求�！痘ヂ�(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》中要求“發(fā)現(xiàn)未作顯著標(biāo)識(shí)的算法生成合成信息的，應(yīng)當(dāng)作出顯著標(biāo)識(shí)后，方可繼續(xù)傳輸”。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》在此基礎(chǔ)上，進(jìn)一步對(duì)標(biāo)識(shí)的種類進(jìn)行細(xì)分，要求“可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)”，同時(shí)要求“深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí)”�！渡墒饺斯ぶ悄芊⻊�(wù)管理暫行辦法》中要求“提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)”。
《標(biāo)識(shí)辦法》重點(diǎn)關(guān)注人工智能生成合成內(nèi)容傳播環(huán)節(jié)的安全治理，有效銜接已有的備案評(píng)估、風(fēng)險(xiǎn)防范等管理措施，逐步完善面向人工智能全生命流程管理的新技術(shù)安全體系：一是明確了文本、圖像、音頻、視頻等多模態(tài)的標(biāo)識(shí)要求，將安全治理深入到內(nèi)容模態(tài)層面；二是創(chuàng)新性地將傳播平臺(tái)納入監(jiān)管范疇，實(shí)現(xiàn)從生成到傳播的全鏈條治理；三是明確了隱式標(biāo)識(shí)的技術(shù)實(shí)現(xiàn)方式，通過元數(shù)據(jù)標(biāo)識(shí)為安全追溯提供了可靠保障。
二、適應(yīng)生成合成特性，提煉務(wù)實(shí)科學(xué)方法
人工智能生成合成技術(shù)發(fā)展已覆蓋各個(gè)模態(tài)，生成合成內(nèi)容滲透至互聯(lián)網(wǎng)領(lǐng)域信息傳播的各個(gè)環(huán)節(jié)，如何在當(dāng)前互聯(lián)網(wǎng)絡(luò)環(huán)境下精準(zhǔn)高效地對(duì)生成合成內(nèi)容進(jìn)行標(biāo)識(shí)成為關(guān)鍵核心問題。要解決這一問題，一方面需要管理措施及方法落實(shí)得當(dāng)，有效督促人工智能生成合成服務(wù)提供者及傳播平臺(tái)落實(shí)企業(yè)責(zé)任；另一方面，人工智能生成合成內(nèi)容標(biāo)識(shí)方法要符合技術(shù)發(fā)展規(guī)律，體現(xiàn)技術(shù)管理手段的科學(xué)性、可用性及高效性。
為促進(jìn)《標(biāo)識(shí)辦法》的實(shí)施落地，《標(biāo)識(shí)標(biāo)準(zhǔn)》中對(duì)照《標(biāo)識(shí)辦法》內(nèi)容，對(duì)標(biāo)識(shí)的方式方法進(jìn)行了技術(shù)性闡述，對(duì)重點(diǎn)環(huán)節(jié)及關(guān)鍵要素進(jìn)行了精細(xì)提煉，以科學(xué)性、技術(shù)性視角對(duì)管理要求進(jìn)行更為落地的細(xì)化：一是《標(biāo)識(shí)標(biāo)準(zhǔn)》中明確了每個(gè)模態(tài)生成合成內(nèi)容顯式標(biāo)識(shí)的位置、樣式、區(qū)域和大小的要求，同時(shí)結(jié)合各模態(tài)的特點(diǎn)，如針對(duì)視頻模態(tài)，要求“在視頻起始畫面和視頻播放周邊的適當(dāng)位置”，針對(duì)音頻模態(tài)，要求“應(yīng)采用語音標(biāo)識(shí)或音頻節(jié)奏標(biāo)識(shí)”，在企業(yè)責(zé)任落實(shí)的同時(shí)減少對(duì)于用戶瀏覽相關(guān)內(nèi)容的干擾；二是明確了元數(shù)據(jù)隱式標(biāo)識(shí)的字段要素，在盡量不影響元數(shù)據(jù)處理和傳輸?shù)那疤嵯拢度氡匾侄�，記錄生成合成�?nèi)容的關(guān)鍵信息和關(guān)鍵環(huán)節(jié)，為互聯(lián)網(wǎng)生成合成內(nèi)容的可追溯性提供保障；三是提供了豐富的標(biāo)識(shí)示例，給出了多個(gè)模態(tài)規(guī)范性標(biāo)識(shí)方法，便于人工智能生成合成服務(wù)提供者及傳播平臺(tái)技術(shù)人員進(jìn)行標(biāo)識(shí)的技術(shù)實(shí)踐落地，充分體現(xiàn)了《標(biāo)識(shí)標(biāo)準(zhǔn)》的科學(xué)性。在《標(biāo)識(shí)標(biāo)準(zhǔn)》的指引下，積極探索切實(shí)可行的標(biāo)識(shí)實(shí)施路徑，逐步構(gòu)建支撐生成合成內(nèi)容有序傳播與安全治理的技術(shù)能力，不斷豐富人工智能技術(shù)管理體系。
三、體現(xiàn)柔性管理思路，筑牢安全應(yīng)用基礎(chǔ)
《標(biāo)識(shí)辦法》的制定和出臺(tái)，是我國推進(jìn)人工智能領(lǐng)域安全治理、促進(jìn)產(chǎn)業(yè)規(guī)范健康發(fā)展、引導(dǎo)技術(shù)向善的重要舉措�！稑�(biāo)識(shí)辦法》充分彰顯了監(jiān)管理念的與時(shí)俱進(jìn)，從傳統(tǒng)的嚴(yán)格監(jiān)管轉(zhuǎn)向更加靈活的引導(dǎo)與規(guī)范，既尊重了技術(shù)創(chuàng)新的內(nèi)在規(guī)律，又體現(xiàn)對(duì)潛在風(fēng)險(xiǎn)的有效防范。通過清晰、透明的內(nèi)容標(biāo)識(shí)，用戶能夠清楚識(shí)別人工智能生成的內(nèi)容，一方面提高了信息透明度，增強(qiáng)了用戶的知情權(quán)和選擇權(quán)，另一方面也有助于培養(yǎng)公眾對(duì)人工智能技術(shù)的理性認(rèn)知，防止因誤解或過度依賴人工智能而產(chǎn)生的負(fù)面影響。對(duì)于人工智能生成合成服務(wù)提供者及傳播平臺(tái)，內(nèi)容標(biāo)識(shí)制度既是責(zé)任，更是機(jī)遇，在鼓勵(lì)企業(yè)追求技術(shù)能力提升的同時(shí)，推動(dòng)企業(yè)提升對(duì)產(chǎn)品社會(huì)影響的關(guān)注度，主動(dòng)承擔(dān)起人工智能負(fù)責(zé)任發(fā)展的重任，這不僅有利于贏得用戶信任，也能推動(dòng)整個(gè)行業(yè)向更加規(guī)范、健康的方向發(fā)展。從長遠(yuǎn)來看，標(biāo)識(shí)管理為構(gòu)建人工智能治理體系提供了重要抓手，指引了未來人工智能安全治理的思路，也為后續(xù)更精細(xì)化、智能化的管理奠定了基礎(chǔ)，有助于在保護(hù)創(chuàng)新活力與維護(hù)公共利益之間找到平衡點(diǎn)。
《標(biāo)識(shí)辦法》為國際人工智能治理貢獻(xiàn)了中國方案，展現(xiàn)了我國在全球人工智能發(fā)展中的責(zé)任與擔(dān)當(dāng)。《標(biāo)識(shí)辦法》既是對(duì)當(dāng)前人工智能快速發(fā)展趨勢(shì)的積極回應(yīng)，也是對(duì)未來人工智能應(yīng)用場景的安全保障。它通過構(gòu)建信任、明確責(zé)任、保護(hù)權(quán)益等多重機(jī)制，體現(xiàn)了我國“以人為本、智能向善”的積極理念，為打造可審核、可監(jiān)督、可追溯、可信賴的人工智能技術(shù)鋪設(shè)了一條安全、可信、可持續(xù)的道路，助力技術(shù)創(chuàng)新與社會(huì)價(jià)值和諧共生，促進(jìn)人工智能技術(shù)和數(shù)字經(jīng)濟(jì)的蓬勃發(fā)展。（作者：張震，國家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心正高級(jí)工程師）
