2025年9月1日起，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合多部門發(fā)布的《人工智能生成合成內(nèi)容標識辦法》（以下簡稱《標識辦法》）正式生效，標志著我國內(nèi)容標識制度進入正式落地實施階段。在我國深入實施“人工智能+”行動背景下，探索推進內(nèi)容標識制度實踐，對于提升我國人工智能安全能力水平，加快形成動態(tài)敏捷、多元協(xié)同的人工智能治理格局，保障人工智能健康發(fā)展具有重要意義。

　　一、智能經(jīng)濟加速，安全護航更顯重要緊迫

　　近日，國務(wù)院《關(guān)于深入實施“人工智能+”行動的意見》明確提出“推動人工智能與經(jīng)濟社會各行業(yè)各領(lǐng)域廣泛深度融合”，將“人工智能+”升級為國家戰(zhàn)略行動，全面激發(fā)產(chǎn)業(yè)變革新動能、培育智能經(jīng)濟新范式。在此背景下，傳統(tǒng)信息內(nèi)容風險可能體現(xiàn)出新特性、新形式、新問題。一是內(nèi)容生成質(zhì)量提升，加大辨別難度。相較于以往，大模型通過海量多模態(tài)數(shù)據(jù)訓練，可生成高度逼真的多模態(tài)信息內(nèi)容，例如復刻權(quán)威媒體的行文范式、模擬特定人物的形象風格，導致大量用戶誤信。二是人工智能跨界融合，擴大風險范圍。伴隨人工智能加速應(yīng)用于醫(yī)療、商業(yè)、金融等領(lǐng)域，虛假信息風險可能導致醫(yī)療誤診、虛假宣傳、市場波動等問題。以智能終端為例，虛假信息生成呈現(xiàn)即時交互、多感官觸達等特征，可能助長虛假誘導性消費購物行為等。三是內(nèi)容傳播路徑多樣，源頭溯源困難。人工智能生成內(nèi)容呈現(xiàn)去中心化、跨平臺化和跨境傳播特征，信息源頭隱匿化，追溯難度顯著增加。同時，人工智能生成內(nèi)容易于被批量篡改和重組，進一步加劇溯源困境。當前，AI內(nèi)容識別溯源已從技術(shù)問題升級為系統(tǒng)性治理難題，亟需通過內(nèi)容標識制度構(gòu)建“可識別、可追溯、可問責”的安全防線，為智能經(jīng)濟高質(zhì)量發(fā)展筑牢根基。

　　二、明確標識要求，筑牢AI“技治+法治”防線

　　為有效化解生成合成內(nèi)容難識別難溯源困境，《標識辦法》從標識義務(wù)、標識主體、監(jiān)管協(xié)調(diào)等方面明確內(nèi)容標識制度要求，構(gòu)建人工智能生成合成風險“技治+法治”雙重防線。

　　一是提出顯式隱式雙標識義務(wù)，細化不同內(nèi)容標識要求。《標識辦法》和相關(guān)標準根據(jù)內(nèi)容類型與風險等級，構(gòu)建了顯式與隱式雙重標識要求，為AI標識提供基本框架：一方面，針對可能導致公眾混淆或者誤認的內(nèi)容，要求添加顯式標識，并根據(jù)文本、音頻、圖片、視頻等不同的服務(wù)場景明確標識位置、樣式、區(qū)域和大小等具體要求，既實現(xiàn)對用戶的提示警示效果，又盡量保障用戶良好體驗。另一方面，要求服務(wù)提供者在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標識，嵌入生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼等信息，為內(nèi)容溯源與責任認定提供技術(shù)保障。

　　二是打通全鏈條治理路徑，科學設(shè)定主體責任義務(wù)?！稑俗R辦法》的內(nèi)容標識要求覆蓋設(shè)計開發(fā)、上架分發(fā)、用戶使用、內(nèi)容傳播和責任追溯等全鏈條，依據(jù)生成合成內(nèi)容服務(wù)提供者、內(nèi)容傳播服務(wù)提供者、互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺、用戶等不同主體在潛在風險構(gòu)成中的作用和合規(guī)能力，科學劃分責任義務(wù)，實現(xiàn)生成合成內(nèi)容上下游鏈條的全覆蓋。例如，今日頭條、快手、小紅書、嗶哩嗶哩、喜馬拉雅等制作平臺、傳播平臺均發(fā)布公告，創(chuàng)新探索內(nèi)容標識制度落地方案，落實雙標識、標識檢測等義務(wù)，并提供“作者聲明”等功能，激勵人工智能向善應(yīng)用，保障正常合規(guī)使用AI工具。這既體現(xiàn)了對技術(shù)創(chuàng)新的包容和鼓勵，又彰顯了對潛在風險的高度警惕和有效防范。

　　三是銜接現(xiàn)有法律法規(guī)體系，推進多部門監(jiān)管統(tǒng)籌協(xié)調(diào)。作為人工智能治理的重要一環(huán)，《標識辦法》既與《網(wǎng)絡(luò)安全法》一脈相承，又與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等有效銜接，在總則部分就明確指出其與現(xiàn)有法律、行政法規(guī)和部門規(guī)章的緊密聯(lián)系，并在“服務(wù)提供者”等關(guān)鍵概念上沿襲已有規(guī)定。與此同時，《標識辦法》明確相關(guān)主管部門管理職責，強化標識管理與算法備案、安全評估等制度的銜接協(xié)調(diào)。例如《標識辦法》規(guī)定，服務(wù)提供者在履行算法備案、安全評估等手續(xù)時，應(yīng)當按照本辦法提供生成合成內(nèi)容標識相關(guān)材料，并加強標識信息共享。

　　三、堅持系統(tǒng)觀念，加快內(nèi)容標識制度落實落細

　　總體來看，《標識辦法》構(gòu)建的標識制度打破了生成合成內(nèi)容帶來的信任赤字，形成生成即標識、傳播必核驗的閉環(huán)管理，為全球人工智能治理貢獻了重要的中國智慧。未來，在實施中要依據(jù)實踐，為規(guī)則填補細節(jié)，為技術(shù)注入倫理，共同推動全體人民共享人工智能發(fā)展成果。

　　一是內(nèi)容標識是踐行以技治技的先行探索，堅持分類施策逐步全面覆蓋。“以技治技”是應(yīng)對AI技術(shù)濫用風險的重要理念。作為“以技治技”的關(guān)鍵實踐，內(nèi)容標識通過為AI生成內(nèi)容打標，化解“人工智能+”應(yīng)用中難識別、難追溯等問題，維護用戶合法權(quán)益和社會公共利益。然而，標識制度的細化落地受到技術(shù)成熟度、產(chǎn)業(yè)差異、場景復雜性等多重因素影響，細化落地并非簡單的技術(shù)疊加，而是技術(shù)、產(chǎn)業(yè)、監(jiān)管、標準多維度協(xié)同的系統(tǒng)工程，需在技術(shù)上分階段覆蓋、在主體上分層次引導、在場景上分類型施策，循序漸進激發(fā)和實現(xiàn)內(nèi)容標識的制度價值。

　　二是內(nèi)容標識是優(yōu)化行業(yè)生態(tài)的共同需求，推動多方協(xié)同加快普及適用。用戶信任是釋放AI內(nèi)容價值的基礎(chǔ)，若用戶對信息內(nèi)容真?zhèn)坞y辨、風險未知，則會本能抵制，制約技術(shù)應(yīng)用創(chuàng)新發(fā)展。內(nèi)容標識制度試圖通過“透明化”重建用戶信任，有效追溯違法違規(guī)責任主體，推動釋放技術(shù)對實體經(jīng)濟的賦能價值。在落地實踐中，部分頭部企業(yè)已在內(nèi)容標識策略、多模態(tài)鑒偽技術(shù)等方面積極探索，形成行業(yè)最佳實踐。推動內(nèi)容標識的普及適用，需要全行業(yè)強化協(xié)同，建立跨平臺協(xié)同機制，著力推動技術(shù)標準統(tǒng)一、安全能力普惠，共同推動標識制度全面落地。

　　三是內(nèi)容標識是推進國際合作的重要方向，構(gòu)筑標準引領(lǐng)增強國際互信。當前，人形機器人、智能體等AI應(yīng)用快速發(fā)展，進一步加速人工智能全球風險傳播速度、加劇責任跨境追溯難度。內(nèi)容標識作為技術(shù)規(guī)制的“通用語言”，可成為彌合各國監(jiān)管差異、推進國際合作的有效抓手。為配合《標識辦法》有效落地，我國先后發(fā)布《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標識方法》及7項標準實踐指南，推動內(nèi)容標識制度的工程化、技術(shù)化、標準化。未來，系列標準將在實踐中積累形成“內(nèi)容標識工具包”，成為可推廣可復制的國際公共產(chǎn)品，推動安全可信AI惠及更多國家和人民。

　　作者：李強治　中國信息通信研究院政策與經(jīng)濟研究所副所長