作者：中國信息通信研究院人工智能研究所所長 魏凱
隨著生成式人工智能技術(shù)快速發(fā)展，利用人工智能技術(shù)生成或合成文字、圖像、音樂、視頻、3D等數(shù)字內(nèi)容成為網(wǎng)絡(luò)空間內(nèi)容的主要生產(chǎn)方式，不斷為數(shù)字經(jīng)濟(jì)、產(chǎn)業(yè)發(fā)展甚至社會變革注入強(qiáng)大動力。然而，伴隨內(nèi)容生成合成門檻的不斷降低，新技術(shù)的濫用也對網(wǎng)絡(luò)空間治理提出了更大挑戰(zhàn)。當(dāng)前，中美歐等均探索將內(nèi)容披露和標(biāo)識義務(wù)入法，國內(nèi)外多家互聯(lián)網(wǎng)公司也逐步推進(jìn)標(biāo)識嵌入和管理舉措，內(nèi)容標(biāo)識已然成為全球打擊虛假有害信息的通行做法。為順應(yīng)這一實踐趨勢和產(chǎn)業(yè)需求，國家互聯(lián)網(wǎng)信息辦公室等部門適時發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》（下稱《辦法》）及配套國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》（下稱《標(biāo)識方法》），全方位、多層次地規(guī)范人工智能內(nèi)容標(biāo)識要求和方法，邁出了完善我國人工智能治理制度的重要一步。
一、問題導(dǎo)向，破解人工智能生成合成內(nèi)容新需求新風(fēng)險
立足于生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，《辦法》以問題為導(dǎo)向，通過系統(tǒng)性、創(chuàng)新性制度設(shè)計，全面回應(yīng)了對人工智能生成合成內(nèi)容標(biāo)識的要求。
一是先行提出生成合成內(nèi)容標(biāo)識的中國方案。針對人工智能內(nèi)容生成合成帶來的顛覆性風(fēng)險挑戰(zhàn)，國際層面也在不斷探索內(nèi)容標(biāo)識方法和路徑。歐盟2024年8月正式生效的《人工智能法案》規(guī)定了要確保人工智能生成合成內(nèi)容的透明度義務(wù)，要求平臺添加強(qiáng)制性水印。美國加州2024年8月發(fā)布《數(shù)字內(nèi)容溯源標(biāo)識法案》，要求在人工智能生成物中嵌入可溯源數(shù)據(jù)，以確保內(nèi)容來源的透明度。國際電信聯(lián)盟2024年7月發(fā)布《檢測深度偽造和生成式人工智能：人工智能水印和多媒體真實性標(biāo)準(zhǔn)研討會的報告》，包括內(nèi)容標(biāo)識在內(nèi)，初步探討了深度合成內(nèi)容檢測的標(biāo)準(zhǔn)協(xié)作安排�！掇k法》根植于我國發(fā)展實踐，立足長遠(yuǎn)、著眼前瞻、行動快速，率先通過標(biāo)準(zhǔn)完善補(bǔ)充生成式人工智能綜合治理機(jī)制，有力支撐了科技向善的治理理念，為世界貢獻(xiàn)發(fā)展與安全并行的人工智能治理中國方案。
二是著力加強(qiáng)服務(wù)商生成合成內(nèi)容標(biāo)識的規(guī)范性。隨著人工智能生成合成內(nèi)容工具的普及化和可及化發(fā)展，技術(shù)應(yīng)用的門檻較之前大大降低。早在2022年中央網(wǎng)信辦等就發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》），明確指出深度合成服務(wù)提供者應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識，向公眾提示深度合成情況。但《規(guī)定》主要明確了需要添加標(biāo)識的情況，對于添加標(biāo)識的位置、字型和表達(dá)并未做出具體要求，因此各類企業(yè)在實施過程中出現(xiàn)了文本內(nèi)容顯式標(biāo)識不明顯、難察覺，音頻、視頻等內(nèi)容顯式標(biāo)識未插入、淺提示，隱式標(biāo)識少信息、難校驗等問題，對于落實監(jiān)管提出了挑戰(zhàn)。出臺《辦法》，是進(jìn)一步推進(jìn)生成合成內(nèi)容標(biāo)識工作的必要舉措，對規(guī)范互聯(lián)網(wǎng)信息服務(wù)深度合成管理、解決生成合成內(nèi)容標(biāo)識突出問題、推進(jìn)信息網(wǎng)絡(luò)生態(tài)環(huán)境治理意義重大，影響深遠(yuǎn)。
三是進(jìn)一步完善生成式人工智能監(jiān)管問責(zé)體系。生成式人工智能生成合成內(nèi)容涉及多種類型的主體，清晰界定各主體義務(wù)更有利于壓實主體責(zé)任，便利技術(shù)檢測實施，進(jìn)而落實精準(zhǔn)問責(zé)。《辦法》不僅界定了人工智能生成合成內(nèi)容的基本概念，更針對服務(wù)提供者、傳播平臺、應(yīng)用服務(wù)分發(fā)平臺和用戶分別規(guī)定了具體標(biāo)識要求，為各相關(guān)主體落實合規(guī)指明了方向。由此，《辦法》就現(xiàn)行責(zé)任制度作出補(bǔ)充，充分細(xì)化了《規(guī)定》提出的深度合成服務(wù)提供者和技術(shù)支持者行為規(guī)范，為促進(jìn)新技術(shù)新應(yīng)用的規(guī)范發(fā)展提供了有益范例。
二、明確要求，促進(jìn)人工智能生成合成內(nèi)容精細(xì)化治理
人工智能生成合成內(nèi)容不僅包括文本、圖像、音頻、視頻等多種表現(xiàn)形式，更在“元宇宙”等交互式、沉浸式場景中提供了更多實現(xiàn)方案�！稑�(biāo)識方法》對于人工智能生成合成內(nèi)容進(jìn)行了全方位覆蓋，并且進(jìn)一步明確了《辦法》要求和具體操作指引。
一是區(qū)分顯式標(biāo)識和隱式標(biāo)識規(guī)范要求。為滿足當(dāng)前可感知和不可感知的兩類標(biāo)識方法需要，《標(biāo)識方法》清晰闡述了各自的關(guān)鍵要素要求，對于顯式標(biāo)識主要圍繞文字要素、位置、字型、顏色、音頻節(jié)奏、視頻像素和交互提示等提出要求，對于元數(shù)據(jù)和內(nèi)容隱式標(biāo)識提出生成合成標(biāo)簽要素、服務(wù)提供者要素和內(nèi)容編號要素等關(guān)鍵指引。
二是列舉顯式標(biāo)識典型應(yīng)用場景。《標(biāo)識方法》通過列舉式的方式對于顯式標(biāo)識的應(yīng)用場景做出了進(jìn)一步細(xì)化，在《規(guī)定》中提到的五類顯著標(biāo)識應(yīng)用場景之外加以補(bǔ)充，包括文生圖片等圖片內(nèi)容生成服務(wù)；音樂等音頻內(nèi)容生成服務(wù)；文生視頻、圖生視頻等視頻內(nèi)容生成服務(wù)。新列舉的三類典型應(yīng)用場景屬于2022年后迅速發(fā)展起來新型生成合成內(nèi)容形式，尤其是ChatGPT、Sora展示出視頻內(nèi)容生成的強(qiáng)大潛能�！稑�(biāo)識方法》囊括此三類典型應(yīng)用場景有利于針對性、前瞻性開展監(jiān)管，符合生成式人工智能的技術(shù)原理與產(chǎn)業(yè)需要。
三是規(guī)范元數(shù)據(jù)隱式標(biāo)識格式要求。此前生成合成內(nèi)容隱式標(biāo)識方法在不同規(guī)模、不同技術(shù)水平的企業(yè)間應(yīng)用各不相同，標(biāo)識的標(biāo)簽信息也未有一致，這就導(dǎo)致識別隱式標(biāo)識對于監(jiān)管主體和內(nèi)容平臺而言面臨挑戰(zhàn)。《標(biāo)識方法》為解決這一問題，對于隱式標(biāo)識擴(kuò)展字段關(guān)鍵詞和應(yīng)包括的標(biāo)簽、編號、預(yù)留字段的值等添加了具體說明，為行業(yè)統(tǒng)一、穩(wěn)定、持續(xù)落實隱式標(biāo)識要求提供了有效措施。
四是展示顯式和隱式標(biāo)識各要求對應(yīng)示例。《標(biāo)識方法》以圖片示例的形式對于各類顯式和隱式標(biāo)識要求進(jìn)行了展示，有助于企業(yè)直觀了解標(biāo)準(zhǔn)要求，避免因文字表述引發(fā)的模糊和歧義，從而推動行業(yè)協(xié)同落實，提升治理效能。
三、守正創(chuàng)新，兼顧內(nèi)容生成合成服務(wù)管理與技術(shù)創(chuàng)新應(yīng)用
人工智能生成合成技術(shù)應(yīng)在安全的前提下規(guī)范使用、加速發(fā)展，以高水平的治理保障高質(zhì)量發(fā)展�！掇k法》及《標(biāo)識方法》充分考慮“用”和“管”兩側(cè)需求，最大限度減少內(nèi)容標(biāo)識對于用戶使用的影響，推動企業(yè)自主自愿展示標(biāo)識。一是提供多種標(biāo)識方法，適應(yīng)更多產(chǎn)品形態(tài)。《標(biāo)識方法》對于文本內(nèi)容顯式標(biāo)識創(chuàng)新提出角標(biāo)形式，僅需在內(nèi)容末尾加注角標(biāo)“AI”即可高效滿足要求，對于音頻內(nèi)容則首次提出音頻節(jié)奏標(biāo)識，在音頻適當(dāng)位置加入“短長短短”節(jié)奏的摩斯碼表示即可達(dá)到提示作用。此類標(biāo)識方法不僅對于企業(yè)而言便于打造不同產(chǎn)品樣態(tài)，也能保障用戶使用體驗和認(rèn)知效果，在實現(xiàn)監(jiān)管目的的同時也為技術(shù)發(fā)展提供了有效保障。二是劃分不同主體責(zé)任，精細(xì)化避風(fēng)港原則適用。《辦法》雖然將標(biāo)識添加的責(zé)任主要施加于服務(wù)提供者和上傳內(nèi)容的用戶，但未對傳播平臺和應(yīng)用分發(fā)平臺實施“一刀切”式的避風(fēng)港規(guī)則�！掇k法》采取一種更為精細(xì)化的路徑，詳細(xì)規(guī)定傳播平臺應(yīng)當(dāng)對文件元數(shù)據(jù)中的擴(kuò)展字段進(jìn)行核驗，提示用戶生成合成內(nèi)容信息，并在文件元數(shù)據(jù)中添加傳播要素信息；應(yīng)用服務(wù)分發(fā)平臺應(yīng)在應(yīng)用程序上架或上線審核前核驗服務(wù)提供者是否按要求提供生成合成內(nèi)容標(biāo)識功能。此舉有助于適當(dāng)調(diào)整服務(wù)提供者、使用者和傳播分發(fā)平臺的義務(wù)分配，避免相關(guān)平臺“隱身”于深度合成監(jiān)管體系，從而真正實現(xiàn)齊抓共管、協(xié)同共治的治理機(jī)制，有效維護(hù)健康向善的信息網(wǎng)絡(luò)生態(tài)環(huán)境。
