天天影视网色香欲综合网_大桥久未无码吹潮在线观看_日韩欧美一区二区三区免费看_中文人妻无码一区二区三区

當(dāng)前，識(shí)別AI生成內(nèi)容的技術(shù)手段均未成熟。如何在潛在風(fēng)險(xiǎn)，治理成本、目標(biāo)成效之間取得合理平衡成為關(guān)鍵所在。建議小步試錯(cuò)，探尋科學(xué)的風(fēng)險(xiǎn)管理方案。

內(nèi)容治理邏輯的擴(kuò)展：人類原創(chuàng)還是AI生成？  

對(duì)于AI生成內(nèi)容在未來(lái)全部信息內(nèi)容中所占比例，不同機(jī)構(gòu)的預(yù)測(cè)口徑有所不同，從20%-90%不等[2]。但不容否認(rèn)的是：隨著生成式AI技術(shù)應(yīng)用的普及，AI生成內(nèi)容比例正在逐步攀升。有研究顯示，僅僅從2023到2024的一年間，包含AI生成內(nèi)容的網(wǎng)頁(yè)數(shù)量就激增了2848%[3]。與此同時(shí)，內(nèi)容生產(chǎn)模式的變革也在推動(dòng)著內(nèi)容治理邏輯的悄然變化，從過(guò)去針對(duì)內(nèi)容性質(zhì)——是否違法有害，擴(kuò)展至針對(duì)內(nèi)容來(lái)源——是否為AI生成。    

在AI生成內(nèi)容早期階段，大模型廠商從提升模型透明度，支持權(quán)利保護(hù)等目標(biāo)出發(fā)，嘗試開(kāi)展標(biāo)識(shí)工作。特別在版權(quán)方面，盡管對(duì)AI生成內(nèi)容的可版權(quán)性仍存在較大爭(zhēng)議，但明確其內(nèi)容性質(zhì)來(lái)源，仍然有助于可能的權(quán)利人主張其權(quán)益，激勵(lì)社會(huì)公眾利用新工具進(jìn)行內(nèi)容創(chuàng)作；同時(shí)，也有利于明確模型廠商與使用主體之間的權(quán)責(zé)分界，前者在生成階段有更多管控能力，而后者需對(duì)生成內(nèi)容的后續(xù)傳播利用承擔(dān)更多責(zé)任。

政府、社會(huì)公眾對(duì)標(biāo)識(shí)的推動(dòng)，主要源于AI生成內(nèi)容對(duì)信息傳播秩序的潛在風(fēng)險(xiǎn)。AI生成偽造虛假信息的案例時(shí)有發(fā)生。如合成虛假災(zāi)情、新聞擾亂公共秩序[4]，利用AI換臉合成虛假色情圖片視頻侵犯?jìng)€(gè)人名譽(yù)等等[5]。有害信息，不論是人類生成，還是AI生成，均可以被傳統(tǒng)的內(nèi)容治理所覆蓋，同樣可以采取刪除、屏蔽等措施最大程度消除其影響。然而，推動(dòng)內(nèi)容治理擴(kuò)展更重要的考慮是：生成式AI大幅提升了內(nèi)容生產(chǎn)的效率，多模態(tài)內(nèi)容更豐富、交互更逼真，如果一旦被大規(guī)模應(yīng)用于謠言等虛假內(nèi)容的制造，將可能造成公眾對(duì)于真實(shí)信息的混淆，引發(fā)公眾對(duì)媒體的普遍不信任[6]。盡管到今天，AI生成技術(shù)在新聞媒體等內(nèi)容產(chǎn)業(yè)的應(yīng)用程度并沒(méi)有此前預(yù)想的那么高，也并未看到AI生成內(nèi)容對(duì)媒體傳播秩序的實(shí)際沖擊，但隨著AI的持續(xù)推進(jìn)，這種擔(dān)憂仍然是真實(shí)存在的。

如何把AI生成內(nèi)容區(qū)分出來(lái)？ 

區(qū)分AI生成內(nèi)容首先是一個(gè)技術(shù)問(wèn)題[7]。目前，識(shí)別的技術(shù)路徑主要包括生成內(nèi)容檢測(cè)和來(lái)源數(shù)據(jù)追蹤兩個(gè)方向。前者主要通過(guò)尋找數(shù)字內(nèi)容所包含的生成特征來(lái)確定內(nèi)容是否由AI生成或篡改。后者則是通過(guò)對(duì)數(shù)字內(nèi)容全生命周期的相關(guān)信息（是否由AI生成、修改）的獨(dú)立記錄來(lái)間接反映數(shù)字內(nèi)容的性質(zhì)。然而對(duì)于AI內(nèi)容識(shí)別，目前尚缺乏成熟可靠的技術(shù)方案。

1.內(nèi)容檢測(cè)路徑

內(nèi)容檢測(cè)是最為直觀的解決方案。雖然目前在人類的感官層面，AI生成內(nèi)容與人工創(chuàng)作內(nèi)容已相差無(wú)幾，但是在細(xì)節(jié)層面，仍然存在著可被機(jī)器或者技術(shù)專家所覺(jué)察的特征。

在圖像內(nèi)容中，涉及圖像邊緣、紋理等細(xì)節(jié)的處理時(shí)，AI生成內(nèi)容會(huì)出現(xiàn)像素級(jí)的不一致；涉及比例與對(duì)稱性、光照與陰影等現(xiàn)實(shí)物理特征時(shí)，AI生成內(nèi)容會(huì)出現(xiàn)細(xì)微的錯(cuò)誤；在視頻內(nèi)容中，涉及物體運(yùn)動(dòng)軌跡、光照與陰影的變化時(shí)，AI生成內(nèi)容會(huì)表現(xiàn)出輕微的不自然、缺乏連貫性或物理規(guī)律的異常；同理，在音頻、文本等AI生成信息中也都存在類似微小的區(qū)別。

然而，即使AI生成內(nèi)容在眾多方面與人工內(nèi)容存在差異，成熟的、高效且可靠的合成內(nèi)容檢測(cè)技術(shù)尚不可得。評(píng)估AI生成內(nèi)容檢測(cè)的技術(shù)主要需要考慮以下要素：通用性、可解釋性、效率、魯棒性、計(jì)算成本等。在圖像領(lǐng)域，已經(jīng)出現(xiàn)了利用深度學(xué)習(xí)模型、機(jī)器學(xué)習(xí)模型和統(tǒng)計(jì)模型等多種模型進(jìn)行檢測(cè)的技術(shù)，但是通用性、魯棒性普遍表現(xiàn)不佳。據(jù)報(bào)道，使用不同方法在不同的訓(xùn)練和測(cè)試子集中獲得的準(zhǔn)確率僅為從61%到70%。當(dāng)合成圖像經(jīng)過(guò)后處理（如壓縮和調(diào)整大?。?，檢測(cè)準(zhǔn)確率將會(huì)進(jìn)一步降低，難以在實(shí)踐中可靠運(yùn)作。    

2.數(shù)據(jù)跟蹤路徑  

來(lái)源數(shù)據(jù)跟蹤是對(duì)“內(nèi)容性質(zhì)識(shí)別”的間接解決方案。來(lái)源數(shù)據(jù)跟蹤并不依賴內(nèi)容本身，而是通過(guò)對(duì)于內(nèi)容的變動(dòng)（生成、修改等）進(jìn)行記錄，從側(cè)面反映內(nèi)容的真實(shí)性、完整性。當(dāng)前的來(lái)源數(shù)據(jù)跟蹤方法主要包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。

（1）顯式標(biāo)識(shí) 

顯式標(biāo)識(shí)最大特點(diǎn)是可以直接被人感知，提示告知效果顯著，但其實(shí)踐效果還有待評(píng)估。顯式標(biāo)識(shí)包括內(nèi)容標(biāo)簽和可見(jiàn)水印等。內(nèi)容標(biāo)簽與數(shù)字內(nèi)容分離存在（如在特定場(chǎng)景中的周邊提示），無(wú)法在生成合成內(nèi)容的全生命周期都起到區(qū)分效果；而可見(jiàn)水印僅限于內(nèi)容的一部分，容易被裁剪或移除；當(dāng)可見(jiàn)水印被應(yīng)用在整個(gè)內(nèi)容的大部分區(qū)域，會(huì)降低數(shù)字內(nèi)容的質(zhì)量。

（2）隱式標(biāo)識(shí)  

隱式標(biāo)識(shí)是指在生成合成內(nèi)容或數(shù)據(jù)中添加的，不能被用戶直接感知、但能通過(guò)技術(shù)手段處理的標(biāo)識(shí)。目前主要有數(shù)字水印和元數(shù)據(jù)記錄兩種技術(shù)路徑。

數(shù)字水印是機(jī)器可讀的水印，可通過(guò)對(duì)內(nèi)容進(jìn)行肉眼不可見(jiàn)的擾動(dòng)來(lái)嵌入附加來(lái)源信息?；诒粩_動(dòng)方式的不同，可以分為基于LSB的水印、離散余弦變換(DCT)水印、LLM水印等。但數(shù)字水印的效果同樣存在疑問(wèn)。復(fù)雜算法生成的水印需要大量的計(jì)算資源來(lái)讀取，成本高效率低；簡(jiǎn)單算法生成的水印容易被去除和篡改，安全性不足。    

元數(shù)據(jù)記錄則是另一種方法，通過(guò)將內(nèi)容變動(dòng)生成的元數(shù)據(jù)獨(dú)立儲(chǔ)存在與數(shù)字內(nèi)容相同的文件中，用以提供于其內(nèi)容屬性、來(lái)源等信息?；讵?dú)立儲(chǔ)存的特征，這種方法雖然相較之下效率更高，但也存在明顯缺陷。首先，元數(shù)據(jù)需要長(zhǎng)時(shí)間存儲(chǔ)，還需要投入資源進(jìn)行管理和查詢優(yōu)化，增加了成本；其次，元數(shù)據(jù)原則上可以被任意的添加、修改、抹除，很難保證完整性與真實(shí)性。雖可以通過(guò)數(shù)字指紋或簽名技術(shù)來(lái)提升安全性，但這也會(huì)帶來(lái)額外成本；再次，規(guī)避元數(shù)據(jù)記錄的門(mén)檻較低。用戶可以通過(guò)截圖或外部設(shè)備拍攝等非下載方式繞過(guò)元數(shù)據(jù)記錄。

不論是數(shù)字水印還是元數(shù)據(jù)，隱私標(biāo)識(shí)面臨的最大挑戰(zhàn)是其技術(shù)目標(biāo)的實(shí)現(xiàn)對(duì)治理生態(tài)提出了很高要求。考慮到網(wǎng)絡(luò)傳播鏈路的復(fù)雜性，寫(xiě)入隱式標(biāo)識(shí)，并進(jìn)行讀取、驗(yàn)證，最終對(duì)用戶進(jìn)行提示，完成這一閉環(huán)需要生態(tài)主體的高度協(xié)作，兼顧算法的保密性與跨平臺(tái)的互通識(shí)別。若缺乏成熟的技術(shù)和治理規(guī)范，不僅不能實(shí)現(xiàn)來(lái)源辨別的目的，且可能會(huì)加劇欺騙或混淆的風(fēng)險(xiǎn)。

產(chǎn)業(yè)界對(duì)于AI生成內(nèi)容標(biāo)識(shí)的自發(fā)探索

在全球范圍內(nèi)，人工智能企業(yè)、大型網(wǎng)絡(luò)平臺(tái)基于透明度、可信賴等原則，圍繞AI生成內(nèi)容的標(biāo)識(shí)，已自發(fā)展開(kāi)探索。大模型方面，ChatGPT生成的圖像內(nèi)容使用元數(shù)據(jù)記錄進(jìn)行標(biāo)識(shí)[8]；Meta AI創(chuàng)建或編輯的圖像包含可見(jiàn)水印[9]。國(guó)內(nèi)企業(yè)開(kāi)發(fā)的人工智能系統(tǒng)如元寶、豆包、文小言等都均已其生成的圖像添加顯式標(biāo)識(shí)。互聯(lián)網(wǎng)平臺(tái)方面， Meta規(guī)定用戶需要對(duì)所分享的包含經(jīng)數(shù)字手段（如使用AI）生成或修改的逼真視頻或擬真音頻的內(nèi)容進(jìn)行標(biāo)識(shí)[10]，同時(shí)，Meta也正在進(jìn)行相關(guān)嘗試，如檢測(cè)到的圖像是由平臺(tái)旗下AI生成，將為其添加標(biāo)識(shí)。[11]X對(duì)于利用AI虛構(gòu)或者模擬真實(shí)人物的媒體內(nèi)容，或者通過(guò)AI改變媒體內(nèi)容從而扭曲其含義的媒體內(nèi)容會(huì)添加顯式標(biāo)識(shí)以提供額外的背景信息或者直接刪除該內(nèi)容[12]。國(guó)內(nèi)平臺(tái)如小紅書(shū)、微博等也已上線用戶自主聲明功能[13]。

國(guó)內(nèi)外的探索實(shí)踐，體現(xiàn)了以下共同點(diǎn)：其一、首先選擇在圖像、視頻等最可能產(chǎn)生混淆誤認(rèn)的領(lǐng)域進(jìn)行嘗試，大模型企業(yè)在生成階段對(duì)內(nèi)容進(jìn)行顯性標(biāo)識(shí)；其二、傳播平臺(tái)對(duì)用戶進(jìn)行提示，在用戶分享利用AI生成的逼真內(nèi)容時(shí)主動(dòng)聲明，同時(shí)基于元數(shù)據(jù)等技術(shù)探索標(biāo)識(shí)路徑。此外，國(guó)外更多體現(xiàn)為企業(yè)自發(fā)形成產(chǎn)業(yè)聯(lián)盟，推進(jìn)開(kāi)放的技術(shù)標(biāo)準(zhǔn)的形成[14]。

AI生成內(nèi)容標(biāo)識(shí)：基于動(dòng)態(tài)風(fēng)險(xiǎn)的治理探索  

AI生成內(nèi)容帶來(lái)了與以往完全不同的風(fēng)險(xiǎn)，推動(dòng)著各方嘗試明確AI生成與人類創(chuàng)造的邊界。然而，針對(duì)AI生成內(nèi)容的標(biāo)識(shí)，目前尚未形成成熟的技術(shù)解決方案?？傮w上，出于“防患于未然”的風(fēng)險(xiǎn)預(yù)防思路，標(biāo)識(shí)工作處于一種自發(fā)探索的狀態(tài)。與之對(duì)應(yīng)的，在全球治理規(guī)則層面，目前大多是一些籠統(tǒng)的原則性要求，對(duì)于標(biāo)識(shí)的實(shí)現(xiàn)方式尚無(wú)細(xì)致規(guī)定，從而為實(shí)踐探索留有了較大空間。    

1.在不斷試錯(cuò)驗(yàn)證的過(guò)程中，探尋合理的風(fēng)險(xiǎn)管理方案  

建議采取開(kāi)放推薦的方式，鼓勵(lì)相關(guān)主體積極探索包括內(nèi)容檢測(cè)、數(shù)字水印等在內(nèi)的多種技術(shù)方式。對(duì)于元數(shù)據(jù)的跨主體讀取與驗(yàn)證方式，通過(guò)AB實(shí)驗(yàn)等方式不斷完善，在得到普遍實(shí)踐認(rèn)可的技術(shù)框架之后，再逐步進(jìn)行擴(kuò)展。對(duì)于標(biāo)識(shí)的反刪除反篡改的攻防，更是一個(gè)“魔高一尺，道高一丈”的過(guò)程，需要行業(yè)各主體進(jìn)行協(xié)同應(yīng)對(duì)。此外，公眾對(duì)標(biāo)識(shí)的了解與應(yīng)用痛點(diǎn)，也決定了標(biāo)識(shí)工作將會(huì)在動(dòng)態(tài)中尋求最佳實(shí)踐。

2.基于場(chǎng)景區(qū)分不同主體的治理角色  

對(duì)于AI生成內(nèi)容，AI生成技術(shù)的提供者與部署者具有明確的主體角色差異，需適配不同規(guī)則。例如：歐盟《人工智能法》依據(jù)主體角色的不同，相應(yīng)建立了不同的標(biāo)識(shí)規(guī)范。其第50條2款規(guī)定AI系統(tǒng)的提供者應(yīng)當(dāng)實(shí)現(xiàn)其輸出內(nèi)容可以以機(jī)器可讀的格式標(biāo)記；第4款規(guī)定生成或操縱構(gòu)成深度偽造的圖像、音頻或視頻內(nèi)容的AI系統(tǒng)的部署者應(yīng)當(dāng)披露該內(nèi)容是人為生成或操縱的?？梢?jiàn)，前者更強(qiáng)調(diào)技術(shù)的“開(kāi)發(fā)者”重在提供“機(jī)器可讀”的技術(shù)方案，“部署者”重在對(duì)深度偽造的內(nèi)容“披露”其性質(zhì)。

3.避免大而全，將治理資源聚焦在“真正的風(fēng)險(xiǎn)領(lǐng)域”  

全面標(biāo)識(shí)聽(tīng)起來(lái)“大而美好”，但實(shí)質(zhì)上卻可能有礙于標(biāo)識(shí)目的的實(shí)現(xiàn)，讓真正具有風(fēng)險(xiǎn)的內(nèi)容融入普遍被標(biāo)識(shí)的信息海洋，易使公眾信息過(guò)載，控制風(fēng)險(xiǎn)的作用大打折扣，在此背景下，可考慮限定標(biāo)識(shí)的范圍。

一是在領(lǐng)域上的限定。鑒于AI生成技術(shù)的通用性，在信息傳播領(lǐng)域之外有大量的生成應(yīng)用（如滿足模型訓(xùn)練的數(shù)據(jù)合成、服務(wù)于加工潤(rùn)色目的的AI生成，如地圖、游戲渲染；B端的AI辦公場(chǎng)景等等），在這些內(nèi)容傳播風(fēng)險(xiǎn)較小的領(lǐng)域，標(biāo)識(shí)工作并不具有優(yōu)先緊迫性，或可以通過(guò)負(fù)擔(dān)較小的方式探索；    

二是對(duì)標(biāo)識(shí)內(nèi)容上的限定。將有限資源集中于風(fēng)險(xiǎn)較高的領(lǐng)域。正如我國(guó)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》所采取的思路——“對(duì)于導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。這也反映了當(dāng)前國(guó)內(nèi)外標(biāo)識(shí)實(shí)踐的共識(shí)。正如Meta的內(nèi)容政策：“當(dāng)我們確信部分AI內(nèi)容不會(huì)違反我們的政策時(shí)，我們會(huì)在審核隊(duì)列中刪除這些內(nèi)容。這使得我們的審核資源可以更多的關(guān)注于那些可能違反我們規(guī)則的內(nèi)容?！?/span>

過(guò)度標(biāo)識(shí)的負(fù)外部性已有所浮現(xiàn)。據(jù)報(bào)道，僅通過(guò)圖像編輯軟件的AI功能對(duì)照片進(jìn)行除塵、去斑等微小的操作就會(huì)導(dǎo)致照片上傳到社交平臺(tái)時(shí)被標(biāo)記為“AI生成”[15]。此類標(biāo)識(shí)可能會(huì)引發(fā)“反向混淆”，讓公眾將人工創(chuàng)作內(nèi)容誤認(rèn)為“生成合成內(nèi)容”，對(duì)于知識(shí)產(chǎn)權(quán)、人格權(quán)益保護(hù)乃至公共信任產(chǎn)生不利的影響。為避免過(guò)度標(biāo)識(shí)，還需重點(diǎn)探索“標(biāo)識(shí)的例外規(guī)則”。

4.培養(yǎng)公眾在AI時(shí)代的“信息素養(yǎng)”  

多么完美的識(shí)別規(guī)則，最終也只能起到輔助判斷的作用，無(wú)法替代公眾對(duì)信息內(nèi)容作最后的真?zhèn)闻袛?，個(gè)人永遠(yuǎn)是自己“選擇相信內(nèi)容”的最終把關(guān)人。信息爆炸的時(shí)代，越需提升對(duì)信息真實(shí)與否的敏感度。正如網(wǎng)絡(luò)原住民比他們的上一輩，會(huì)更加謹(jǐn)慎地審視網(wǎng)絡(luò)信息一樣，在AI時(shí)代，人們更要告別“無(wú)圖無(wú)真相”的判斷準(zhǔn)則。以標(biāo)識(shí)規(guī)則為契機(jī)，培養(yǎng)公眾面對(duì)網(wǎng)絡(luò)內(nèi)容的理性判斷，形成AI時(shí)代個(gè)人“信息素養(yǎng)”，是內(nèi)容治理中更為關(guān)鍵的一環(huán)。

關(guān)注多享有數(shù)，持續(xù)為您分享行業(yè)熱點(diǎn)要聞！

四川多享信息技術(shù)有限公司是一家專注于數(shù)字化服務(wù)、系統(tǒng)開(kāi)發(fā)、新媒體營(yíng)銷、農(nóng)村電商的專業(yè)互聯(lián)網(wǎng)公司，公司位于成都高新區(qū)天府二街，成立16年，擁有豐富開(kāi)發(fā)經(jīng)驗(yàn)，至今已助力5000+中小企業(yè)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型升級(jí)。

研發(fā)了B2C商城系統(tǒng)、私域電商系統(tǒng)、分銷商城系統(tǒng)、S2B2b2C供應(yīng)鏈電商系統(tǒng)、小程序商城系統(tǒng)等，支持中臺(tái)云倉(cāng)、供應(yīng)商、自營(yíng)商城、直播、短視頻、分銷、零售商管理、運(yùn)營(yíng)商管理、營(yíng)銷工具、數(shù)據(jù)分析、會(huì)員儲(chǔ)值、積分商城等功能，幫助企業(yè)實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型，助力降本增效，獲取更多收益！