封面新聞記者 羅石芊 邊雪

“0幀起手”。在經(jīng)過AI（人工智能）“二創(chuàng)”之后，《甄嬛傳》變成槍戰(zhàn)片，《西游記》中唐僧和女兒國國王擁抱親吻，《紅樓夢》劇情變武打戲，《三國演義》里諸葛亮戴上墨鏡指點沙場……

2024年，被廣泛認(rèn)為是“AI視頻元年”。隨著AI視頻生成技術(shù)的不斷成熟，在各大短視頻平臺上，使用AI生成創(chuàng)作的各類短視頻變得火熱，部分畫面可以做到以假亂真，特別是下半年以來，對于經(jīng)典影視作品的二次創(chuàng)作開始“爆發(fā)”。通過AI技術(shù)對經(jīng)典IP作品進(jìn)行“魔改”，是一種創(chuàng)新還是對原著的褻瀆？引發(fā)了網(wǎng)友的廣泛討論。

通過AI進(jìn)行“移花接木”的現(xiàn)象也時有發(fā)生。近段時間，知名傳染病學(xué)專家張文宏的容貌和聲音被商家通過“AI換臉”移花接木，在網(wǎng)絡(luò)上帶貨，有不少老年人掉入“陷阱”。

12月7日，國家廣播電視總局網(wǎng)絡(luò)視聽司發(fā)布《管理提示（ AI魔改）》，指出近期AI“魔改”視頻以假亂真、“魔改”經(jīng)典現(xiàn)象頻發(fā)，要求短視頻平臺進(jìn)行排查清理。

AI“魔改”視頻興起，帶來了哪些新的問題？創(chuàng)作者對影視作品進(jìn)行“二創(chuàng)”是否面臨法律風(fēng)險？AI技術(shù)進(jìn)步的背后是否存在“邊界”？封面新聞記者對這一現(xiàn)象進(jìn)行了調(diào)查，并邀請了業(yè)內(nèi)相關(guān)專家和律師，請他們進(jìn)行解讀。

AI“魔改”經(jīng)典影視劇

廣電總局出手管控

近段時間，在短視頻平臺上，一些AI生成的視頻吸引了不少網(wǎng)友關(guān)注。其中，一些經(jīng)典影視作品的畫面，在經(jīng)過AI二次創(chuàng)作“魔改”后，得到了大量點贊。

被“魔改”的影視作品中，四大名著和《甄嬛傳》中的視頻畫面較多。例如，《西游記》里，唐僧與女兒國國王“終成眷屬”，擁抱親吻，大師兄孫悟空騎著摩托車揚(yáng)長而去；《三國演義》中，羽扇綸巾的諸葛亮戴上了墨鏡指點沙場；《紅樓夢》里，黛玉、寶玉話不投機(jī)就大打出手，黛玉還能徒手倒拔垂楊柳；熱門影視劇《甄嬛傳》中，甄嬛更是一言不合就舉槍……

這些視頻，通過AI工具對原有視頻內(nèi)容進(jìn)行了重新剪輯、配音，改變劇情走向，讓觀眾覺得十分新鮮好玩，瀏覽量、點贊量、轉(zhuǎn)發(fā)量頗高，有網(wǎng)友表示“這才是原版”。但同時，也有網(wǎng)友擔(dān)憂，這樣的“魔改”劇情，會對大眾認(rèn)知造成沖擊，認(rèn)為經(jīng)典不應(yīng)該被胡亂改編。

12月7日，國家廣播電視總局網(wǎng)絡(luò)視聽司發(fā)布《管理提示（AI魔改）》，指出近期AI“魔改”視頻以假亂真、“魔改”經(jīng)典現(xiàn)象頻發(fā)。這些AI“魔改”經(jīng)典包括《甄嬛傳》變身“槍戰(zhàn)片”，《紅樓夢》改成“武打戲”，孫悟空騎著摩托車揚(yáng)長而去等。這些視頻為博流量，毫無邊界褻瀆經(jīng)典IP，沖擊傳統(tǒng)文化認(rèn)知，與原著精神內(nèi)核相悖，且涉嫌構(gòu)成侵權(quán)行為。

《管理提示》要求，各相關(guān)省局督促轄區(qū)內(nèi)短視頻平臺排查清理AI“魔改”影視劇的短視頻，并嚴(yán)格落實生成式人工智能內(nèi)容審核要求，舉一反三，對各自平臺開發(fā)的大模型或AI特效功能等進(jìn)行自查，對在平臺上使用、傳播的各類相關(guān)技術(shù)產(chǎn)品嚴(yán)格準(zhǔn)入和監(jiān)督，對AI生成內(nèi)容做出顯著提示。

AI視頻加速發(fā)展

換臉配音等以假亂真

2023年，AI開始“爆發(fā)”。2024年，AI不斷創(chuàng)新突破，技術(shù)出現(xiàn)了巨大進(jìn)步，新業(yè)態(tài)持續(xù)涌現(xiàn)，在視頻生成大模型方面表現(xiàn)得尤為明顯。今年2月，OpenAI發(fā)布文生視頻模型SORA，AI視頻在分辨率、畫面真實度、時序一致性等方面有了顯著提升，給人強(qiáng)烈震撼。

一石激起千層浪，國內(nèi)外多家技術(shù)公司開始布局AI視頻。今年，我國的即夢、可靈、海螺等AI平臺不斷推出新的視頻生成技術(shù)，表現(xiàn)亮眼，其效果已經(jīng)超越近期才對外開放使用的SORA，在全球處于“第一梯隊”。封面新聞記者在多個平臺測試發(fā)現(xiàn)，國內(nèi)AI平臺的文生視頻、圖生視頻、對口型配音的畫面表現(xiàn)力和真實度，在某些場景下，足以“以假亂真”。

在此基礎(chǔ)上，不少APP也開發(fā)了簡易的“AI一鍵生成”功能，用戶將所需創(chuàng)作的圖片、影像、音樂導(dǎo)入后，可根據(jù)自己的喜好“定制”專屬的作品，生產(chǎn)出高清晰度、高畫質(zhì)、真實感強(qiáng)的新作品。

但是，這樣的AI技術(shù)，在方便創(chuàng)作者進(jìn)行內(nèi)容生產(chǎn)的同時，也出現(xiàn)了上文中的AI“魔改”現(xiàn)象。同時，有商家利用AI換臉等手段，在網(wǎng)絡(luò)上謀取利益。

前段時間，知名傳染病學(xué)專家張文宏，就被商家通過AI換臉、合成人聲做成視頻，在網(wǎng)絡(luò)上“直播帶貨”銷售一款蛋白棒，使不少老年人信以為真。對此，12月12日，張文宏在接受媒體采訪時回應(yīng)，這樣的賣貨賬號不止一個，且一直在變，他已多次向平臺投訴?！昂芏嗖幻髡嫦嗟睦习傩铡⑻貏e是有些對AI不是很熟悉的、年紀(jì)較大的市民，就很容易相信。”除此之外，張文宏也考慮求助警方，但對方看不見、摸不著，經(jīng)常更換賬號，很難找到準(zhǔn)確的報警對象。

張文宏的遭遇，并不是首例。去年，在江西上饒，68歲的丁奶奶刷視頻陷入“假靳東”騙局。丁奶奶在網(wǎng)上刷到假冒靳東的視頻，相信是靳東本人發(fā)布的，給其發(fā)私信刷禮物，3年時間刷了3萬余元。

今年國慶，“雷軍”在網(wǎng)絡(luò)上犀利點評堵車、調(diào)休、游戲等熱門話題，引發(fā)網(wǎng)友熱議。但事實上，這些內(nèi)容與雷軍并無關(guān)系，而是有人通過AI配音制作。

據(jù)《2024人工智能安全報告》顯示，2023年，基于AI的深度偽造欺詐增長了3000%；2024年上半年，AI詐騙案案值已超過1.85億元。

12月15日，騰訊官方內(nèi)容安全溝通站點微信“珊瑚安全”公眾號發(fā)布消息稱，微信從速從嚴(yán)打擊了一批利用AI仿冒知名人士進(jìn)行不當(dāng)營銷、惡意博取流量的違規(guī)行為，并針對相關(guān)情況開展專項治理，截至目前，累計處置內(nèi)容532條，關(guān)閉賬號209個。

封面新聞記者從業(yè)內(nèi)人士處獲悉，目前，抖音、快手等短視頻平臺，也對AI生成視頻進(jìn)行較為嚴(yán)格的審核，除了在畫面中標(biāo)注提醒類文字外，還對一些視頻進(jìn)行限流處理。

AI技術(shù)的“邊界”在哪？

專家：應(yīng)提前做好風(fēng)險控制

AI技術(shù)的快速發(fā)展，正在推動相關(guān)領(lǐng)域發(fā)生深度變革。關(guān)于AI“魔改”類的視頻，網(wǎng)友也是各持己見。有網(wǎng)友認(rèn)為AI二創(chuàng)“魔改”，很有創(chuàng)意，只是為了“圖一樂”，通過新技術(shù)重新“解讀”了經(jīng)典，不應(yīng)太過苛責(zé)。也有網(wǎng)友認(rèn)為，AI的不合理的創(chuàng)作，是對原著作品的一種侵權(quán)，涉及法律風(fēng)險。

AI技術(shù)的“邊界”在何處？應(yīng)當(dāng)從哪些方面出發(fā)更好規(guī)范AI技術(shù)發(fā)展？四川大學(xué)文學(xué)與新聞學(xué)院研究員、博士生導(dǎo)師宋耀教授認(rèn)為，AI只是一個技術(shù)工具，關(guān)鍵在于使用者要有對信息本源的價值判斷，政府、平臺、企業(yè)需要提前做好風(fēng)險控制。

宋耀說，政府部門可以對AIGC的內(nèi)容進(jìn)行適當(dāng)管理，“如果是涉及偏公益、普及、教育意義的信息，由于會影響大眾判斷，政府可以通過政策進(jìn)行引導(dǎo)。”同時，政府也應(yīng)當(dāng)加大對AI技術(shù)上游公司的監(jiān)管，保證全鏈條的透明度。

針對AI技術(shù)源頭公司，宋耀認(rèn)為，企業(yè)本身也需要加大對技術(shù)的管理，“企業(yè)可以嘗試通過技術(shù)，給視頻打上‘AIGC生成甄別標(biāo)簽’并永久留存，這樣可以更明顯地提醒大眾?！彼€建議，AIGC視頻要能溯源，企業(yè)可通過區(qū)塊鏈等方式，為視頻打一個AI生成的標(biāo)記，平臺可以通過該標(biāo)記能夠找到背后的數(shù)據(jù)模型，溯源后起到管理用戶的作用。

“我認(rèn)為相關(guān)AI軟件在使用前，可以考慮通過合同的方式來進(jìn)行使用者行為的限制，比如使用者在使用軟件過程中，對作品版權(quán)進(jìn)行限制，如果用AI生成了作品，可以要求使用者不能夠進(jìn)行商業(yè)化、不得生成違法作品等條款，通過對生成內(nèi)容進(jìn)行預(yù)先設(shè)定，以合同的方式來限制他人對原作品的濫用?！彪娮涌萍即髮W(xué)公共管理學(xué)院副教授、英特信律所律師黃小洵表示。

“培養(yǎng)用戶的相關(guān)意識是非常有必要的，因為我們現(xiàn)在面臨與AI相關(guān)的領(lǐng)域越來越多，很可能個人就成為AI作品的創(chuàng)作者。在相關(guān)技術(shù)發(fā)展的過程當(dāng)中，我們其實有一個認(rèn)知，如果回溯版權(quán)法的整個發(fā)展歷程，每當(dāng)面臨新的技術(shù)，就會產(chǎn)生新的作品形式，公眾其實都會產(chǎn)生一種新的法律認(rèn)知?！秉S小洵告訴封面新聞記者，當(dāng)前非常有必要來提高公眾對AI相關(guān)產(chǎn)品使用的法律意識，因為人工智能涉及的問題很廣，比如AI在進(jìn)行學(xué)術(shù)研究過程中，同樣會引發(fā)相關(guān)的倫理問題，但很多AI工具的使用者法律意識都是很模糊的。

AI“魔改”涉及法律風(fēng)險

律師：惡搞或侵犯原作品著作權(quán)

AI換臉、AI“魔改”，是否會觸犯相關(guān)法律？AI作品是否能擁有自己的版權(quán)？對此，陜西恒達(dá)律師事務(wù)所高級合伙人、知名公益律師趙良善在接受封面新聞記者采訪時表示，未經(jīng)著作權(quán)人許可，用AI技術(shù)“魔改”原作品，在多個關(guān)鍵特征上與原作品具有極高相似度，甚至褻瀆、玷污原作品，從而符合“接觸”和“實質(zhì)性相似”的侵權(quán)判定標(biāo)準(zhǔn)，平臺侵犯了原作品的復(fù)制權(quán)、改編權(quán)等著作權(quán)。若AI“魔改”原作品，在構(gòu)成侵權(quán)的情況下，AI衍生的作品因自身的違法性導(dǎo)致其不享有版權(quán)。

封面新聞記者查詢民法典時發(fā)現(xiàn)，AI換臉技術(shù)涉及肖像權(quán)、名譽(yù)權(quán)、隱私權(quán)等多種權(quán)利。據(jù)我國《中華人民共和國民法典》第一千零一十九條規(guī)定，任何組織或者個人不得以丑化、污損，或者利用信息技術(shù)手段侵犯他人肖像權(quán)的方式，制作、使用、展示他人肖像。利用AI換臉技術(shù)制作虛假的肖像，侵犯了他人的肖像權(quán)，可能會引發(fā)侵權(quán)糾紛。

“用戶利用AI換臉技術(shù)偽裝，導(dǎo)致被偽裝人的肖像權(quán)等權(quán)利被侵權(quán)，或?qū)е缕渌说母星楹拓敭a(chǎn)大量受損時，平臺在未盡到合理審核義務(wù)、未有效規(guī)制該類行為發(fā)生的情況下，需要承擔(dān)一定的幫助侵權(quán)，甚至直接侵權(quán)的法律責(zé)任?！碧┖吞┞蓭熓聞?wù)所律師劉青表示，但是，除非平臺故意為之或協(xié)助詐騙人進(jìn)行詐騙行為，否則很難認(rèn)定平臺構(gòu)成詐騙罪。