近日，公安部公布依法打擊“網(wǎng)絡(luò)水軍”違法犯罪典型案例，其中，廣州公安機(jī)關(guān)網(wǎng)安部門查明，葉某某等人為賺取網(wǎng)絡(luò)平臺流量收益，招募兼職人員注冊自媒體賬號，利用人工智能工具改寫熱門文章，批量發(fā)布虛假信息，累計發(fā)布引流圖文信息50萬篇。廣州公安機(jī)關(guān)已抓獲犯罪嫌疑人6名。

AI的應(yīng)用范圍和使用群體日益廣泛，有人用于增進(jìn)工作和學(xué)習(xí)效率，也有人用于非法牟利，典型行為包括合成和散布不實(shí)信息；合成公眾人物形象進(jìn)行帶貨、代言等。最近，張文宏、黃百鳴等公眾人物的形象、聲音被AI合成，在未經(jīng)允許的情況下被用于帶貨、代言，也有人用AI合成演員“靳東”的形象用作網(wǎng)絡(luò)詐騙，甚至于東來、雷軍等企業(yè)家也成為受害者。

網(wǎng)絡(luò)上的信息真假混雜，這類信息能產(chǎn)生惡劣影響的原因之一在于其顯著的負(fù)面性。重慶警方日前公布5起運(yùn)用AI工具造謠的典型案例，其中包括“某服務(wù)點(diǎn)遭暴力襲擊”“某地一銀行遭劫匪襲擊”“北方一城市某工廠被大風(fēng)夷為平地，多人死傷”等。好事不出門，壞事傳千里，不論是真新聞還是AI謠言都逃不出這個規(guī)律。而不法分子也正是利用這一心理，制造這類有關(guān)公共利益、焦點(diǎn)議題、暴力色情的謠言，準(zhǔn)確擊中網(wǎng)民的恐懼和共鳴，進(jìn)一步轉(zhuǎn)化為流量利益為己所用。

另一個突出特點(diǎn)是借助“權(quán)威”，這也是AI時代謠言的新特征。在AI廣泛運(yùn)用以前，也曾發(fā)生不法分子假借名人身份行騙的案例，但其手段不過是通過圖片編輯軟件偽造一兩張照片以證身份，這樣的低劣手段輕易就能被識破。但通過AI能夠快速提取他人的外貌和聲音，個性化定制視頻，別說對新技術(shù)應(yīng)用較為陌生的中老年人難以判斷，即便是生長于互聯(lián)網(wǎng)環(huán)境中的Z世代青年，面對技術(shù)純熟的AI合成視頻也不一定能準(zhǔn)確分辨。

上述特點(diǎn)已足夠?qū)睬榫w和輿論、名人和名企形象造成不良影響，疊加AI近乎無限的量產(chǎn)能力，其危害程度更是呈指數(shù)級上升。一些內(nèi)容生產(chǎn)者嘗試提醒網(wǎng)民如何辨別AIGC避免受騙，但是AI技術(shù)的迭代速度實(shí)在太快，僅僅在受眾端做工作顯然解決不了根本問題。

2023年8月15日起施行的《生成式人工智能服務(wù)管理暫行辦法》規(guī)定，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會公德和倫理道德，不得生成暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容。因此，對AI造謠等的治理要從AI工具開始，應(yīng)強(qiáng)化服務(wù)提供方對素材以及其生成的審核職責(zé)。網(wǎng)絡(luò)平臺也該擔(dān)起主體責(zé)任，建立有效的溯源機(jī)制，同時完善平臺的AIGC甄別技術(shù)，對疑似內(nèi)容做出提示。而類似事件發(fā)生后，也需以儆效尤，嚴(yán)格追究不法分子的刑事或行政責(zé)任。

不可否認(rèn)的是，AI幾乎已經(jīng)滲進(jìn)目之所及的方方面面，并且必將持續(xù)地存在下去。人用雙手創(chuàng)造什么，就該用頭腦控制什么，既然人工智能是大勢所趨，那么只有建立起完善的治理體系，才能避免技術(shù)凌駕于人的理性之上，實(shí)現(xiàn)真正的科技向善。