“黑化”AI成造謠工具 2024年12月18日 16:32 來源：中國經(jīng)濟(jì)周刊 小 中 大 東方財(cái)富APP

方便，黑化快捷

手機(jī)查看財(cái)經(jīng)快訊

專業(yè)，成造豐富

一手掌握市場脈搏

手機(jī)上閱讀文章

提示：

微信掃一掃

分享到您的謠工

朋友圈

　　《中國經(jīng)濟(jì)周刊》記者鄭雪 | 北京報(bào)道

　　西安發(fā)生了大爆炸？運(yùn)鈔車遭遇武裝搶劫并發(fā)生激烈槍戰(zhàn)？比亞迪要收購蔚來？一則則聳人聽聞的消息是真的嗎？

　　監(jiān)管部門調(diào)查發(fā)現(xiàn)，上述消息都是黑化借助人工智能（以下簡稱“AI”）工具編造，動(dòng)機(jī)則是成造為了流量。

　　相關(guān)專家在接受《中國經(jīng)濟(jì)周刊》記者采訪時(shí)表示，謠工精品亞洲一區(qū)二區(qū)三區(qū)在線播放隨著AIGC技術(shù)的黑化不斷進(jìn)步和易獲取，文生圖和文生視頻被用于制造虛假信息。成造“黑化”的謠工AI技術(shù)和謠言的結(jié)合，不僅使得謠言數(shù)量增加，黑化也使謠言更加難以判斷。成造未來可以考慮用技術(shù)發(fā)展，謠工特別是黑化利用AI對(duì)抗AI謠言。

　　亂象：謠言數(shù)量和逼真程度大幅提升

　　隨著AI技術(shù)的成造快速發(fā)展，內(nèi)容創(chuàng)作的謠工門檻降低、時(shí)間縮短。精品亞洲國產(chǎn) 片傳媒例如文本創(chuàng)作，只需輸入幾個(gè)關(guān)鍵詞，AI便可迅速提供包含人物、時(shí)間、地點(diǎn)、事件的相關(guān)內(nèi)容。

　　在此背景下，有人為了博眼球、蹭熱度，甚至使用AI技術(shù)變?cè)臁皞蜗ⅰ薄凹傩侣劇眮慝@得關(guān)注和流量。

　　如近期有網(wǎng)絡(luò)傳聞，一名疑似比亞迪的員工發(fā)文稱，比亞迪要和蔚來合作成立比未來汽車集團(tuán)。

　　此后有媒體從合肥市公安局經(jīng)開分局確認(rèn)，該謠言系29歲外省男子謝某所做，精品亞洲麻豆1區(qū)2區(qū)3區(qū)利用AI軟件合成不實(shí)圖文上網(wǎng)傳播，其目的是為提升自媒體賬號(hào)的知名度、博取流量。

　　不只是文字，“有圖有真相”的視頻也可能被AI偽造。

　　今年6月，一條“廣東省五華縣華陽鎮(zhèn)一70多歲老人被毆打致昏迷，其孫子為此跳河自殺，打人者一審被判九年十個(gè)月”的短視頻在互聯(lián)網(wǎng)平臺(tái)傳播，引發(fā)大量關(guān)注。后經(jīng)公安網(wǎng)安部門確認(rèn)，視頻全由AI合成。

　　AI技術(shù)造謠的背后不乏MCN機(jī)構(gòu)的參與。

　　央視新聞今年6月報(bào)道了一起案例，“西安爆炸”消息背后，精品亞洲一區(qū)二區(qū)三區(qū)在線播放便是江西南昌一家MCN機(jī)構(gòu)推波助瀾。據(jù)警方調(diào)查，這家MCN機(jī)構(gòu)發(fā)布的數(shù)條涉嫌網(wǎng)絡(luò)造謠的信息，系通過AI軟件生成內(nèi)容制作。

　　這家MCN機(jī)構(gòu)短時(shí)間內(nèi)生成了大量文章，最高峰一天能生成4000至7000篇，最高的一條收入700元，初步估算每天的收入在1萬元以上。

　　中國社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任、副教授劉曉春在接受《中國經(jīng)濟(jì)周刊》記者采訪時(shí)說，在生成式AI浪潮之前，網(wǎng)絡(luò)上也存在使用網(wǎng)絡(luò)機(jī)器人制作內(nèi)容的情況，如評(píng)論區(qū)的某些內(nèi)容、常見的水軍等。但這波AI浪潮出現(xiàn)后，精品一品國產(chǎn)午夜福利視頻謠言不僅數(shù)量有了大幅增加，其逼真程度也讓人難以判斷。

　　“以前的內(nèi)容還有一些明確特征可以判斷是機(jī)器生成，而現(xiàn)在以假亂真的水平較高，公眾很難看出這是AI生成的謠言。”劉曉春說。

　　同濟(jì)大學(xué)法學(xué)院助理教授、上海市人工智能社會(huì)治理協(xié)同創(chuàng)新中心研究員朱悅在接受《中國經(jīng)濟(jì)周刊》記者采訪時(shí)提示，AI是不會(huì)疲憊的，當(dāng)被有心人利用，其批量生產(chǎn)謠言的潛力會(huì)被無限放大。

　　AI造謠背后，不只個(gè)人受影響，企業(yè)也深受其害。

　　今年4月，清華大學(xué)新聞與傳播學(xué)院新媒體研究中心發(fā)布了報(bào)告《揭秘AI謠言：傳播路徑與治理策略全解析》。報(bào)告稱，2023年以來，網(wǎng)絡(luò)謠言整體態(tài)勢平穩(wěn)，但AI謠言量近半年增長65%。其中，經(jīng)濟(jì)與企業(yè)類謠言占比最高，達(dá)到43.71%。

　　今年5月科大訊飛曾遭遇AI“小作文”，造成當(dāng)日午后股價(jià)跳水，盤中一度跌超9%。

　　解決：用AI技術(shù)對(duì)抗AI謠言

　　相關(guān)部門已經(jīng)陸續(xù)出臺(tái)了多個(gè)文件，如《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等，對(duì)平臺(tái)在內(nèi)容治理中的責(zé)任和義務(wù)予以明確。

　　據(jù)記者不完全梳理，AI造謠鏈條環(huán)節(jié)中，主要涉及四個(gè)參與方：技術(shù)提供者、使用AI技術(shù)造謠的人或機(jī)構(gòu)、平臺(tái)以及轉(zhuǎn)發(fā)相關(guān)謠言的用戶。當(dāng)前的法律法規(guī)對(duì)于后三個(gè)參與方都有相關(guān)規(guī)范。技術(shù)提供者是否需要承擔(dān)責(zé)任？又該承擔(dān)何種程度的責(zé)任？

　　朱悅提示，對(duì)于上述問題的回應(yīng)要考慮發(fā)展、安全相平衡。一方面，如果是作為一個(gè)純粹的技術(shù)提供者并不參與后續(xù)傳播，一般不適合給予太重的義務(wù)或者責(zé)任；另一方面，考慮技術(shù)提供者是從源頭提供的技術(shù)服務(wù)，那么他在算法、結(jié)果輸出方面需要做一些平衡設(shè)計(jì)，如添加一定的標(biāo)識(shí)、留存相應(yīng)的日志信息等。

　　值得注意的是，標(biāo)識(shí)成為當(dāng)下防范虛假內(nèi)容的重要手段之一。AI生成內(nèi)容亦真亦假，添加標(biāo)識(shí)不僅起到提示作用，還可幫助確認(rèn)信息來源。

　　今年9月份國家互聯(lián)網(wǎng)信息辦公室就《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見稿）》（以下簡稱“征求意見稿”）公開征求意見。

　　“征求意見稿不僅要求技術(shù)提供方要做明顯標(biāo)識(shí)，也要求傳播平臺(tái)提供相應(yīng)標(biāo)識(shí)以明確某內(nèi)容是否為AI生成。通過標(biāo)識(shí)明確AI生成內(nèi)容，減少誤導(dǎo)，減弱虛假信息的傳播效果。”劉曉春說。

　　對(duì)于包含謠言在內(nèi)的虛假信息治理是全世界的共同課題，AI虛假信息的治理，離不開技術(shù)。

　　“可以考慮用AI對(duì)抗AI謠言。通過總結(jié)謠言規(guī)律，研發(fā)相應(yīng)的技術(shù)模型，以解決AI謠言的問題?！眲源赫f。在她看來，AI造謠還需事后采取相關(guān)機(jī)制減弱影響。如對(duì)某些高頻傳播謠言的賬號(hào)予以管控，強(qiáng)化事后辟謠、建立舉報(bào)機(jī)制等。

　　近期，來自O(shè)penAI、哈佛大學(xué)、微軟、牛津大學(xué)的研究者共同撰寫了一篇題為《Personhood creden-tials:Artificial intelligence and the value of privacy-preserving tools to distinguish who is real online》（人格證書：人工智能時(shí)代的隱私保護(hù)真人驗(yàn)證工具）的文章。文章提出，可通過人格證書（Personhood Credentials）這種在線身份驗(yàn)證工具，對(duì)抗由AI驅(qū)動(dòng)的包含虛假信息在內(nèi)的各種行為。

　　“未來時(shí)代的人，疊加AI技術(shù)，生產(chǎn)信息的能力會(huì)大幅提高，也可能生產(chǎn)謠言。文章提及的人格證書，可以視為通過加強(qiáng)驗(yàn)證的方式防范上述情況產(chǎn)生。”朱悅說。

（文章來源：中國經(jīng)濟(jì)周刊）

(責(zé)任編輯：亞洲精品久久久久久久久久飛魚)