據(jù)央視昨日報道，今年 1 月，有網(wǎng)絡(luò)平臺出現(xiàn)一條“西安發(fā)生爆炸”的消息，其時間地點等關(guān)鍵信息和配圖齊備，極具迷惑性。經(jīng)警方調(diào)查，消息發(fā)布賬號歸屬于一家江西的 MCN 機構(gòu)。

　　IT之家注：MCN 指“多頻道網(wǎng)絡(luò)”，是與內(nèi)容創(chuàng)作者合作或直接生產(chǎn)內(nèi)容的任何實體或組織，并在發(fā)布內(nèi)容的網(wǎng)絡(luò)平臺上執(zhí)行業(yè)務(wù)和營銷功能。

　　該公司實際控制人為王某某。據(jù)南昌市公安局高新分局網(wǎng)絡(luò)安全保衛(wèi)大隊大隊長李毅介紹，上述“爆炸”消息經(jīng)核實并未發(fā)生，就此初步判定該 MCN 機構(gòu)發(fā)布的數(shù)條信息涉嫌網(wǎng)絡(luò)造謠。

　　警方立刻對該公司負責(zé)人進行約談，同時勘察該公司辦公場所，對使用的電腦和軟件工具進行現(xiàn)場取證。

　　經(jīng)核實，上述謠言從文本到圖片全部由 AI 生成。王某某通過國內(nèi)一個網(wǎng)站 —— 其專門提供“近期可能生成熱點的新聞報道”或“正在 / 即將發(fā)生的一類事情”，并分級分類將關(guān)鍵詞提供給寫作者。王某某通過該網(wǎng)站生成關(guān)鍵詞，形成了文章的標(biāo)題。

　　王某某隨后再通過具有語音交互功能的 AI 軟件，說出關(guān)鍵詞后軟件自動從網(wǎng)絡(luò)上抓取相關(guān)信息，生成數(shù)百到上千字的文本，并配上“貌似與事件相關(guān)”的虛假圖片，從而形成看起來信息量很大、實際上子虛烏有的內(nèi)容。

　　隨后，王某某再將 AI 生成的內(nèi)容使用另一款軟件自動上傳到該 MCN 機構(gòu)控制的多網(wǎng)絡(luò)平臺不同賬號上，并對外發(fā)布，全程基本不需要人工參與。因此，在操作過程中產(chǎn)生了此類謠言信息。這家 MCN 機構(gòu)短時間內(nèi)生成了大量文章，最高峰一天能生成 4000-7000 篇。

　　警方在調(diào)查過程中發(fā)現(xiàn)，該 MCN 機構(gòu)在網(wǎng)絡(luò)上發(fā)布的內(nèi)容以民生類信息為主，通過加入夸張故事情節(jié)或獵奇性成分，或編造不實信息來獲取網(wǎng)民關(guān)注度、點贊量，進而實現(xiàn)流量變現(xiàn)。通過這一方式，王某某在短時間內(nèi)獲得了高額報酬。經(jīng)警方初步估算，該機構(gòu)每天的收入在 1 萬元以上。

　　經(jīng)查，江西男子王某江經(jīng)營有 5 家 MCN 機構(gòu)，共運營自媒體賬號 842 個，其長期組織公司人員選取熱點文章，使用人工智能工具批量生成不實文章進行吸粉引流。目前，江西南昌公安機關(guān)已對王某江處以行政拘留 5 日，責(zé)令涉案 MCN 機構(gòu)停業(yè)整改。