在科技日新月異的今天，人工智能已經(jīng)滲透到我們生活的方方面面，從智能家居到自動(dòng)駕駛，從醫(yī)療診斷到金融風(fēng)控，AI的應(yīng)用場(chǎng)景越來(lái)越廣泛。然而，卻有不法分子將AI技術(shù)應(yīng)用在詐騙上。近年來(lái)AI換臉騙局頻發(fā)，2024年年初，香港警方披露了一起多人 “AI換臉”詐騙案，涉案金額高達(dá)2億港元。

　　“3·15打假”后，“AI換臉”騙局引發(fā)了社會(huì)各界的廣泛關(guān)注和討論。近期不少逝世明星被AI“復(fù)活”，重新出現(xiàn)在屏幕前，也讓大眾唏噓，這類(lèi)“AI原生”背后的Deepfakes技術(shù)開(kāi)始被大眾所關(guān)注。

　　生成式AI模型是Deepfakes(深度偽造)的技術(shù)基礎(chǔ)，而以“AI換臉”為代表的人臉偽造技術(shù)是Deepfakes的一個(gè)重要分支。在2019年，藝術(shù)家Bill Posters和Daniel Howe聯(lián)手廣告公司Canny，創(chuàng)作出了一段引人注目的Deepfakes視頻，該視頻的主角為Facebook的創(chuàng)始人馬克·扎克伯格。

　　這段視頻中，扎克伯格仿佛坐在辦公桌前，發(fā)表了一場(chǎng)關(guān)于Facebook數(shù)據(jù)掌控權(quán)的演講，其言辭犀利，指出：“想象一下：一個(gè)人完全控制了數(shù)十億人被盜的數(shù)據(jù)、他們所有的秘密、他們的生活、他們的未來(lái)。誰(shuí)控制了數(shù)據(jù)，誰(shuí)就控制了未來(lái)。”這段演講的原始視頻來(lái)源于扎克伯格在2017年的一次公開(kāi)發(fā)言，而經(jīng)過(guò)CannyAI的視頻對(duì)話(huà)替換(VDR)技術(shù)的處理后，它呈現(xiàn)出了令人難辨真假的逼真效果。

　　畫(huà)面中的AI版“扎克伯格”形象生動(dòng)，仿佛是一位真實(shí)的新聞人物。詞條上更是標(biāo)注著“我們正在提高廣告的透明度”，為這段視頻增添了幾分可信度。然而，這段視頻迅速引發(fā)了Facebook及社會(huì)各界的強(qiáng)烈反響。自此，Deepfakes技術(shù)開(kāi)始以驚人的速度發(fā)展，并逐漸演變成為一種新型的詐騙手段。

　　生成式AI不斷進(jìn)步，眼見(jiàn)不再為實(shí)

　　AI換臉、變聲等新型騙局已經(jīng)發(fā)生多起，令人防不勝防，對(duì)社會(huì)秩序和公眾安全造成了嚴(yán)重威脅。今年央視3·15晚會(huì)的曝光再次將人們的視線(xiàn)聚焦到了AI技術(shù)可能帶來(lái)的風(fēng)險(xiǎn)上。

　　在2023年，由大模型掀起的AI熱潮洶涌澎湃，各路大廠(chǎng)紛紛下場(chǎng)，從百度率先發(fā)布試圖對(duì)標(biāo)Chat GPT的“文心一言”，到阿里的“通義千問(wèn)”大語(yǔ)言模型，再到360集團(tuán)的“360智腦4.0”、騰訊的混元大模型等等，國(guó)內(nèi)的“百模大戰(zhàn)”愈演愈烈。

　　隨著AI技術(shù)的快速發(fā)展，AI成像、AI仿聲、圖像生成等各種內(nèi)容卻成為了某些灰色產(chǎn)業(yè)的斂財(cái)工具。iiMedia Research(艾媒咨詢(xún))數(shù)據(jù)顯示，2023年中國(guó)AIGC行業(yè)核心市場(chǎng)規(guī)模為79.3億元，2028年有望達(dá)2767.4億元。隨著生成式AI模型的不斷進(jìn)步，未來(lái)將在更多領(lǐng)域得到廣泛應(yīng)用，而技術(shù)的提升也會(huì)使得Deepfakes等安全問(wèn)題日益難以被有效檢測(cè)，這無(wú)疑給企業(yè)和個(gè)人帶來(lái)了更大的挑戰(zhàn)。

　　央視3·15晚會(huì)所曝光的AI換臉騙局只是冰山一角。據(jù)新京報(bào)報(bào)道，前不久，國(guó)內(nèi)多地公布網(wǎng)絡(luò)謠言典型案例，其中有多起系“AI生謠”。不法分子利用AI“移花接木”拼成假視頻，借此博眼球、賺流量、非法獲利，以及利用“AI換臉”技術(shù)進(jìn)行各式詐騙，造成惡劣社會(huì)影響。

　　2024年初，文生視頻模型Sora的出現(xiàn)，對(duì)于這些AI造謠、AI換臉騙局而言，能夠?qū)崿F(xiàn)更逼真的效果。Sora模型能夠生成高度逼真的視頻內(nèi)容，使得假視頻與真實(shí)視頻幾乎難以區(qū)分。這種技術(shù)的發(fā)展為不法分子提供了更大的操作空間。

　　除了不法分子利用AI換臉技術(shù)進(jìn)行詐騙外，還有人開(kāi)始嘗試?yán)�用AI換聲換臉技術(shù)來(lái)“高效”制作短劇了。短劇概念的爆火，讓演員的片酬水漲船高，也直接導(dǎo)致了短劇的成本變高。隨著國(guó)內(nèi)監(jiān)管紅線(xiàn)收緊，題材重復(fù)飽和、行業(yè)加速內(nèi)卷，不少短劇廠(chǎng)商紛紛將目光轉(zhuǎn)向海外，把短劇中華人演員的面孔替換為外國(guó)演員的模樣，成為一些短劇公司低成本出海的新思路，對(duì)此一些網(wǎng)友表示：難道你小子竟是天才?但也有更多的網(wǎng)友質(zhì)疑，這難道不也是一種對(duì)于消費(fèi)者的欺詐嗎?

　　隨著AI時(shí)代的到來(lái)，“眼見(jiàn)為實(shí)”的觀念已經(jīng)過(guò)時(shí)。AI生成的假視頻、假音頻已經(jīng)日漸泛濫，因此，對(duì)AI技術(shù)和工具的監(jiān)管顯得尤為重要。

　　2023年，中國(guó)最高人民法院、最高人民檢察院、公安部聯(lián)合發(fā)布的《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見(jiàn)》中規(guī)定，對(duì)“利用‘深度合成’等生成式人工智能技術(shù)發(fā)布違法信息”的情形，依法從重處罰。

　　2024年3月13日，《人工智能法案》在歐洲議會(huì)通過(guò)，成為全球首個(gè)“AI法案”。

　　除了從政府的角度對(duì)AI技術(shù)進(jìn)行監(jiān)管外，企業(yè)和平臺(tái)也應(yīng)承擔(dān)起自身的責(zé)任，加強(qiáng)對(duì)AI生成內(nèi)容的審核和管理。通過(guò)技術(shù)手段和人工審核相結(jié)合的方式，及時(shí)發(fā)現(xiàn)和刪除虛假信息，防止其傳播和擴(kuò)散。公眾也應(yīng)提高警惕，增強(qiáng)對(duì)AI騙局的識(shí)別和防范能力。消費(fèi)者在面對(duì)可疑信息時(shí)，要保持冷靜和理性，不輕信、不傳播未經(jīng)證實(shí)的信息。同時(shí)，加強(qiáng)個(gè)人信息保護(hù)意識(shí)，避免個(gè)人信息被不法分子利用。

　　AI“復(fù)活”明星，是緬懷還是生意?

　　如果說(shuō)AI換臉、變聲等視頻是基于真視頻原有基礎(chǔ)上進(jìn)行“改裝”的，那么“復(fù)活”明星這類(lèi)“無(wú)中生有”的視頻更讓人感受到技術(shù)的先進(jìn)了。

　　最近，一位博主利用AI技術(shù)生成視頻和聲音，將已故明星李玟、張國(guó)榮、高以翔、喬任梁等人“復(fù)活”在公眾視野中，這一舉動(dòng)立刻引發(fā)了網(wǎng)友們的廣泛討論和熱議。在相關(guān)視頻的評(píng)論區(qū)，有些人甚至打著溫情的旗號(hào)，借機(jī)進(jìn)行AI技術(shù)的推廣和收費(fèi)服務(wù)。對(duì)此，喬任梁的父親表示無(wú)法接受，并希望博主能盡快下架這些視頻，因?yàn)樗�認(rèn)為這種行為未經(jīng)他們同意，就像是在揭開(kāi)他們的傷疤。目前，該博主的賬號(hào)下已經(jīng)看不到之前發(fā)布的這些AI復(fù)活明星的視頻了。

　　(圖片來(lái)源：抖音)

　　僅需一張照片、一段聲音，再配上幾十上百個(gè)定制的文字，逝去的人仿佛就能重新“活”過(guò)來(lái)，音容笑貌栩栩如生，甚至能“開(kāi)口”說(shuō)話(huà)。人們?cè)隗@嘆AI“復(fù)活”技術(shù)日益先進(jìn)和智能的同時(shí)，也對(duì)這種“復(fù)活”明星、親人的做法所暴露出的“失控”一面表示深深的擔(dān)憂(yōu)。

　　據(jù)報(bào)道，如今“復(fù)活”逝者的服務(wù)已經(jīng)形成了一條成熟的產(chǎn)業(yè)鏈。提供這種服務(wù)的個(gè)人和商家數(shù)量快速增長(zhǎng)，他們聲稱(chēng)只需花費(fèi)10元至數(shù)百元不等，就能生成高度還原的“復(fù)活”視頻。小編在電商平臺(tái)搜索相關(guān)服務(wù)時(shí)，發(fā)現(xiàn)也有不少人購(gòu)買(mǎi)。

　　(圖片來(lái)源：淘寶)

　　然而，AI“復(fù)活”服務(wù)自誕生以來(lái)就一直飽受爭(zhēng)議。支持者認(rèn)為這種服務(wù)形式新穎、成本不高，通過(guò)隔空互動(dòng)可以寄托對(duì)逝者的情感慰藉。而反對(duì)者則認(rèn)為，這項(xiàng)技術(shù)無(wú)疑是在“揭活人的傷疤”，甚至可能侵犯逝者的肖像權(quán)、名譽(yù)權(quán)和隱私權(quán)。

　　顯然，當(dāng)涉及到逝者這一特殊群體時(shí)，AI“復(fù)活”服務(wù)就不僅僅是一個(gè)單純的技術(shù)問(wèn)題，還需要綜合考慮人文情感、社會(huì)倫理、公序良俗等多重因素。在追求技術(shù)進(jìn)步的同時(shí)，也應(yīng)該審慎思考其可能帶來(lái)的社會(huì)影響，確保技術(shù)的發(fā)展能夠真正造福人類(lèi)社會(huì)，而不是帶來(lái)傷害和困擾。

　　AI換臉和“復(fù)活”明星的技術(shù)背后，實(shí)際上都是深度學(xué)習(xí)、圖像處理和語(yǔ)音合成等多個(gè)領(lǐng)域的交叉應(yīng)用。通過(guò)收集目標(biāo)人物的影像和音頻資料，AI模型能夠模擬其表情、動(dòng)作和聲音，從而生成逼真的虛擬形象，這種技術(shù)的出現(xiàn)，讓我們有機(jī)會(huì)再次目睹那些已經(jīng)離開(kāi)我們的藝人的風(fēng)采，無(wú)疑是一個(gè)技術(shù)奇跡。

　　然而，技術(shù)發(fā)展到一定高度往往伴隨著一系列問(wèn)題和挑戰(zhàn)。在AI換臉和“復(fù)活”明星的過(guò)程中，如何確保數(shù)據(jù)的合法性和隱私性是一個(gè)亟待解決的問(wèn)題。收集和使用目標(biāo)人物的影像和音頻資料，必須得到其本人或家屬的明確同意，否則就可能侵犯到他們的隱私權(quán)。此外，AI技術(shù)的濫用也可能導(dǎo)致虛假信息的傳播和誤導(dǎo)公眾，對(duì)社會(huì)造成不良影響。

　　除了技術(shù)層面的問(wèn)題，AI換臉和“復(fù)活”明星還涉及到倫理和道德層面的考量。在追求商業(yè)價(jià)值和市場(chǎng)熱度的同時(shí)，是否應(yīng)該更多地考慮人文關(guān)懷和尊重?讓已故之人“重現(xiàn)”在大眾視野，雖然能夠帶來(lái)短暫的關(guān)注和熱議，但對(duì)于逝者和家屬來(lái)說(shuō)，卻可能是一種傷害和侵?jǐn)_。因此，在使用AI技術(shù)進(jìn)行這類(lèi)操作時(shí)，我們必須謹(jǐn)慎對(duì)待，尊重逝者和家屬的意愿和感受。

　　此外，AI換臉和“復(fù)活”明星也對(duì)娛樂(lè)產(chǎn)業(yè)產(chǎn)生了深遠(yuǎn)的影響。一方面，這種技術(shù)為娛樂(lè)市場(chǎng)帶來(lái)了全新的商業(yè)模式和盈利點(diǎn)。通過(guò)利用AI技術(shù)復(fù)活已故明星或進(jìn)行虛擬角色的創(chuàng)作，娛樂(lè)公司可以吸引更多的觀眾和粉絲，提升市場(chǎng)影響力。另一方面，這種技術(shù)也促使娛樂(lè)產(chǎn)業(yè)不斷探索新的創(chuàng)意和表達(dá)方式，推動(dòng)產(chǎn)業(yè)的創(chuàng)新和發(fā)展。

　　但與此同時(shí)，我們也需要警惕娛樂(lè)產(chǎn)業(yè)過(guò)度依賴(lài)AI技術(shù)的風(fēng)險(xiǎn)。雖然AI技術(shù)能夠帶來(lái)許多便利和創(chuàng)新，但它并不能完全替代人類(lèi)的創(chuàng)造力和想象力。如果娛樂(lè)產(chǎn)業(yè)過(guò)于追求技術(shù)的炫耀和表面的華麗，而忽視了作品的內(nèi)容和質(zhì)量，那么最終可能會(huì)導(dǎo)致產(chǎn)業(yè)的衰敗和觀眾的流失。

　　從利用AI技術(shù)換臉娛樂(lè)乃至詐騙，到網(wǎng)友通過(guò)AI技術(shù)讓已故明星“重現(xiàn)”在大眾視野，這些事件都讓網(wǎng)友們對(duì)AI技術(shù)感到震驚。然而，這些現(xiàn)象也引發(fā)了我們對(duì)技術(shù)倫理、隱私保護(hù)和娛樂(lè)產(chǎn)業(yè)邊界的深入思考。

　　僅為娛樂(lè)的AI換臉視頻和“復(fù)活”明星視頻都只是AI技術(shù)在娛樂(lè)產(chǎn)業(yè)中的一次重要嘗試，它展示了技術(shù)的無(wú)限可能性和巨大潛力。然而，我們也必須清醒地認(rèn)識(shí)到，這種技術(shù)并非萬(wàn)能的，它所帶來(lái)的問(wèn)題和挑戰(zhàn)同樣需要我們認(rèn)真對(duì)待和解決。在未來(lái)的發(fā)展中，我們應(yīng)該在尊重技術(shù)倫理和人文關(guān)懷的前提下，探索更加合理和可持續(xù)的技術(shù)應(yīng)用模式，讓AI技術(shù)真正為人類(lèi)社會(huì)的進(jìn)步和發(fā)展貢獻(xiàn)力量。