“你的圖很好，但下一秒就是我的了。”

　　我們經(jīng)常能在某些梗圖或表情包的評(píng)論區(qū)看到類似的玩笑，然而當(dāng)盜圖行為真實(shí)發(fā)生在社交軟件中，其帶來(lái)的后果可未必能有這么輕松。

　　在如今的互聯(lián)網(wǎng)時(shí)代，眼見(jiàn)不一定為實(shí)。部分不法分子利用科技盜取他人照片，建立包裝出一個(gè)更有社交優(yōu)勢(shì)的虛假人設(shè)，利用此進(jìn)行社交乃至詐騙行為，這種“假人設(shè)”行為的主要表現(xiàn)：

　　• 虛假外觀：通過(guò)盜用使用他人人像等手段，以實(shí)現(xiàn)“增加性吸引力”目的;

　　• 虛假生活方式：通過(guò)展示不屬于自身的高價(jià)值物品，偽造當(dāng)前經(jīng)濟(jì)實(shí)力，增加社交優(yōu)勢(shì);或營(yíng)造“賣慘哭窮”人設(shè)，以達(dá)到網(wǎng)乞、引流等目的;

　　• 虛假個(gè)人信息：通過(guò)編造個(gè)人姓名、年齡、身高體重、冒充職業(yè)、夸大成就等方式，偽造個(gè)人形象，達(dá)到社交目。

　　如果以上“假人設(shè)”行為無(wú)法得到治理，將導(dǎo)致社交平臺(tái)上不真實(shí)的內(nèi)容泛濫，以及由于部分“假人設(shè)”行為目的不純，更可能導(dǎo)致騙炮、殺豬盤(pán)等惡劣行為滋生，引發(fā)用戶不安全感，降低用戶對(duì)平臺(tái)內(nèi)容的信任度。

　　今年以來(lái)，國(guó)家網(wǎng)信辦實(shí)施“清朗”系列專項(xiàng)行動(dòng)，嚴(yán)厲打擊網(wǎng)絡(luò)生態(tài)中的突出問(wèn)題。Soul App積極響應(yīng)國(guó)家倡議，履行了其作為平臺(tái)的社會(huì)責(zé)任。為進(jìn)一步凈化網(wǎng)絡(luò)環(huán)境，Soul App生態(tài)風(fēng)控團(tuán)隊(duì)建立專項(xiàng)小組，針對(duì)“假人設(shè)”問(wèn)題進(jìn)行分析，在“假人設(shè)”的治理策略中，全新推出“瞬間假人設(shè)風(fēng)險(xiǎn)提醒”功能。

　　從全站到全網(wǎng)，圖片識(shí)別再升級(jí)

　　圖片已成為“假人設(shè)”詐騙的主要工具，其中不乏涉及人像、財(cái)產(chǎn)、身份等敏感內(nèi)容。此前，Soul App已推出圖片查重功能，幫助網(wǎng)友能更好地辨別內(nèi)容真實(shí)性，一度引發(fā)網(wǎng)絡(luò)熱議，該功能可針對(duì)高風(fēng)險(xiǎn)圖片進(jìn)行預(yù)警——

　　當(dāng)系統(tǒng)檢測(cè)到圖片在站內(nèi)有重復(fù)使用時(shí)，會(huì)立即提示用戶“系統(tǒng)識(shí)別該圖片曾在站內(nèi)出現(xiàn)過(guò)”，這樣的即時(shí)提醒有助于用戶快速識(shí)別潛在的虛假身份，有效遏制不實(shí)信息的擴(kuò)散，進(jìn)而規(guī)避經(jīng)濟(jì)上的損失。

　　而隨著“瞬間假人設(shè)風(fēng)險(xiǎn)提醒”功能的上線，Soul App也對(duì)圖片識(shí)別模型進(jìn)行升級(jí)，由之前的只能識(shí)別站內(nèi)圖片，升級(jí)為全網(wǎng)圖片識(shí)別，大幅提升了識(shí)別范圍和準(zhǔn)確性，提醒話術(shù)相應(yīng)更新為：“請(qǐng)注意甄別信息真?zhèn)危�避免上�?dāng)受騙。”

　　即便是站外盜圖，在Soul上也會(huì)被一眼識(shí)破

　　若在私聊場(chǎng)景中，系統(tǒng)會(huì)直接提示：您的聊天對(duì)象可能存在虛假人設(shè)情況，請(qǐng)保持警惕

　　升級(jí)后的圖片識(shí)別技術(shù)，已超越了單一的站內(nèi)重復(fù)性檢測(cè)。通過(guò)融合圖片格式分析、歷史行為追蹤、圖庫(kù)比對(duì)等多種維度的技術(shù)，結(jié)合先進(jìn)的人像識(shí)別算法，Soul App的風(fēng)控團(tuán)隊(duì)目前已能精確評(píng)估出圖片人像的真實(shí)性。全自動(dòng)化系統(tǒng)能夠高效識(shí)別和處理站內(nèi)的盜圖問(wèn)題，從而顯著提升對(duì)站內(nèi)虛假圖片和盜圖行為的管理能力。

　　風(fēng)控模型升級(jí)，精準(zhǔn)識(shí)別假人設(shè)

　　真的假不了，假的真不了。“假人設(shè)”既然為假，便總有露出馬腳的時(shí)候。Soul App的風(fēng)控模型已具有全維度的監(jiān)控能力，包括且不限于私聊、發(fā)帖或各個(gè)公域場(chǎng)景中圖片、語(yǔ)音與文字內(nèi)容的識(shí)別。

　　很多假人設(shè)在構(gòu)建身份敘述時(shí)，常常會(huì)出現(xiàn)與真實(shí)情況不符或前后敘述不一致的破綻，通過(guò)精確地捕捉這些身份矛盾點(diǎn)，并針對(duì)性地對(duì)相關(guān)用戶進(jìn)行識(shí)別和分類，對(duì)內(nèi)能顯著增加站內(nèi)的人像識(shí)別效率，對(duì)外能提升用戶體驗(yàn)，創(chuàng)建更符合用戶期待的社區(qū)環(huán)境。

　　針對(duì)各大社交平臺(tái)上頻發(fā)的“假人設(shè)”現(xiàn)象，如假冒‘警察’、‘離異帶娃’等身份，Soul App迅速識(shí)別并鎖定可能存在風(fēng)險(xiǎn)的用戶群體，通過(guò)多維度的考察方法，包括但不限于：年齡及地理位置的異常、人設(shè)的可疑性、高危職業(yè)身份、潛在的受害者特征、網(wǎng)絡(luò)圖片盜用等，風(fēng)控模型將對(duì)這些指標(biāo)進(jìn)行重點(diǎn)持續(xù)監(jiān)控，以確保平臺(tái)環(huán)境的安全性和真實(shí)性。

　　準(zhǔn)確率超95%，治理工作成效顯著

　　得益于Soul App團(tuán)隊(duì)在平臺(tái)風(fēng)控上的努力，“瞬間假人設(shè)風(fēng)險(xiǎn)提醒”自上線以來(lái)，已經(jīng)實(shí)現(xiàn)超過(guò)95%的準(zhǔn)確率和60%的覆蓋率，在近一個(gè)月的時(shí)間內(nèi)，發(fā)送提醒超57萬(wàn)次。

　　步履不停，今年7月份至今，Soul App創(chuàng)新研發(fā)了“AI輔助識(shí)別”“網(wǎng)絡(luò)乞討行為識(shí)別”“虛假人設(shè)識(shí)別”等能力，累計(jì)研發(fā)并上線各項(xiàng)反詐策略共計(jì)430余條，平臺(tái)反詐識(shí)別能力顯著提升。據(jù)通報(bào)數(shù)據(jù)顯示，從Soul App導(dǎo)流發(fā)案的案件數(shù)量連續(xù)下降，第三季度發(fā)案數(shù)比前一季度下降13%，平臺(tái)治理工作成效顯著。

　　一直以來(lái)，Soul不懈追求和推動(dòng)真誠(chéng)社交的理念。平臺(tái)相信，社交的本質(zhì)在于人與人之間真實(shí)、坦誠(chéng)的交流與連接。為了實(shí)現(xiàn)這一愿景，Soul不斷投入資源和技術(shù)創(chuàng)新，旨在打造一個(gè)安全、可靠且富有溫度的社交平臺(tái)。通過(guò)引入先進(jìn)的人工智能技術(shù)，加強(qiáng)風(fēng)控策略與內(nèi)容審核，確保用戶在Soul上的每一次互動(dòng)都是基于真實(shí)的身份和真誠(chéng)意圖，讓虛假無(wú)處遁形。