近日，警方通報(bào)“秦朗巴黎丟暑假作業(yè)”系擺拍引流，再次引發(fā)社會(huì)對(duì)于治理網(wǎng)絡(luò)謠言的關(guān)注。
受“流量經(jīng)濟(jì)”刺激，網(wǎng)絡(luò)謠言的傳播速度、影響范圍及社會(huì)危害性等顯著增強(qiáng)，嚴(yán)重?cái)_亂社會(huì)公共秩序，侵犯公民合法權(quán)益。公安部先后啟動(dòng)“打擊整治網(wǎng)絡(luò)謠言”和“打擊整治網(wǎng)絡(luò)暴力”專項(xiàng)行動(dòng)。去年12月以來，全國(guó)公安機(jī)關(guān)累計(jì)排查網(wǎng)絡(luò)謠言線索8萬余條，偵辦網(wǎng)絡(luò)謠言類案件1萬余起，抓獲犯罪嫌疑人1500余名，行政處罰10700余人，開展公開辟謠等4200余次。
利用AI技術(shù)發(fā)布虛假信息
“近年來，網(wǎng)絡(luò)謠言出現(xiàn)了新動(dòng)向，不法分子往往緊跟社會(huì)熱點(diǎn)、突發(fā)事件，通過無中生有蹭熱點(diǎn)、夸大其詞帶節(jié)奏、惡意拼接博眼球，加之利用人工智能(AI)新技術(shù)，疊加引爆社會(huì)輿論，使網(wǎng)絡(luò)謠言具有極強(qiáng)的傳播力和破壞力，對(duì)社會(huì)秩序帶來嚴(yán)重危害。”上海市公安局網(wǎng)安總隊(duì)政治處主任韓欣毅介紹說。
據(jù)介紹，上海青浦警方在打擊網(wǎng)絡(luò)謠言專項(xiàng)行動(dòng)中，依托打謠協(xié)作機(jī)制，查處一起虛構(gòu)事實(shí)擾亂公共秩序的案件。該案中，涉案人員為提升曝光度，博取流量，輸入關(guān)鍵字用AI杜撰關(guān)于青浦區(qū)發(fā)生命案的文章，并在網(wǎng)上下載網(wǎng)圖后移花接木，發(fā)布到網(wǎng)上吸引網(wǎng)友關(guān)注，后被依法行政拘留。
隨著科技的發(fā)展，利用AI發(fā)布虛假信息“博眼球”屢見不鮮。近日，山西省平遙縣公安局破獲了一起利用AI技術(shù)偽造犯罪現(xiàn)場(chǎng)進(jìn)行造謠的案件。
3月26日早上8時(shí)許，平遙縣公安局網(wǎng)安大隊(duì)發(fā)現(xiàn)一條標(biāo)題駭人的“新聞”：“平遙古城明清街一女子與男友吃東西時(shí)，用竹簽扎小孩臉，后小孩被‘120’抬走，生死未卜”。該“新聞”還附有事發(fā)現(xiàn)場(chǎng)的視頻截圖和網(wǎng)友的熱議記錄，瞬間引發(fā)大量討論與猜測(cè)。
經(jīng)過比對(duì)，警方確認(rèn)平遙古城明清街并未發(fā)生該事件，“新聞”中所描述的內(nèi)容與事實(shí)存在明顯出入。其后涉案人員趙某承認(rèn)，為了吸引眼球、增加點(diǎn)擊量，他故意利用AI技術(shù)合成并發(fā)布了這條關(guān)于平遙古城的虛假新聞。目前，趙某已被予以行政拘留。
借熱點(diǎn)案事件編造網(wǎng)絡(luò)謠言
“利用人工智能編造網(wǎng)絡(luò)謠言行為數(shù)量呈上升態(tài)勢(shì)。隨著生成式人工智能、視頻合成等技術(shù)的發(fā)展應(yīng)用，不法分子利用新技術(shù)新應(yīng)用模仿新聞媒體的風(fēng)格一鍵生成謠言信息，此類網(wǎng)絡(luò)謠言生成更簡(jiǎn)單，迷惑性更強(qiáng)，增加了甄別和偵查難度。”山西省公安廳網(wǎng)安總隊(duì)政委郭鵬說。
郭鵬指出：“涉及公共秩序、食品安全、民生政策等方面的謠言，極易引起公眾恐慌，不僅誤導(dǎo)大眾，更有可能造成社會(huì)失序，影響政府決策和公信力。一些自媒體為追逐‘流量經(jīng)濟(jì)’，惡意編造、跟風(fēng)炒作，個(gè)別不法分子往往利用網(wǎng)民的情緒，在一些敏感熱點(diǎn)事件中編造極具蠱惑性和危害性的網(wǎng)絡(luò)謠言，引發(fā)社會(huì)信任危機(jī)。此外，網(wǎng)絡(luò)謠言還往往伴隨網(wǎng)絡(luò)暴力的發(fā)生，部分網(wǎng)絡(luò)謠言針對(duì)特定個(gè)人或群體進(jìn)行惡意攻擊，誹謗中傷，侵犯、曝光他人隱私信息，危害人民群眾生命財(cái)產(chǎn)安全。”
去年12月以來，山西省公安機(jī)關(guān)共核查網(wǎng)絡(luò)謠言線索204條，偵辦網(wǎng)絡(luò)謠言、網(wǎng)絡(luò)暴力案件97起，依法查處違法犯罪人員147名，指導(dǎo)重點(diǎn)網(wǎng)站平臺(tái)清理網(wǎng)絡(luò)謠言信息705條，依法關(guān)停違法違規(guī)賬號(hào)97個(gè)。
“從山西省公安機(jī)關(guān)打擊整治網(wǎng)絡(luò)謠言專項(xiàng)行動(dòng)工作情況來看，當(dāng)前網(wǎng)絡(luò)謠言涉民生領(lǐng)域謠言較為集中;涉自然災(zāi)害、突發(fā)安全事故等熱點(diǎn)事件易滋生網(wǎng)絡(luò)謠言;涉虛假警情網(wǎng)絡(luò)謠言時(shí)有發(fā)生。”郭鵬介紹說，發(fā)生災(zāi)情、險(xiǎn)情后，不法分子為了追逐流量、博人眼球，利用網(wǎng)民對(duì)災(zāi)情、險(xiǎn)情的關(guān)心，不僅無中生有地編造謠言信息，甚至將之前發(fā)生的災(zāi)害圖文信息、音視頻通過移花接木的方式進(jìn)行“合成”，引起社會(huì)恐慌，嚴(yán)重干擾了搶險(xiǎn)救災(zāi)、應(yīng)急處置等工作。
“2024年作為打擊整治網(wǎng)絡(luò)謠言專項(xiàng)行動(dòng)年，山西公安機(jī)關(guān)將持續(xù)發(fā)力，進(jìn)一步提升打擊整治網(wǎng)絡(luò)謠言違法犯罪工作能力，構(gòu)筑更加安全、清朗、有序的網(wǎng)絡(luò)空間。”郭鵬說。
提高網(wǎng)絡(luò)生態(tài)綜合治理水平
4月12日，公安部公布了10起打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例，“秦朗巴黎丟暑假作業(yè)”擺拍引流案位列其中。另外9起典型案例分別是：山東公安機(jī)關(guān)查處造謠“喂住院婆婆吃泡面”案、湖北公安機(jī)關(guān)查處一起“造黃謠”案、上海公安機(jī)關(guān)查處一起建“吃瓜群”造謠牟利案、湖南公安機(jī)關(guān)查處編造“民警離職潮”謠言案、安徽公安機(jī)關(guān)查處編造“救災(zāi)物資被倒賣”謠言案、江西公安機(jī)關(guān)查處一起MCN機(jī)構(gòu)使用人工智能工具造謠案、重慶公安機(jī)關(guān)查處一起使用人工智能工具編造“爆炸事故”謠言案、江西公安機(jī)關(guān)查處編造“某銀行倒閉”謠言案、廣東公安機(jī)關(guān)查處編造“廣州限制外賣配送”謠言案。
《法治日?qǐng)?bào)》記者注意到，在上述10起打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例中，有4起案件涉及使用AI造謠，其中，廣東公安機(jī)關(guān)查處編造“廣州限制外賣配送”謠言案尤為典型。
據(jù)了解，2023年12月19日，有網(wǎng)民在某網(wǎng)絡(luò)平臺(tái)發(fā)布“廣州即將成為全國(guó)首個(gè)限制外賣配送的城市”，迅速引發(fā)關(guān)注形成網(wǎng)絡(luò)熱搜。經(jīng)查，四川德陽網(wǎng)民楊某組織招攬廣東江門網(wǎng)民葉某等多名兼職人員，使用人工智能工具批量生成不實(shí)文章進(jìn)行引流牟利。葉某為吸引眼球編造發(fā)布上述謠言，擾亂社會(huì)正常秩序，廣州公安機(jī)關(guān)已對(duì)楊某、葉某等6名人員采取刑事強(qiáng)制措施。
作為一種新型謠言傳播趨勢(shì)與犯罪手段，“AI造謠”擾亂了輿論秩序，危害經(jīng)濟(jì)和社會(huì)平穩(wěn)運(yùn)行，給網(wǎng)絡(luò)謠言治理帶來了新挑戰(zhàn)。上述典型案例體現(xiàn)了公安機(jī)關(guān)打擊“AI造謠”毫不手軟的態(tài)度，以及護(hù)航經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展的堅(jiān)定決心。
在開展網(wǎng)站平臺(tái)綜合治理方面，去年12月以來，山西省公安機(jī)關(guān)累計(jì)開展互聯(lián)網(wǎng)安全監(jiān)督檢查1700余次，對(duì)不履行主體責(zé)任和義務(wù)的網(wǎng)站平臺(tái)，依據(jù)情節(jié)輕重分別處以警告、責(zé)令整改、罰款等整治措施145家次，指導(dǎo)督促134名網(wǎng)紅大V和12家公眾號(hào)運(yùn)營(yíng)企業(yè)履行網(wǎng)絡(luò)治理責(zé)任。
去年12月以來，上海警方針對(duì)網(wǎng)上惡意炒作、造謠生事等網(wǎng)絡(luò)違法亂象開展全力集中整治，截至目前，累計(jì)查處網(wǎng)絡(luò)謠言384起，依法查處造謠傳謠人員530余人，清理網(wǎng)上謠言信息53000余條，依法關(guān)停違法違規(guī)賬號(hào)5000余個(gè)。
上海警方表示，將持續(xù)為凈化網(wǎng)絡(luò)空間做出更多努力，縱深推進(jìn)打擊整治網(wǎng)絡(luò)謠言專項(xiàng)行動(dòng)，依法嚴(yán)查涉公共安全、涉經(jīng)濟(jì)民生等領(lǐng)域的造謠行為，嚴(yán)懲在互聯(lián)網(wǎng)上惡意顛倒黑白、造謠生事的違法犯罪人員，加大典型案例曝光力度，持續(xù)強(qiáng)化與相關(guān)部門協(xié)作，壓實(shí)網(wǎng)絡(luò)平臺(tái)企業(yè)責(zé)任，提高網(wǎng)絡(luò)生態(tài)綜合治理水平。
公安機(jī)關(guān)鄭重提示，網(wǎng)絡(luò)不是法外之地，請(qǐng)廣大網(wǎng)民嚴(yán)格遵守相關(guān)法律法規(guī)，自覺規(guī)范個(gè)人網(wǎng)上言行，不斷提升識(shí)別防范抵制網(wǎng)絡(luò)謠言能力。(記者 張晨)
編輯：譚鵬
