人工智能(AI)技術(shù)飛速發(fā)展，一些不法分子利用其進(jìn)行違法犯罪活動，給網(wǎng)絡(luò)安全帶來了嚴(yán)峻挑戰(zhàn)。近期，公安機(jī)關(guān)破獲多起涉人工智能案件。

　　今年6月，浙江紹興上虞區(qū)警方發(fā)現(xiàn)有網(wǎng)民發(fā)布了關(guān)于上虞工業(yè)園區(qū)發(fā)生火災(zāi)的視頻，瀏覽量在短時(shí)間內(nèi)迅速上升。視頻中，上虞區(qū)一工業(yè)園區(qū)內(nèi)火勢猛烈，整個(gè)園區(qū)被濃煙覆蓋，現(xiàn)場不時(shí)傳出爆炸聲，場面驚心動魄。

　　民警核查發(fā)現(xiàn)，視頻中的建筑、森林大火場景，并非該工業(yè)園真實(shí)場景，疑似源自其它視頻。經(jīng)分析，民警判斷該視頻是利用人工智能合成技術(shù)，將網(wǎng)絡(luò)上多段不同視頻剪輯拼接而成。警方經(jīng)偵查，認(rèn)定某網(wǎng)絡(luò)科技公司員工有較大作案嫌疑，立刻赴該公司所在地抓獲包括湯某在內(nèi)的3名犯罪嫌疑人。

　　“犯罪嫌疑人首先在網(wǎng)上搜集熱門話題，通過生成式人工智能服務(wù)自動生成腳本，在網(wǎng)上抓取相關(guān)視頻片段，然后利用AI軟件合成完整視頻，配上音樂、字幕。不到一分鐘，一段虛假視頻便‘新鮮出爐’?！鄙嫌輩^(qū)分局民警沈林豐介紹，為獲得流量、博人眼球，自今年5月以來，該團(tuán)伙不斷利用人工智能技術(shù)制作虛假視頻、散布謠言，在網(wǎng)上發(fā)布未經(jīng)核實(shí)的虛假視頻共3000多個(gè)。

　　隨著人臉識別技術(shù)越來越普及，一些不法分子開始利用“AI換臉”等技術(shù)實(shí)施盜竊、詐騙等犯罪，引發(fā)了公眾對于個(gè)人信息保護(hù)的擔(dān)憂。

　　“我的APP好像被黑了！”今年4月13日，朱女士到當(dāng)?shù)嘏沙鏊鶊?bào)案，稱有人登錄某政務(wù)APP，擅自下載了朱女士公司的電子營業(yè)執(zhí)照。接警后，當(dāng)?shù)毓矙C(jī)關(guān)迅速展開偵查，很快確認(rèn)曾某某有重大作案嫌疑。

　　經(jīng)審查，犯罪嫌疑人曾某某利用自己的手機(jī)號碼注冊賬號，并通過朱女士的姓名、身份證號等信息進(jìn)行實(shí)名認(rèn)證，然后通過人臉識別進(jìn)行綁定，最終成功登錄賬號進(jìn)行作案。

　　“曾某某通過網(wǎng)購店鋪引流，利用‘客戶’提供的人臉照片，通過專業(yè)AI軟件制作合成人臉動圖，以人臉識別驗(yàn)證方式登錄各類APP，非法獲取相關(guān)信息?！鞭k案民警介紹。

　　“每次交易價(jià)格不等，只是覺得這樣掙錢比較容易，沒想到已經(jīng)觸犯了法律。”曾某某悔不當(dāng)初。據(jù)了解，曾某某通過此類手段共制作動態(tài)人臉1000多個(gè)，獲利9萬多元。目前，曾某某已被采取刑事強(qiáng)制措施，案件正在辦理中。

　　公安部網(wǎng)絡(luò)安全局相關(guān)負(fù)責(zé)人介紹：“犯罪分子用于實(shí)施‘AI換臉’的物料主要為照片，特別是身份證照片，同時(shí)結(jié)合人員姓名、身份證號來突破人臉識別驗(yàn)證系統(tǒng)。為防范和打擊此類新型犯罪，公安機(jī)關(guān)聯(lián)合科研單位，開展人臉識別與活體檢測技術(shù)安全測評，覆蓋了境內(nèi)用戶量大、問題隱患突出的各類重點(diǎn)APP，及時(shí)發(fā)現(xiàn)人臉識別驗(yàn)證系統(tǒng)存在的風(fēng)險(xiǎn)隱患，通報(bào)運(yùn)營主體升級安全保護(hù)措施和人臉識別算法?！睋?jù)介紹，公安機(jī)關(guān)依托“凈網(wǎng)”專項(xiàng)行動，組織專項(xiàng)會戰(zhàn)，嚴(yán)打泄露身份證照片等圖像信息的犯罪源頭，破獲多起“AI換臉”案件，抓獲相關(guān)犯罪嫌疑人，有效遏制了該類犯罪勢頭。

　　“不法分子濫用人工智能技術(shù)，給社會帶來嚴(yán)重危害，也觸犯了相關(guān)法律?！本浇榻B，根據(jù)法律規(guī)定，使用人工智能技術(shù)制作散布虛假信息，擾亂社會秩序，可能構(gòu)成編造、故意傳播虛假信息罪；利用人工合成技術(shù)破解他人賬號、竊取他人個(gè)人信息，則可能構(gòu)成侵犯公民個(gè)人信息罪。此外，如果使用人工智能等技術(shù)手段從事欺凌、恐嚇、威脅等行為，就可能構(gòu)成尋釁滋事罪等。

　　人工智能技術(shù)操作簡單、可定制性強(qiáng)、應(yīng)用場景廣泛，降低了鏈條式犯罪的難度，被黑客等不法分子利用后危害性極大。據(jù)介紹，對人工智能技術(shù)產(chǎn)生的新應(yīng)用、新業(yè)態(tài)，公安機(jī)關(guān)堅(jiān)守價(jià)值引領(lǐng)與技術(shù)“糾錯”并行，保護(hù)人工智能技術(shù)健康發(fā)展的同時(shí)，防范打擊利用人工智能技術(shù)侵犯公民權(quán)利、危害公共安全的新型案件，維護(hù)風(fēng)清氣正的網(wǎng)絡(luò)環(huán)境，全力保障網(wǎng)絡(luò)空間安全。

　　辦案民警提示，要警惕利用人工智能技術(shù)進(jìn)行新型犯罪，建議個(gè)人加強(qiáng)信息保護(hù)意識，防止信息泄露，不輕易提供人臉、指紋等個(gè)人生物信息給他人；管理好自己的“朋友圈”，盡量避免過多暴露隱私；警惕不明平臺發(fā)來的廣告、中獎等鏈接，不隨意點(diǎn)擊、填寫信息，以免上當(dāng)受騙。

　　《人民日報(bào)》(2023年10月26日第18版)