近期，慶陽(yáng)公安機(jī)關(guān)在整治網(wǎng)絡(luò)亂象、打擊AI不實(shí)信息專項(xiàng)行動(dòng)中，發(fā)現(xiàn)利用人工智能技術(shù)合成傳播虛假視頻的典型案例，均依法處置，及時(shí)阻斷不實(shí)信息傳播，維護(hù)清朗網(wǎng)絡(luò)空間。

慶陽(yáng)公安連續(xù)查處利用AI視頻傳播虛假信息事件

華池公安查處“客機(jī)與汽車同行”等AI虛假視頻事件

華池縣公安局網(wǎng)安大隊(duì)在日常網(wǎng)絡(luò)巡查中，發(fā)現(xiàn)轄區(qū)一網(wǎng)民在某短視頻平臺(tái)發(fā)布了一條“航空客機(jī)與汽車并排行駛在公路上”涉及險(xiǎn)情類高仿真虛假信息。該視頻由AI技術(shù)生成，高度仿真，虛構(gòu)險(xiǎn)情，極易誤導(dǎo)公眾認(rèn)知，擾亂網(wǎng)絡(luò)秩序，造成不良社會(huì)影響。

慶城公安查處多起AI合成虛假視頻事件

慶城縣公安局網(wǎng)安部門在推進(jìn)治理AI不實(shí)信息專項(xiàng)行動(dòng)中，發(fā)現(xiàn)轄區(qū)多名網(wǎng)民為博取流量、提升賬號(hào)熱度，擅自使用AI工具編造虛假視頻并在社交平臺(tái)傳播。經(jīng)核查，這些虛假視頻涉及AI合成的重大交通事故、險(xiǎn)情以及身著警服等內(nèi)容，混淆公眾視聽(tīng)。

經(jīng)查，這些網(wǎng)民的行為違反了《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《生成式人工智能服務(wù)管理暫行辦法》等規(guī)定。鑒于情節(jié)輕微、未造成惡劣社會(huì)影響，民警對(duì)涉事網(wǎng)民逐一開(kāi)展批評(píng)約談，耐心宣講相關(guān)法律法規(guī)及AI內(nèi)容管理要求，明確告知其行為違法性與危害性。經(jīng)教育，相關(guān)人員深刻認(rèn)識(shí)到錯(cuò)誤，主動(dòng)刪除全部違規(guī)內(nèi)容，并當(dāng)場(chǎng)簽訂《網(wǎng)絡(luò)行為自律承諾書(shū)》，承諾今后規(guī)范使用AI技術(shù)，依法上網(wǎng)、文明發(fā)聲。

警方提醒

慶陽(yáng)警方提醒：網(wǎng)絡(luò)不是法外之地，利用人工智能技術(shù)編造、傳播虛假信息，誤導(dǎo)公眾、擾亂社會(huì)秩序的行為，將依法追究相應(yīng)法律責(zé)任。

慶陽(yáng)公安將持續(xù)保持高壓態(tài)勢(shì)，常態(tài)化推進(jìn)AI不實(shí)信息專項(xiàng)整治，強(qiáng)化網(wǎng)絡(luò)巡查和技術(shù)監(jiān)測(cè)能力，對(duì)相關(guān)違法違規(guī)行為堅(jiān)持“零容忍”。同時(shí)呼吁廣大網(wǎng)民增強(qiáng)法治意識(shí)，自覺(jué)做到不造謠、不信謠、不傳謠，積極舉報(bào)涉AI不實(shí)信息線索，共建安全、清朗、有序的網(wǎng)絡(luò)環(huán)境。