近期，一些不法分子利用AI技術(shù)編造謠言，嚴(yán)重?cái)_亂社會(huì)秩序。他們通過(guò)AI軟件生成虛假新聞和圖片，短時(shí)間內(nèi)能生成大量文章，一天最多可達(dá)7000篇，以此賺取平臺(tái)流量補(bǔ)貼。這些謠言往往模仿新聞風(fēng)格，包含驚險(xiǎn)細(xì)節(jié)，更具迷惑性。

公安機(jī)關(guān)對(duì)此類(lèi)違法行為進(jìn)行了嚴(yán)厲打擊。江西一家MCN機(jī)構(gòu)因發(fā)布多條AI生成的謠言信息被查處，實(shí)際控制人王某某被行政拘留5日，機(jī)構(gòu)停業(yè)整改。在重慶，個(gè)人康某某也因編造民房爆炸謠言被依法行政拘留，并收繳違法所得。

專(zhuān)家指出，平臺(tái)應(yīng)履行相應(yīng)監(jiān)管責(zé)任，合理強(qiáng)化違法成本。平臺(tái)在刺激創(chuàng)作的同時(shí)，應(yīng)盡到消除虛假信息傳播的責(zé)任，對(duì)散布謠言者采取懲罰機(jī)制。法律也應(yīng)匹配違法人員的違法成本，以遏制此類(lèi)行為的蔓延。網(wǎng)絡(luò)并非法外之地，對(duì)于發(fā)布不實(shí)言論、擾亂社會(huì)秩序的行為，公安機(jī)關(guān)將堅(jiān)決依法處理。

天眼查專(zhuān)業(yè)版數(shù)據(jù)顯示，截至目前我國(guó)現(xiàn)存在業(yè)、存續(xù)狀態(tài)的人工智能相關(guān)企業(yè)超424.3萬(wàn)家。其中，2025年截至目前新增注冊(cè)相關(guān)企業(yè)約28.6萬(wàn)余家，從企業(yè)注冊(cè)數(shù)量趨勢(shì)來(lái)看，近五年間，人工智能相關(guān)企業(yè)的注冊(cè)數(shù)量呈現(xiàn)出逐年增長(zhǎng)的態(tài)勢(shì)，并在2024年達(dá)到頂峰。

從區(qū)域分布來(lái)看，廣東省以超過(guò)63.6萬(wàn)余家的人工智能相關(guān)企業(yè)數(shù)量位居首位，占全國(guó)企業(yè)總數(shù)的15%；排在其后的是江蘇省、北京市、山東省和浙江省，相關(guān)企業(yè)數(shù)量分別是超過(guò)33.6萬(wàn)余家、33.1萬(wàn)余家、29.2萬(wàn)余家和25.2萬(wàn)余家。

此外，通過(guò)天眼查天眼風(fēng)險(xiǎn)和深度風(fēng)險(xiǎn)來(lái)看，涉及司法案件的人工智能相關(guān)企業(yè)約占總數(shù)的2.22%。