近期，部分網絡賬號發布AI生成信息時未添加標識，以虛假內容誤導公眾，破壞網絡生態。中央網信辦督促網站平臺排查整治，依法處置了13421個賬號，清理違法違規信息54.3萬余條，并通報典型案例。
例如通過AI換臉、克隆聲音假冒公眾人物，發布不實言論吸粉引流或牟利；以及發布AI生成的虛假災害圖片、視頻，惡意編造事故，擾亂公共秩序等。
網信部門表示，將對無AI標識的虛假不實信息保持高壓態勢，發現即處置，嚴厲打擊此類違規行為，以維護網絡空間的清朗和秩序。
天眼查專業版數據顯示，截至目前我國現存在業、存續狀態的人工智能相關企業超500萬家。其中，2025年新增注冊相關企業超120.2萬余家，從企業注冊數量趨勢來看，近五年間，人工智能相關企業的注冊數量呈現出逐年增長的態勢，并在2025年達到頂峰。
從區域分布來看，廣東省人工智能相關企業數量位居首位，以超77.2萬余家相關企業數量占全國總數的15.45%。排在其后的是北京市、江蘇省、山東省和浙江省，相關企業數量分別為超40.1萬余家、38.5萬余家、32.8萬余家和30.6萬余家。
