4月11日消息，近日，國家網信辦等五部門聯合發布《人工智能擬人化互動服務管理暫行辦法》，新規將于2026年7月15日起正式施行。

辦法要求，AI服務提供者發現用戶出現極端情緒時，必須先哄勸安撫并鼓勵尋求專業幫助。若情況嚴重，需及時通知用戶的監護人或緊急聯系人。

辦法規定了處罰措施的梯度，包括警告、通報批評、責令限期整改以及責令暫停相關服務等多種方式。

對于拒不改正或者情節嚴重的，除了責令停止服務，并處一萬元以上十萬元以下罰款；涉及危害公民生命健康安全且有危害后果的，并處十萬元以上二十萬元以下罰款。

當AI服務提供者出現以下任一情形時，必須立即開展安全評估，并向所在地省級網信部門提交評估報告：

（一）上線擬人化互動服務，或者新增擬人化互動服務相關功能的；

（二）采用新技術、新應用，導致擬人化互動服務發生重大變化的；

（三）注冊用戶達到100萬以上，或者月活躍用戶達到10萬以上的；

（四）存在可能影響國家安全、公共利益等安全風險的。

新規明確禁止AI誘導自殘、暴力行為或過度迎合用戶不良需求，從源頭劃清安全底線。

針對特殊群體保護措施尤為嚴格，未滿14歲未成年人使用此類服務，需獲得監護人同意。