中新网10月29日电 据“公安部网安局”微信公众号消息,随着AI生成技术的普及,只需简单输入文字指令,就能生成以假乱真的图像、视频,这不仅让谣言传播门槛大幅降低,更让不少人在“猎奇”“博流量”的驱使下,触碰法律与道德的红线。近日,山东威海网安部门查获两起通过AI编造、传播网络谣言的违法行为。
案例一:近日,威海网民张某为提升账号关注度,博取流量、牟取私利,使用某AI工具编造了“在监狱直播带货”图片的谣言信息,并发布在某互联网平台,引发大量网民关注和讨论,扰乱公共秩序。

案例二:近日,在广东台风期间,威海网民迟某为博取眼球、吸引流量,编造“广东阳江两所教学楼因台风受损”虚假灾情视频画面,在某短视频平台发布,误导大量网民关注,严重扰乱社会公共秩序,引发恐慌,造成了不良社会影响。

公安机关依法给予张某和迟某行政处罚。
法律责任
根据《中华人民共和国治安管理处罚法》第二十五条的规定,散布谣言,谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的,处以五日以上十日以下拘留,可以并处五百元以下罚款;情节较轻的,处五日以下拘留或者五百元以下罚款。
风险隐患
通过类似案件看,一些AI谣言的背后已形成分工明确的灰色产业链。其具备“低成本量产”的特性,有资料显示通过AI单日最高可生成4000至7000篇虚假文章,成本仅为传统造谣的1%。AI谣言带来的风险隐患确实值得高度警惕,其风险隐患主要体现在:
一是与传统谣言相比,AI谣言因其技术特性,危害性呈指数级放大:
二是具有高仿真与强迷惑性,生成的文字、图片、音视频内容逼真,普通网民难以分辨。
三是进化与迭代能力强,AI谣言甚至能针对辟谣信息快速生成新版本进行反驳或迭代,形成“打地鼠”式的动态对抗,让治理防不胜防。
如何预防
作为信息接收者,可以通过以下方式识别潜在的AI谣言:
查源头:警惕那些没有明确作者、来源模糊或伪装成“网友投稿”“内部消息”的内容。可靠的信息通常有正规的新闻机构或官方信源背书。
看细节:对于图片和视频,仔细观察是否存在AI生成的典型痕迹,例如人物手指数量异常、光影效果不自然、视频口型与声音不同步或背景模糊扭曲等。
验逻辑:判断内容是否存在明显的事实错误或逻辑矛盾,比如时间线错乱(用未来的数据描述过去的事件)或地理信息错误。
用工具:善用权威辟谣平台进行查证,同时可以关注公安部网安局发布的相关警示信息。
74138
19275
2025-10-29 11:38:22
13429
01485
2025-10-29 11:38:22
41536
68375
2025-10-29 11:38:22
82671
63429
2025-10-29 11:38:22
01493
42079
2025-10-29 11:38:22
43951
58024
2025-10-29 11:38:22
08924
01743
2025-10-29 11:38:22
53287
68937
2025-10-29 11:38:22
10753
40952
2025-10-29 11:38:22
17534
15078
2025-10-29 11:38:22
16257
57168
2025-10-29 11:38:22
52789
12904
2025-10-29 11:38:22
10845
18473
2025-10-29 11:38:22
90587
28704
2025-10-29 11:38:22
56321
37281
2025-10-29 11:38:22
83041
71923
2025-10-29 11:38:22
34528
91704
2025-10-29 11:38:22
63280
65284
2025-10-29 11:38:22
96832
72396
2025-10-29 11:38:22
98613
51463
2025-10-29 11:38:22
98051
69470
2025-10-29 11:38:22
01692
86103
2025-10-29 11:38:22
02361
28543
2025-10-29 11:38:22
32419
12635
2025-10-29 11:38:22
90718
58304
2025-10-29 11:38:22
31256
24893
2025-10-29 11:38:22
59410
04681
2025-10-29 11:38:22
02674
27568
2025-10-29 11:38:22
56024
57419
2025-10-29 11:38:22
60832
34502
2025-10-29 11:38:22
49610
09253
2025-10-29 11:38:22
67049
64532
2025-10-29 11:38:22
68704
65789
2025-10-29 11:38:22
61548
07384
2025-10-29 11:38:22
04613
58920
2025-10-29 11:38:22
26093
69741
2025-10-29 11:38:22