民警驾警车飞奔而来，起因却是男子用AI生成的“玩笑照”
“你的车被撞了肇事者逃逸了我拍照片给你看”
近日
云南玉溪新平县的陈女士接到朋友张先生电话时心里咯噔一下
很快手机屏幕亮起一张“车损照”弹了出来车辆尾部划痕刺眼漆面磨损明显
男子发送的AI合成图。她没多想立刻拨打了110报警电话
“我的车停在路边被人撞了”
交警接到通知后
驾驶警车赶往现场
可陈女士随后又拨打了110
“我刚刚报案
车子被撞到
是我朋友骗我的……”
交警随后通知二人
将车开到交警队
并说明情况
二人驾驶着“被撞车”
来到交警队后
民警愣住了
车辆完好无损
……
民警拍摄的车辆真实模样。一边是“车辆伤情图”
一边是好端端的车事故怎么就凭空消失了？
民警进一步询问
发来照片的张先生道出了真相
“我用AI合成的就是闲着没事跟朋友开个玩笑”
民警对男子了提出批评教育
民警向二人了解情况。从向AI软件发出生成指令到警车出动不过几分钟
可这种“玩笑”的代价远不止一通电话
就在不久前安徽一名女子用AI软件生成“流浪汉闯入家中”的图片发给丈夫测试反应丈夫吓得立刻报警民警深夜出警核查
青海一男子和妻子闹矛盾后用AI软件合成一张“身处黄河”的假照片制造轻生假象警方启动紧急预案沿河搜救
一幕幕荒诞剧情反复上演
……
而110报警电话是生命热线
也是宝贵的公共资源被虚假警情占用的每一分钟都可能让真正身处险境的人得不到及时救援
而当虚假信息和真实警情在人们的认知里变得模糊社会应急的敏锐度就会受损
中国互联网络信息中心
2025年10月发布的
《生成式人工智能应用发展报告（2025）》显示
截至2025年6月
我国生成式人工智能用户
规模达5.15亿人
普及率已达到36.5%
但是
“玩笑”与“违法”之间的界限法律写得明明白白
《中华人民共和国治安管理处罚法》规定
故意散布谣言
谎报险情、疫情、灾情、警情
或者以其他方法故意扰乱公共秩序的
处五日以上十日以下拘留
可以并处一千元以下罚款
情节较轻的
处五日以下拘留
或者一千元以下罚款
国家互联网信息办公室
工业和信息化部
公安部
国家广播电视总局联合发布的
《人工智能生成合成内容标识办法》
于2025年9月1日起施行
明确提出
AI生成合成内容
必须添加标识
要“亮明身份”
AI生成图片过程的展示。玩笑可以有但绝不能触碰法律红线技术可以用但必须守住伦理边界