新京报讯 据公安部网络安全局官方微信公众号消息，随着人工智能生成技术的普及，现在只需输入文字命令就可以生成看起来真假的图像和视频。这不仅大大降低了谣言传播的门槛，也让很多人面临“新闻搜索”和“流量生成”所带来的法律和道德限制。近日，山东省威海市网信部门查获两起利用人工智能捏造、传播网络谣言的违法行为。案例一：近日，威海市网络用户张先生利用人工智能工具，在互联网平台上编造、发布“监狱直播产品”照片的谣言，以吸引其账号关注、流量、获取个人利益，引起大量网络用户的关注和热议，扰民不安。安全。案例二：近日广东省发生台风，威海网友齐某为了吸引眼球和流量，编造了一段虚假的灾情视频，称“广东省阳江市两栋教学楼被台风损坏”，发布到短视频平台上，欺骗了众多网民的注意力，严重扰乱公共安全，造成恐慌，造成社会不良影响。公安机关依法对张某、齐某给予行政处分。法律责任 根据《中华人民共和国治安管理处罚法》第二十五条，散布虚假谣言，谎报危险情况、疫情、警情或者有其他故意扰乱公共秩序的行为，可以处五日以上十日以下拘留，可以并处五百元以下罚款。情节较轻的，处五日以下拘留或者五百元以下罚款。风险与危险 如果我们分析类似案例，一些人工智能传闻的背后，已经形成了一条分工明确的灰色产业链。它具有能够以低成本大量生产的特点。数据显示，人工智能每天会生成 4000 至 7000 篇虚假文章，而成本仅为传统谣言制造成本的 1%。人工智能谣言带来的风险和危险当然值得密切关注。风险和危险主要体现在以下几点： 首先，与传统谣言相比，人工智能谣言因其技术特性，其危害性成倍增加。其次，它们具有很强的模拟性和迷惑性，生成的文字、图像、音频和视频内容逼真，普通网络用户难以区分。第三是强大的进化和迭代能力。空气谣言甚至可以迅速生成新版本来反驳或重复与谣言相矛盾的信息，从而造成动态的“打地鼠”式冲突，使治理变得难以捍卫。如何预防 信息接收者可以通过以下方式识别潜在的人工智能谣言： 检查来源：警惕作者不明、来源不明确或伪装成“网友帖子”或“内幕信息”的内容。可靠的信息通常有合法新闻机构或官方来源的支持。检查详情。对于焦点和视频，请仔细查看典型的人工智能生成的特征，例如角色上不寻常的手指数量、不自然的灯光和阴影效果、视频中的嘴型和音频不同步，以及模糊或扭曲的背景。测试逻辑：确定内容是否存在明显的事实错误或逻辑不一致，例如时间线混乱（用未来的数据来解释过去的事件）或不正确的地理信息。也要用：利用好权威平台辟谣求证。同时，您还可以关注公安部网络安全局发布的相关预警信息。互联网不是法律之外的地方。公安机关将严厉打击网络恶意发明和散布虚假谣言的行为。网民要自觉尊师重道，不传谣、不信谣、不传谣，积极向公安机关举报在网上散布谣言、虚假信息的违法行为，配合构建透明的网络空间。李依林吉编辑