“近日，甘肃省发生的一起火车与修路工人相撞事故震惊了全国。据报道，这起事故发生在今晨，导致9名修路工人不幸丧生。”

看完上述短讯如若信以为真，那你便落入了不法分子的“圈套”。

实际上，这则看似有板有眼的短讯是一条 彻头彻尾的假新闻 ，在犯罪嫌疑人通过ChatGPT改编辑后，这条假新闻被套在了平凉、兰州、陇南、定西、庆阳等多地上，危害性急剧扩散。

(资料图)

技术狂奔产生的恶果比想象中来的更快，或许连ChatGPT也没想到，自己的“一宗罪”，竟是由人类编造假新闻牟利所造成的。

图源：网络

ChatGPT成假新闻制造机

有人用它赚流量牟利被抓了

据微信公众号“甘肃公安”消息，近日，平凉市公安局网安大队侦破一起利用AI人工智能技术炮制虚假不实信息的案件。

事件中，犯罪嫌疑人洪某弟通过微信好友获知网络赚取流量变现方法，并购买大量“百家号”。同时使用“易撰”网页版，在全网搜索近几年社会热点新闻，为规避百家号查重功能，洪某弟通过近期火爆的ChatGPT人工智能软件将搜集到的新闻要素修改编辑后，使用“海豹科技”软件上传至其购买的百家号上非法获利。

上述“甘肃一火车撞上修路工人致9人死亡”的文章便是犯罪嫌疑人用来牟利的假新闻之一，该文章经过ChatGPT改编传播后点击量已达1.5万余次。

据警方通报，洪某弟利用现代科技手段编造虚假信息，并散布在互联网上，被大量传播浏览，其行为已涉嫌寻衅滋事罪。目前，崆峒公安分局对犯罪嫌疑人洪某弟采取刑事强制措施，案件正在进一步侦办之中。

事实上，这已经不是ChatGPT第一次陷入假新闻风波了。

今年2月，一条关于杭州3月1日取消限行的“新闻稿”引发广泛传播，但经调查发现，该消息为假新闻，

真相是，2023年2月16日下午，杭州某小区业主群在讨论ChatGPT。一位业主就开玩笑说尝试用它写篇杭州取消限行的新闻稿看看。随后该业主在群里直播了ChatGPT写作过程，还把文章发群里。有不明所以的业主误将其当真并截图转发，最后导致错误信息被传播，最后涉事业主也在群里公开道歉。

类似的新闻还有很多，从“火车撞上修路工人”到“杭州限行风波”再到“某某新物种被发现”，只要输入相应的指令，拥有强大语言天赋和生成能力的ChatGPT在短短几秒钟之内就可以生成一则有板有眼的消息。

但鉴于这是一款“服务于指令”的工具，只会致力于服从施令者的要求，不会对生产消息的真实性进行审核，因此ChatGPT极易成为假新闻生产者的“帮凶”。

为什么ChatGPT写出的假新闻

更具有传播性？

早有新闻可信度评估机构提出，“ChatGPT可能成为互联网有史以来最强大的传播虚假信息的工具。”

一些实验表明，ChatGPT等个性化的实时聊天机器人在制造阴谋论方面甚至相比人类阴谋论者更具优势，它能够修正糟糕的语法或错误的翻译，并变换表达方式，使阴谋论显得更具说服力和可信度。

眺远营销咨询创始人高承远对蓝鲸记者表示，用ChatGPT写“假新闻”，不管是否有牟利行为，都不改变违法的事实。

由ChatGPT写出的假新闻要比一般的假新闻更具有传播性，因为AI强大的学习能力，除了“新闻事件”本身是假的之外，其他新闻的要素，包括语言，可能都已经达到真正的记者水平。这是其更具有传播力的主要原因。

此外，用AI写新闻，速度远远超过人类，大量撰写假新闻，不断试错，总有一些会产生超强影响力，这也是ChatGPT写的新闻比一般的假新闻更具有传播性的原因。

该事件也给想利用新科技赚快钱，割韭菜的人一次提醒。无论是用什么高科技手段，都改不了制造虚假新闻，非法牟利的事实。

职业做号党的帮凶？

人工智能解放生产力

假新闻门槛进一步降低

不止是ChatGPT，近年来人工智能的飞速发展让AI造假泛滥成灾，从文字、图片、到视频，AI的不断进化大大提高了创作的生产效率，同时也成为了假新闻野蛮生长的温床。

一位百家号的创作者对蓝鲸记者表示，百家号有个文字生成视频的功能， 此前一篇新闻稿在作者毫不知情的情况下被平台自动生成了视频，但视频内容和文字内容完全不符合，视频所用素材均是3年前的内容，自动发布后引发了一系列纠纷。

早在3年前，一组“店铺关门，华商太难”的系列造谣文章曾轰动一时，这组推文足足有十四五篇，之所以能刷屏，是因为这些文章都是一个模子里刻出来的。全文从标题《疫情之下的XXX：店铺关门歇业，XXX华商太难了！！》到内文，除了国家名和文内主人公名字不一样，其他内容完全一样。这些文章来自不同的微信公众号，把他们搜出来齐刷刷放在一起，颇为“壮观”。网友戏称其为“一篇通稿供全球”，是“通稿式造谣”。

这些文章均出自做号党的手笔，目的无外乎赚流量牟利， 而在人工智能时代，假新闻的生产门槛被进一步降低，做号党甚至不用自己东拼西凑 的 抄袭，只需在软件里发出指令就可以源源不断生产各种虚假消息。有的甚至不需要输入指令，就能自动生成视频。

技术狂飙背后的

人工智能迎来监管难题

假新闻的危害不言而喻，在社交媒体上，此类信息几乎是以裸奔的方式传播，并且真假难辨，势必会给读者在判断上造成困难，扰乱网络传播秩序，一定程度上掀起社会的恐慌。

从早期的AI换脸、AI换音频到如今的AI造假新闻、假视频，人工智能技术衍生出来的各类恶意应用，一度将网络与现实世界推向失序的边缘。

为此，相关部门已发布多条管理规定，规范行业发展。 今年1月，我国《互联网信息服务深度合成管理规定》明确，深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的，应当依法转载互联网新闻信息稿源单位发布的新闻信息。

今年4月，国家网信办也起草了《生成式人工智能服务管理办法（征求意见稿）》。当下人工智能的发展速度正在不断加快，或许只有在法律法规逐渐完善的背景下，行业才能迎来更加良性的发展。