ChatGPT一本正经胡说八道 谣言泛滥值得警惕

2023-02-23 14:46:26
来源:信网

近日,ChatGPT炮制出一条“杭州3月1日取消限行”的假新闻,引发各方担忧。复盘此事件,是有业主尝试用ChatGPT写了一篇杭州不限行的新闻稿,并在群里直播了全过程和最终文章。有些业主不看上下文,随手截图转发,导致失实信息传播。相关词条也登上热搜,ChatGPT“编造谣言”的“功能”令人担心。如果虚假信息在政治、经济等关键领域泛滥,所造成的社会影响将更加恶劣。

ChatGPT,可以将其简单视为一个“聊天机器人+搜索工具+文本创造工具”的组合体。在国内一般称作“人工智能自然语言处理工具”。根据研究机构测试发现,如果对着ChatGPT提出充斥阴谋论和误导性叙述的问题,它能在几秒钟内改编信息,产生大量令人信服却没有来源依据的内容。

以往的谣言大多都有粗制滥造、漏洞百出的特点,“劣质”谣言的套路尚可总结:来源不权威,轻信短视频平台的非官方媒体账户和朋友圈截图;内容“三不提”:不提“政策”来源部门、不提“政策”所在文件、不提“政策”发布时间;话术真假掺半,如“社保卡统一(假)办理电子版(真),不办理就会被销户(假)”,这样的谣言迷惑性极强;风格吓唬人,惯用“必须”“后果自负”等耸人听闻用词和大量感叹号,目的就是利用焦虑情绪替代判断力。

如今,怀有不良企图的人却可以引导ChatGPT写出逻辑清晰、语言表达流畅的谣言。这样一来,ChatGPT生成的内容很容易被当作是权威信息而大肆传播,而且查证的难度很高。谣言的传播能力取决于事件的重要性、模糊程度和公众的判断能力,ChatGPT的“专业性”影响了受众的判断能力,势必会助推虚假信息的传播。

ChatGPT的使用成本极低,造谣成本同样也在大大降低。“一本正经地胡说八道”不能只是一句调侃的玩笑,“错误的废话”绝不是无足轻重,一旦ChatGPT被不法分子利用输出误导信息,将可能导致ChatGPT衍生成为互联网上制造和传播网络谣言的工具。如果虚假信息在政治、经济等重要领域泛滥,如果谣言大肆泛滥却无法追责,那么对于新闻媒体、平台和大众来说,伤害都是不可估量的。

ChatGPT向人们展现了人工智能先进性,与此同时,造谣工具的“利刃”也在出鞘。2023年1月10日起施行的《互联网信息服务深度合成管理规定》,为ChatGPT套上了制约的枷锁。《规定》中明确,任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。

推动引导ChatGPT有序发展,还需多方发力,方能实现多赢。针对人工智能自然语言处理工具所面临的现实问题,建议使用ChatGPT在互联网生成和发布信息的,进行实名制认证,网络平台加强监管,对结果进行审核。加强互联网人工智能自然语言处理工具管理,在充分调研的基础上,结合《互联网信息服务深度合成管理规定》等法律法规,网信部门可出台相关管理措施,最大程度上保证新技术不被滥用。未来,期待AI安全有更完善的法律保护。

信网评论员 秦璐

[编辑:秦璐]

辟谣报告盘点汇总,一应俱全

染色体XYY的人是“天生罪犯”?1月科学流言榜联合发布

泡温泉会感染HPV,导致患上尖锐湿疣?长冻疮的部位可.........

造谣“文采”不够“科技”来凑?AI写作不是这么用的

只要往系统里输入带有“杀人、失踪”等敏感字眼,附以.........

中国互联网联合辟谣平台发布2023年度网络谣言盘点

一年过去了,这些谣言背后的真相您都了解了吗?中国互.........

近视可从800度降到100度?相关内容实际上是伪科普

近日,有网民在网络平台发布信息称,四川宜宾出现往长.........
打击网络谣言