AI技术合成视频成散播谣言工具 筑牢网络防火墙很重要

2023-09-13 09:57:31
来源:央视新闻客户端

原标题:利用AI散布谣言“杀猪盘”延伸黑链条……网络安全防火墙如何筑更牢?

9月11日至17日,2023年国家网络安全宣传周在全国范围内统一开展。当前,以大数据、人工智能等为代表的信息技术日新月异,与此同时,网络攻击、网络窃密、网络诈骗频频出现,网络安全的风险正在被技术不断放大。网络安全风险对于个人、社会、国家意味着什么?技术的更新换代又让现今的网络安全面临哪些新情况、新问题、新挑战?严防攻击窃密诈骗,网络安全防火墙如何筑更牢?

我国网民规模超10亿人 网络安全事关你我

截至2023年6月,我国网民规模达10.79亿人,较2022年12月增长1109万人,互联网普及率已经达到76.4%。当前,以大数据、人工智能等为代表的信息技术日新月异,给我们的生活带来很大极大便利。同时,网络攻击、网络窃密、网络诈骗频频出现,一些不法分子利用快速迭代的技术不断放大网络安全的风险。

利用网络技术 "杀猪盘"延伸黑链条

近年来,各地各部门不断加大打击治理电信网络诈骗违法犯罪力度,有效遏制了案件快速上升势头。然而,仍有犯罪分子铤而走险,不断翻新手段实施诈骗。就以杀猪盘为例,随着技术的更新换代,网络诈骗团伙一方面在境外多地设立多个电信网络诈骗窝点,配备电脑、手机、聊天软件账号等作案工具;另一方面,组建国内洗钱人员、技术维护团队、国内推广引流团队、窝点主管、窝点作案人员,搭建虚假投资理财返利等App,利用国内公众号或网站推广引流,最终吸引潜在受害者下载指定App实施“杀猪盘”诈骗活动。

利用AI散布谣言 “有视频也未必有真相”

对于我们个人来说,网络安全的风险让犯罪分子盯上了我们的钱袋子,而从社会层面来说,眼下,就有不少人利用AI技术散播谣言,严重扰乱社会秩序,造成恶劣影响。

“有视频也未必有真相”。今年6月2日,浙江警方破获一起利用AI技术制作虚假视频编造网络谣言非法牟利案。这则“绍兴上虞工业园区发生重大火灾”的视频就是通过AI技术深度合成,看上去煞有其事的播报事件,实际上子虚乌有,视频实为网上其他火灾画面剪辑拼接而成。

记者了解到,5月中旬以来,该团伙为吸粉引流、牟取利益,利用AI合成技术自动生成虚假视频,通过平台返利形式非法获利4万余元。截至案发,已经编造虚假视频1.8万余个,有20个视频造成恶劣影响。

通过AI合成技术,不法分子大大降低了虚假视频的制作门槛,有的仅需1分钟就可以制作完成;而当这种技术应用在虚假文章生产上,则成了违法违规的重灾区。

今年6月,一则“绵阳大学生涉嫌卖淫800多次,赚120余万元,警方成功抓获”的配图文章引发网民围观,后经警方证实,为AI软件自动生成虚假文章;

今年3月,山东警方破获一起特大造谣引流网络水军案,某传媒公司利用群控软件和人工智能技术,大肆爬取境内外短视频内容,篡改编造敏感社会事件,在网络平台发布虚假信息,通过其运营的自媒体账号达4万多个,虚假帖文信息80多万篇。

除了一些“网络水军”通过编造传播虚假信息,造热点、带节奏、牟取经济利益,更有一些不法分子,利用网络谣言实施敲诈勒索。

今年3月以来,山东张某某等3人运营多个超百万粉丝的“大V”账号,专门编造发布针对单位或个人的虚假信息,并使用多个账号相互转发评论进行炒作,借机向受害单位及个人敲诈勒索,严重扰乱社会秩序,造成恶劣影响。

武汉市地震监测中心遭境外网络攻击事件

对于个人来说,网络诈骗让人深恶痛绝,而对于社会和国家来说,网络攻击、网络窃密又会构成哪些威胁?今年7月,武汉市公安局江汉分局发布了一份不同寻常的警情通报,通报显示,武汉市地震监测中心部分地震速报数据前端台站采集点网络设备遭受网络攻击,相关的地震烈度数据极有可能被窃取。

据江汉分局警情通报显示,此次武汉地震监测中心遭受网络攻击后,地震速报前端台站采集的地震烈度数据极有可能被窃取。

据地震领域的相关专家介绍,地震数据是目前探测地下空间最有效的一个手段。调查组获取的大量证据也显示,此次武汉地震监测中心遭遇网络攻击的幕后黑手,来源于美国的情报机构。

360公司网络安全专家 边亮:通过大数据我们发现了一个样本的编写复杂度,这种武器的缜密程度,包括攻击的单位的重要程度,一个非常特别的攻击事件。我们把这个事件进行分析和还原,发现它里边这种代码的编写习惯,包括武器的整体架构,都严格遵循着CIA(美国中央情报局)相关那种技术框架。

据了解,近些年,美国的国家安全局、中央情报局等情报机构频繁对我国相关敏感机构发动网络攻击,他们的网络武器使用了极其严格的间谍技术规范,各种攻击手法前后呼应、环环相扣,现已覆盖全球几乎所有互联网和物联网资产,可以随时随地控制别国网络,盗取别国重要、敏感数据。

国家计算机病毒应急处理中心高级工程师 杜振华:目前在美国情报机构体系中主要情报机构有18个,除了中央情报局和国家安全局外,隶属于美国国防部的国防情报局、国家地理空间情报局,国家侦察局等,都具有很强的军事地理地质信息情报分析能力。此次攻击,我们不排除多个情报机构合作的可能性。

网络安全领域面临哪些新挑战?

随着技术的发展,目前,网络安全领域面临哪些新情况、新问题、新挑战?

广东省数字政府网络和数据安全应急响应专家组专家 李新亮:我们面临的网络安全形势越来越严峻了,分布式拒绝服务攻击同期上升了200%,网站被篡改的数量同期增长了159%,被植入的后门同期增长了250%多。我们面临的一些问题特别是在网络安全建设方面,因为在过往我们更多的基于合规去建设网站安全能力,这样的话,如果面对高强度的网络攻击或者多样化的网络攻击是远远不够的。

全国信息安全标准化技术委员会委员 李雪莹:生成式人工智能可能会被攻击者用来挖掘漏洞生成恶意代码,甚至自动地进行网络攻击,这就降低了网络犯罪的门槛,给网络安全带来了一个巨大的挑战。生成式人工智能也有可能被用来生成一些虚假的信息,这些信息在社会层面和国家层面可能会造成相应的安全危害。

网络安全“四梁八柱”基本确立

今年是我国网络安全法施行的第6年。这部我国网络安全领域的基础性法律,对个人信息保护、治理网络诈骗、实施网络实名制等方面作出明确规定,成为我国网络空间法治化建设的重要里程碑。近年来,我国加快推进网络安全领域顶层设计,网络安全的“四梁八柱”基本确立。那么,严防攻击窃密诈骗,网络安全防火墙如何筑更牢?

全国信息安全标准化技术委员会专家 程度:从监管方面,最近几年国家推出了很多关于网络安全方面的法律,从未来的预见来看,这种法律的推动、执行的力度是逐年在加强的。第二,从整个信息化的转型来看,大部分的数据和信息系统,包括一些应用都在云上,所以说未来可能对于云这方面的安全保障,投入人力和物力会越来越多。第三是对于个人信息的保护,增强大家自己的意识,包括对于自己敏感数据泄露的敏感性、警惕性,以及不要随意下载一些恶意软件,公众要提高这样的一些意识。

[编辑:王熠冉]

辟谣报告盘点汇总,一应俱全

吃叶酸会致癌?2024年营养健康科学流言榜发布

2024年营养健康科学流言榜发布......

辟谣信号站第8期 | 韩国飞往青岛飞机坠机、男团全员身亡?

青岛市网上辟谣平台“辟谣信号站第8期”上线,带您梳.........

中国互联网联合辟谣平台4月辟谣榜发布

中国互联网联合辟谣平台盘点4月热传谣言,遏制谣言传.........

北京市网信办依法查处一批违法违规平台账号

根据国家发出的健康睡眠倡议:成年人每天应保持7到8小.........
打击网络谣言