【中创】ChatGPT技术被滥用,安全治理亟需政府、企业共同努力!

眼见为实?耳听为真?当心AI诈骗!

只需要提供一张带脸的照片,就可以置换成明星,拟真度非常高,毫无违和感,一个软件就能直接将杨颖整成迪丽热巴!


(相关资料图)

只要迪丽热巴的泪痣和嘴?没问题!

随着人工智能的发展,诈骗团伙的诈骗手段也越来越科技化。

一、利用ChatGPT诈骗

近日,绍兴上虞区公安分局对“网络水军”通过组织发布虚假视频获利行为开展收网打击, 摧毁一利用ChatGPT制作虚假视频的造谣团伙,该案系浙江首例团伙制作虚假视频案件。

上虞警方在网上巡查时发现用户名为“舷忆解说”的某APP网民发布关于上虞工业园区发生火灾的视频,在短时间内浏览量迅速攀升。对此,警方介入核实,确认视频系不实信息。

5月以来,该公司从网上非法收购一批视频账号, 通过ChatGPT技术,拼接制作虚假视频发布网络,博取流量 ,并通过流量算法返款盈利。

二、安全治理亟需努力

政府: 针对AI数字技术犯罪,国家层面相关立法研究正在不断推进。

今年以来就有《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理办法(征求意见稿)》等文件相继发布,为规范AI产业健康发展做出指引。

企业: 在政策引导之余,企业加强AI领域协同治理也至关重要。

1、需要加强监管机构能力建设,及时识别出新的违法犯罪手法,并加以打击整治。

2、应持续提升技术创新能力,通过新技术的开发与应用,提升风险隐患的自主监测、识别和防范能力。

3、加强跨部门、跨领域的协同合作,构建起应对新技术、新风险的安全生态系统。

个人: 作为普通的经济活动参与者,我们需要时刻小心来自身边的陷阱。

1、要加强个人信息保护意识,不要轻易透露自己的身份证、银行卡、验证码等信息;

2、特别要防范人脸、指纹等生物信息的泄露。

3、当收到不寻常的请求或交流时,需要保持警惕,多渠道核实对方的身份和信息,避免仅凭借单一沟通渠道就转账汇款。

技术本无罪,发挥AI技术赋能新一轮科技革命和产业变革的能力,降低技术“阴暗面”对经济社会发展的影响,还需社会各界共同发力、相向而行。

互联网不是法外之地,请严格遵守相关法律规定,规范个人网上言行,做到 " 不信谣、不传谣、不造谣 ",共同维护网络空间秩序。

关键词:

推荐DIY文章
主机存在磨损或划痕风险 PICO4便携包宣布召回
穿越湖海!特斯拉Cybertruck电动皮卡可以当“船”用
vivoXFold+折叠旗舰开售 配备蔡司全焦段旗舰四摄
飞凡R7正式上市 全系标配换电架构
中兴Axon30S开售 拥有黑色蓝色两款配色
荣耀MagicBookV14 2022正式开售 搭载TOF传感器
it