【中创】ChatGPT技术被滥用，安全治理亟需政府、企业共同努力！-- 迪族网

【中创】ChatGPT技术被滥用，安全治理亟需政府、企业共同努力！

来源：中创算力　2023-07-07 22:49:34

眼见为实？耳听为真？当心AI诈骗！

只需要提供一张带脸的照片，就可以置换成明星，拟真度非常高，毫无违和感，一个软件就能直接将杨颖整成迪丽热巴！

(相关资料图)

只要迪丽热巴的泪痣和嘴？没问题！

随着人工智能的发展，诈骗团伙的诈骗手段也越来越科技化。

一、利用ChatGPT诈骗

近日，绍兴上虞区公安分局对“网络水军”通过组织发布虚假视频获利行为开展收网打击， 摧毁一利用ChatGPT制作虚假视频的造谣团伙，该案系浙江首例团伙制作虚假视频案件。

上虞警方在网上巡查时发现用户名为“舷忆解说”的某APP网民发布关于上虞工业园区发生火灾的视频，在短时间内浏览量迅速攀升。对此，警方介入核实，确认视频系不实信息。

5月以来，该公司从网上非法收购一批视频账号， 通过ChatGPT技术，拼接制作虚假视频发布网络，博取流量 ，并通过流量算法返款盈利。

二、安全治理亟需努力

政府： 针对AI数字技术犯罪，国家层面相关立法研究正在不断推进。

今年以来就有《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理办法(征求意见稿)》等文件相继发布，为规范AI产业健康发展做出指引。

企业: 在政策引导之余，企业加强AI领域协同治理也至关重要。

1、需要加强监管机构能力建设，及时识别出新的违法犯罪手法，并加以打击整治。

2、应持续提升技术创新能力，通过新技术的开发与应用，提升风险隐患的自主监测、识别和防范能力。

3、加强跨部门、跨领域的协同合作，构建起应对新技术、新风险的安全生态系统。

个人: 作为普通的经济活动参与者，我们需要时刻小心来自身边的陷阱。

1、要加强个人信息保护意识，不要轻易透露自己的身份证、银行卡、验证码等信息；

2、特别要防范人脸、指纹等生物信息的泄露。

3、当收到不寻常的请求或交流时，需要保持警惕，多渠道核实对方的身份和信息，避免仅凭借单一沟通渠道就转账汇款。

技术本无罪，发挥AI技术赋能新一轮科技革命和产业变革的能力，降低技术“阴暗面”对经济社会发展的影响，还需社会各界共同发力、相向而行。

互联网不是法外之地，请严格遵守相关法律规定，规范个人网上言行，做到 " 不信谣、不传谣、不造谣 "，共同维护网络空间秩序。

关键词：

推荐DIY文章