变强速度超出预期，安全问题逐渐变大，多国停用ChatGPT 世界快播-- 迪族网

变强速度超出预期，安全问题逐渐变大，多国停用ChatGPT 世界快播

来源：科技美学　2023-04-08 11:31:56

(相关资料图)

前段时间，小编向大家介绍过，随着最近GPT-4语言模型的正式投入使用，ChatGPT也带来了全新的插件——网络浏览器和代码解释器，赋予ChatGPT使用工具、联网、运行计算的能力。

更新后，跟据全球媒体的反馈来看，GPT-4相较于GPT-3.5确实有很大的性能提升，但出乎全球AI关注者的意料的是最近这种能力似乎有了全新的进化。

(GPT-4反思后，准确率为88%，之前为67%)

一名前谷歌大脑研究工程师发现了GPT-4可以合理的方式批评自己的成果，也就是说GPT-4模型已经有了一定的反思能力，这再一次加快了GPT-4模型的进化速度，据相关媒体测试称，有了反思能力的GPT-4测试成功率相较于没有反思能力的GPT-4提升了30%。

GPT-4越来越快的发展速度可以加重了用户对于个人信息安全的担忧，并且对ChatGPT是否可控提出了质疑。

根据网络安全公司Darktrace公布的最新研究报告，攻击者使用ChatGPT等生成式AI，通过增加文本描述、标点符号和句子长度，让社会工程攻击量增加了135%。

此外，据相关媒体报道，三星电子引入聊天机器人ChatGPT不到20天就发生了3起涉及ChatGPT的事故，其中2起与半导体设备有关，1起与会议内容有关。

为了防止类似事故再次发生，三星正在制定相关的保护措施。如果今后发生类似事故，三星可能切断ChatGPT服务。

而对于快速增长的安全问题不少国家也采取了措施，据人民网报道，就在3月31日，意大利数据保护机构称对ChatGPT的禁止和调查已于3月31日“立即生效”，意大利数据保护机构表示，该模型存在隐私问题。

而在此前，人们一直担心AI的潜在风险，包括它对工作的威胁以及错误信息和偏见的传播。意大利数据保护机构表示，意大利不仅会阻止OpenAI 的聊天机器人，还会调查它是否符合通用数据保护条例。

此外，爱尔兰数据保护委员会也表示，该机构正在与意大利监管机构跟进，以了解他们采取行动的依据，来保护本国用户的信息安全。

而就在昨日，据相关媒体报道称，不只是意大利，德国、法国等国家也可能跟随意大利的做法对ChatGPT进行停用，并且德国相关组织表示已经与意大利相关组织进行了联系，并讨论了调查结果。

据相关媒体报道称，由于多国对于ChatGPT的相关信息安全问题的调查，ChatGPT概念股C3.ai的股价持续走低，收跌26.34%报24.95美元，市值28亿美元，创该股上市以来最大日内跌幅。

就目前来看，ChatGPT确实有其独到的优势，并且相较于其他竞品其性能优势很大，但是目前因为其不能被有效的控制所产生的问题也是非常明显的，首先AI目前并不能每次提供完全正确的答案，会有几率输出错误答案，造成误解；此外，无法对违法行为施加更加严格的管控，使得相关信息安全的犯罪成本和在社交媒体上制造谣言的成本更低，加重了审查的负担。

正如OpenAI的CEO奥特曼在之前接受采访时所说，ChatGPT还是个非常早期的AI。但正式因为其是非常早期的AI，其问题也就更多，在大量训练的过程中就更应该对其加以管控，保障其可以安全有效的使用，否则任其发展未来的情况可能会更糟。

关键词：

推荐DIY文章