平衡科技创新与隐私保护的跨国计划加强对ChatGPT的监管

日期：2023年04月15日 12:51 浏览量：1

跨国计划加强对ChatGPT的监管

本报记者王卫

4月3日，德国联邦数据保护专家乌尔里希克尔伯表示，这是出于对数据安全的考虑吗暂时禁用ChatGPT。他表示，禁用该软件的行为属于德国联邦数据保护机构的职权范围。此外，德国联邦数据保护机构要求意大利监管机构提供有关阻止ChatGPT的更多信息。

据专家介绍，上市两个月来已有1亿活跃用户，ChatGPT已成为历史上增长最快的消费者APP。 ChatGPT在实际使用中表现惊人，但也存在着受制于大规模语言模型本身、数据原因等限制，成本高昂、信息泄露等缺点。要在技术创新和隐私保护之间找到平衡点，各方必须不断探索。

跨国随访限制措施

近期，跨国对ChatGPT的不满、恐慌、抵触等负面情绪持续发酵。

据路透社报道意大利个人数据保护局(DPA )近日宣布，从3月31日开始禁止使用ChatGPT，限制OpenAI对意大利用户信息数据的处理，同时立案调查隐私安全问题。这引起了跨国监管机构和企业的关注、德国、法国、爱尔兰等国家开始准备效仿意大利的做法，加强对ChatGPT的监管。

德国的《商报》 4于4月3日引用乌尔里希克尔伯的话说，原则上，同样的屏蔽行动在德国也是可能的。德国要求意大利提供有关禁令的进一步信息。

与此同时，据英国路透社报道，法国和爱尔兰的个人数据监管机构报告称，已与意大利同行取得联系，希望了解更多这一禁令的依据。爱尔兰数据保护机构(DPC )的一位发言人说：“我们正在和意大利监管机构跟进，了解他们行动的依据。我们将与所有欧盟数据保护机构协调此事。 ”。

加拿大广播公司(CBC ) 4月4日报道加拿大联邦隐私监管机构宣布对OpenAI展开了调查。因为该公司“涉嫌未经同意就收集、使用、公开个人信息”。报道同时提到了美国总统拜登及其科技顾问委员会在当天举行的会议上也讨论了人工智能的“风险与机遇”。

据韩国《国民日报》 4月3日报道包括三星、SK海力士、浦项炼铁在内的多家韩国企业采取措施限制ChatGPT的使用，严防员工泄露。 LG电子公司没有发布禁令，但要求员工进行“人工智能和数据使用”方面的培训。

此外，据日经新闻网报道，由于担心信息泄露，包括软银、日立、富士通、三菱日联银行、三井住友银行在内的日本企业在业务运营中的ChatGPT等交互式人工智能server

但据瑞典隐私监管机构称，目前没有禁止ChatGPT的计划，也没有与意大利监管机构联系过。据西班牙监管机构称，还没有收到ChatGPT侵犯隐私和其他投诉但是，并不排除未来调查的可能性。

疑似信息泄露风险

这并不是ChatGPT第一次引起争论。该服务上市后，担心会被用于作弊，传播假消息，误导公众。

ChatGPT由美国人工智能研究室OpenAI于2022年11月30日推出，具有非常惊人的语言理解、生成和知识推理能力。据报道，发售后仅几天注册用户就超过了100万人，两个月的活跃用户数达到1亿，引爆了全网的话题，成为历史上增长最快的消费者APP，掀起了人工智能领域的技术巨浪。但是，不可否认，在ChatGPT被更广泛运用的同时，与之相对应的疑问和担忧也在持续。

业界普遍认为，ChatGPT技术还处于起步阶段，本身存在很多问题。首先，作为一个大型语言模型，ChatGPT的使用成本很高。 ChatGPT基本大模型训练成本高，部署困难，单次调用成本高还有延迟的问题，可能对工程能力有很高的要求。根据数据，OpenAI为了使ChatGPT的语言合成结果更自然流畅，共享45TB的数据、约1兆词对模型进行训练。这大约相当于1351万本牛津词典。一次训练的费用达到了千万美元。

接下来，人工智能技术的信息泄露等社会风险随着使用的庞大数据的规模而进一步扩大。对司法工作来说，在司法人员和ChatGPT的对话过程中ChatGPT获取大量业务相关数据。在案件不符合司法公开条件之前，这些数据不能随意公开。如果发生数据泄露，可能会造成严重后果。另外，OpenAI的使用条件并不保护用户可能在ChatGPT中输入的数据信息。

再次，ChatGPT精度低的问题不容忽视。 ChatGPT的大部分答案都是从已知内容中摘录或收集的，因此对于未知或ChatGPT知识的死角，可能会给出错误或不恰当的建议。例如，司法人员在办案工作中需要兼顾“天理国法人情”需要考虑案件的法律效果、社会效果、政治效果的统一，具有一定的人性化思考，但由于这些往往缺乏或缺乏人工智能，此时的ChatGPT方案存在一定程度的偏差。

数据安全针对与

chatgpt暴露相关的风险，欧盟将个人数据保护放在前列。据报道，欧盟即将发布的《人工智能法案》采取了基于风险程度对人工智能系统进行分类管理的监管思路。但是、ChatGPT这样的生成式人工智能产品对现有的风险分类方法提出了挑战。

实际上，欧洲委员会在2021年提出了《人工智能法案》条例草案，但提案的推进并不像预想的那样顺利。欧洲议会议员们讨论的核心是监管是否会阻碍创新。即，是否平衡数据隐私，阻止人工智能的创新和投资。其中最具争议的领域是决定哪些人工智能系统被归类为“高风险”。知道的人会弄清楚的欧洲立法者目前正在就多方面限制“高风险”AI工具的新规则进行协商。

不仅欧洲议会议员们还没有就提案的基本原则达成一致，政府内部也引起了是否监管ChatGPT的争论。

4月2日，意大利副总理兼基础设施和可持续交通大臣马泰奥萨尔维尼在社交平台上公开批评DPA暂时禁止ChatGPT决定，称其屏蔽行为太“过度”。他说这个监管机构的行为“太虚伪了”仿佛没有常识一样，“大多数在线服务都无法避免隐私问题”。在他看来，这项禁令可能会损害国家的商业发展和技术创新，希望尽快找到解决办法，尽快恢复ChatGPT在意大利的使用。德国政府发言人同样认为没有必要禁止ChatGPT。

据专家介绍，这是一次坚决无效同时又宽容的释放。争论的背后，也展示了如何保护市民数据隐私，避免隐私泄露风险等问题、人工智能广泛覆盖社会生活后，是每个主体必须思考和解决的问题。过于决绝的“一刀切”做法也不值得提倡，监管政策要有可探讨的弹性空间，让企业充分释放创新活力更重要的是保护市民个人数据的隐私和信息安全。这不仅是意大利、德国目前面临的难题，各国也需要在保护数据安全和监管过度之间找到平衡点，在科技创新和隐私保护的两端提供杠杆支撑。 4

平衡科技创新与隐私保护的跨国计划加强对ChatGPT的监管

推荐阅读