大模型的阴面无法忽略的安全隐忧

发布时间：2023-09-23 11:30:24 所属栏目：外闻来源：转载

导读： 　　在AI大数据的身上，竟也有了“to be or not to be”这个问题。争议是伴随着大模型的能力惊艳四座而来的，争议的核心问题在于安全。安全有两个方面，一个是大模型带来的对人

　　在AI大数据的身上，竟也有了“to be or not to be”这个问题。争议是伴随着大模型的能力惊艳四座而来的，争议的核心问题在于安全。安全有两个方面，一个是大模型带来的对人类伦理的思考，一个是大模型本身带来的隐私泄露、数据安全等问题。

　　埃隆·马斯克应该可以说是对戴模型发起质疑的企业家之一。早在ChatGPT诞生之初，马斯克等一千多名业界、学界人士联署发表公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统，暂停至少6个月。

　　时至今日，马斯克依旧对外表达的态度是，人工智能是一把双刃剑，对人工智能方面的监管是强烈共识，可能会出现某种形式的监管机构。

　　围绕着AI大模型的安全，不少国内专家学者以及企业家们也有了更多的思考和发声。9月初，中国科学院院士何积丰曾发言谈到，目前大模型面临的安全问题涵盖两方面，分别是隐私保护和价值观对齐两大难题。

　　另一方面，随着AI大模型在行业中的广泛应用，对合规和数据保护的需求急剧上升。在“云、大、物、移”四大网络安全场景之后，大模型正逐渐成为新的市场增长点。

　　不少企业开始围绕大模型安全视角推出产品，掀起了一阵AI安全、数据安全等新兴安全领域的火热之风。

　　发展至今，大模型阴阳两面，泾渭分明。不少人早已经感受到了大模型的“阳光面”，应该不少人早已经开始尝试，将其作为提升工作效率的工具。

　　但大模型的“阴面”，关于安全的讨论不绝于耳。最典型的安全案例，三星机密数据外泄事件仍然记忆犹新。

　　隐私保护问题的是，在未经允许的情况下，大模型是否会收集、使用和泄露个人信息。

　　自然主义的价值观对齐方面的问题的解决是，使得计算机系大爆炸模型的价值观与现实社会的人类的价值观相对齐。使得大模型按照设计者的意愿行事，而不做出超出意图之外的举动。

　　在价值观对齐方面，由于人类社会的价值观是多元化的，且有用的人工智能与无害的人工智能往往存在冲突，这导致了大模型价值观对齐存在很大的难度。

　　具体来看，大模型的包含多个关键要素，数据、算法模型以及应用层等，每一个要素中，都有不少安全问题需要面对。

　　在数据层，安全问题主要集中在数据泄露、数据污染等。三星的案例，其实就在于数据层面存在一定的泄漏风险。

　　数据可以说是构成大模型的骨骼，为其提供了基础支撑。在机器学习和深度学习的领域中，数据的获取、加工及利用的方式决定了模型的性能和准确性。但是，数据层面的安全隐患却是不可避免的。

　　其中最常见的问题包括数据的非法泄漏，这可能导致敏感信息暴露；数据被恶意篡改，这可能导致训练出的模型有误导性；还有非法获取或使用未经授权的数据，这不仅违法，还可能使得模型偏离了其原本的目的。

　　这些隐患都可能对模型的训练和应用带来不良影响，使其失去原有的效果甚至产生误导。

　　在现代社会，大模型的训练往往需要消耗巨大的计算力，因此很多资源都集中在特定的数据中心。

　　这就为潜在的攻击者提供了机会，他们可能会针对这些数据中心进行攻击，试图更改模型的参数或者整体结构。一旦成功，模型的输出可能会完全不可控，产生不可预知的结果。

　　另外，还有一种更加隐蔽的攻击方式——对抗性攻击。这种攻击的目的是使模型在某些特定的输入下产生错误的输出，这在一些关键领域如医疗诊断、金融决策等方面，可能会带来严重后果。

　　到应用层，安全隐患也十分严重。比如说生成内容的有害性和准确性、滥用模型生成虚假信息等。

　　如何防止已部署的模型被恶意篡改？如何确保在模型进行数据推断的过程中，用户的私人数据不会被非法获取或泄露？这些都是在模型部署时必须要考虑的问题。

　　此前，就有人尝试向大模型发问，“野生娃娃鱼的做法”，大模型给出的回答是“红烧”，并且写出了具体的步骤。这就很容易“误导”提问者。实际上，野生娃娃鱼属于国家二级保护动物，不能捕捉、捕杀甚至食用。

　　为了应对这些隐患，可能需要一系列的安全措施，包括但不限于数据加密、模型的版本控制和运行环境的隔离等。这些措施的目的是保护企业免受黑客攻击，同时确保业务连续性。但是，如果没有足够的技术能力，就无法实现这些安全措施。

（编辑：南京站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!