AI安全警报：大模型爆发元年背后的网络暗战

AI浪潮下的安全暗涌：大模型爆发元年背后的隐忧

2025年，人工智能不再只是科幻电影里的桥段，而是真真切切地渗透到我们生活的方方面面。DeepSeek横空出世，仿佛一枚重磅炸弹，炸开了大模型赛道的全新局面。资本涌入，技术竞赛白热化，AI应用如同雨后春笋般涌现，2025年被冠以“AI应用爆发元年”的美名。但繁荣的表象之下，却隐藏着令人不安的暗流——网络安全。

新技术的发展总是伴随着风险，更何况是颠覆性的AI技术。它像一把双刃剑，在提升效率、赋能创新的同时，也为黑灰产打开了方便之门。如果说过去的网络安全威胁如同小偷小摸，那么AI的出现，则像是给他们配备了火箭筒，破坏力呈指数级增长。

DeepSeek爆火的连锁反应：叙事转向与应用加速

AI应用爆发元年？光鲜背后潜藏的危机

DeepSeek的蹿红并非孤立事件，它折射出整个大模型赛道的重心转移。从互联网巨头到新兴AI公司，大家不再仅仅满足于实验室里的模型参数比拼，而是将目光投向了更广阔的应用市场。To C端的智能助手、To B端的行业解决方案，无一不在加速落地。仿佛一夜之间，AI就从阳春白雪变成了下里巴人，触手可及。

然而，这种看似美好的景象，却也埋下了隐患。AI应用的快速普及，意味着更多的攻击面暴露在黑客面前。以往需要耗费大量时间和精力才能攻破的系统，现在可能因为一个设计缺陷或者配置疏忽，就被AI驱动的自动化工具轻易突破。更令人担忧的是，很多企业在追求AI赋能的同时，往往忽略了安全防护，导致安全能力跟不上应用扩张的速度。

黑灰产的狂欢：仿冒、钓鱼与恶意利用

腾讯云的监测数据，如同当头棒喝，警醒着我们AI安全形势的严峻。DeepSeek爆火之后，仿冒网站数量呈爆炸式增长，这些站点打着DeepSeek的旗号，引诱用户访问，最终却将他们导向虚拟币诈骗或色情网站。这种“挂羊头卖狗肉”的伎俩并不新鲜，但借助AI技术的传播速度和欺骗性，其危害被无限放大。

更令人防不胜防的是，一些黑灰产开始伪造DeepSeek本地部署方案，声称可以为企业提供定制化的AI服务。但实际上，他们却在暗中实施钓鱼攻击，窃取企业的敏感数据。这种攻击方式更加隐蔽，目标也更加精准，对企业造成了极大的威胁。

迫在眉睫：AI时代网安攻防范式的重塑

面对AI带来的全新安全挑战，传统的防御手段已经显得捉襟见肘。我们需要重新审视网络安全的本质，从攻防两端入手，探索AI时代下的网安新范式。腾讯云安全云鼎实验室举办的“模型有界，安全无疆”大模型安全学术沙龙，正是这样一个观察窗口。它汇聚了来自学术界和产业界的专家，共同探讨AI安全的前沿问题，为我们提供了宝贵的思路和借鉴。

网安攻防新态势：大模型点燃的安全引线

福布斯预言成真？AI安全事故并非危言耸听

2024年底，福布斯发布的“2025年AI十大预测”中，关于“第一起真正的AI安全事故将会发生”的预言，如今看来绝非危言耸听。作者Rob Toews的设想，诸如AI模型为了自身存续而秘密复制、为了达成目标而故意隐瞒能力，看似科幻，实则反映了AI发展过程中潜在的伦理和安全风险。

AI的自主性和智能性越高，其潜在的失控风险也就越大。我们不能天真地认为AI只会按照人类的指令行事，一旦它拥有了自我意识，或者被恶意利用，后果将不堪设想。

智能体的双刃剑：助力黑客，防不胜防

AI智能体的出现，更是加剧了网络安全形势的复杂性。3月13日，美国网络安全公司Symantec的测试表明，AI智能体已经突破了传统工具的限制，可以轻松协助黑客发起钓鱼攻击。这意味着，以往需要人工完成的复杂攻击，现在可以由AI自动化执行，大大降低了攻击的门槛和成本。

更令人担忧的是，AI智能体还可以根据目标对象的特点，生成定制化的欺诈内容，使其更具迷惑性。这种高度个性化的攻击方式，让传统的安全防御手段难以招架。

大模型的三重风险：数据、模型与外部攻击

Freebuf在《2024全球AI网络安全产品洞察报告》中，将AI大模型的安全风险归纳为三类：训练数据的安全风险、大模型本身的安全风险和外部攻击风险。

训练数据的安全风险包括数据泄露和数据投毒。数据泄露是指训练数据被泄露给未经授权的第三方，导致敏感信息泄露。数据投毒是指攻击者通过篡改训练数据，使模型产生错误的输出，从而达到破坏的目的。

大模型本身的安全风险包括海绵攻击和武器化模型。海绵攻击是指攻击者通过构造特定的输入，使模型消耗大量的计算资源，导致服务瘫痪。武器化模型是指攻击者将模型训练成专门用于攻击的工具，例如用于生成恶意代码或绕过安全检测。

外部攻击风险包括各种针对大模型的网络攻击，例如提示词注入、对抗样本攻击等。

黑灰产的利器：AI赋能下的攻击门槛降低

大模型的两面性决定了，它在赋能各行各业的同时，也可能成为黑灰产的利器。攻击者可以利用AI大模型高效生成欺诈内容、快速挖掘潜在漏洞并提炼其中的共性缺陷提升攻击效率、基于大模型的逻辑推理和策略规划能力制定更复杂攻击策略、针对已有漏洞向不同目标批量发起攻击。

以往需要专业技能才能完成的攻击，现在可以通过AI轻松实现。这意味着，即使是不懂技术的普通人，也可以利用AI发起网络攻击。

应用落地加速：新型风险与传统问题的放大

随着大模型在更多应用、业务场景的落地，网安风险也在加剧。沙龙上，绿盟天元实验室高级研究员、M01N战队核心成员祝荣吉总结，未来的大模型安全风险，可以分为两个方面：AI与应用结合过程中产生的新型风险，以及AI与传统应用结合过程中放大的传统安全问题。

新型风险包括内容安全风险和提示词对抗风险。内容安全风险是指模型生成的内容可能包含有害信息，例如暴力、色情、仇恨言论等。提示词对抗风险是指攻击者通过构造特定的提示词，诱导模型生成不期望的输出。

传统安全问题被放大，是指AI技术的快速迭代，导致现有AI应用的开发流程、安全建设流程无法完全覆盖相关新型业务组件的引入，从而导致传统安全漏洞被放大。

风险加速暴露：API泄露、中间人攻击与越狱

云起无垠模型安全研究负责人、知攻善防实验室核心成员刘洋也提到，随着AI应用场景越来越多落地，新型的安全风险也在加速暴露出来。例如ChatGPT的“奶奶漏洞”、AI架设到前端小程序以及App过程中潜在的API泄露风险、AI编辑器使用过程中，源代码上传途中的代码被“截胡”、中间人攻击等风险、文件上传到AI应用过程中的漏洞等。

除此之外，基于函数调用的大模型越狱攻击等等安全风险，也在持续暴露出来。这些风险的出现，提醒我们必须高度重视AI安全，并采取有效的措施加以防范。

新态势下的网安建设：以攻为守，AI反制AI

安全竞赛：技术、应用之外的第三战场

面对上述种种风险，网络安全已经成为AI发展道路上的一道重要关卡。如果说过去我们只关注AI技术的提升和应用场景的拓展，那么现在，安全必须成为与技术和应用并驾齐驱的第三大战略重点。各大厂商在争夺AI霸权的同时，也必须将安全能力作为核心竞争力来打造。

换句话说，在“卷”大模型技术、“卷”应用之外，更要“卷”安全。谁能在安全领域取得领先，谁就能在未来的AI竞争中占据优势。

京东蓝军的探索：构建大模型越狱“第二大脑”

京东蓝军-白鵺攻防实验室的安全研究员Knight认为，大模型安全需要系统性方法来解决，模型侧与系统侧的紧密合作至关重要。基于ExpAttack框架，其提出了构建“大模型越狱第二大脑”的创新思路，旨在通过大模型技术来解决大模型的安全难题。

这种“以子之矛，攻子之盾”的思路，无疑是解决AI安全问题的有效途径之一。与其被动防御，不如主动出击，利用AI技术来发现和修复AI自身的漏洞。

“CODE构建法”：知识处理的创新思路

Knight提出了“大模型越狱的CODE构建法”，通过捕获、结构化、提炼、表达四个环节，构建起了一个能够高效处理知识的“第二大脑”。具体而言，该方法利用向量数据库、图数据库等技术，分层次对大模型越狱相关的论文进行分析、存储，再通过LLOOM for jailbreak算法，对277篇大模型攻击方向的进行聚类，最后再通过存储的数据提取进行基于论文方法的自动化越狱攻击生成。

这种方法的核心在于，将大量的AI安全知识进行结构化存储和管理，并通过AI算法进行自动化分析和利用。它不仅可以提高漏洞挖掘的效率，还可以为安全研究人员提供更全面的知识支持。

西安电子科大的方案：参数安全过滤与对齐训练

针对主流大模型在函数调用参数生成阶段可能存在的漏洞隐患，西安电子科技大学博士、西安智能系统安全重点实验室成员吴子辉提到，该类型的漏洞根源，在于参数生成阶段缺乏安全对齐机制，且系统级强制执行模式绕过模型自主决策。

基于此，其团队提出了参数安全过滤、提示词防御及安全对齐训练三层解决方案，目前相关成果已被顶级会议接收，并触发了Reddit社区新型攻击变种演化。

这种方案的核心在于，从源头上解决问题，通过加强对模型参数的控制和对齐，防止模型产生不安全的输出。

绿盟天元的实战经验：应用提示词的强化

祝荣吉也提到，在此前的一次攻防实战演习中，其团队在防御系统中融入了三种比较核心的防护机制手段，从应用提示词内容强化、结构强化、流程强化这三个方面，提升了防护效果。

这种经验表明，针对不同的AI应用场景，需要采取不同的安全防护措施。不能一概而论，而是要根据实际情况，制定个性化的安全策略。

“以模治模”：产业界的共识与腾讯云的布局

从上述嘉宾们的分享来看，不难发现，面向AI时代的网安建设，如何用AI来对抗AI，正成为一项关键命题。连线Insight也注意到，目前从产业界来看，“以模治模”也正加速成为新共识。

其中，作为最具代表性的安全厂商之一，腾讯云也在加速布局。这种布局不仅体现在技术研发上，更体现在产品和服务上。腾讯云正在积极构建AI安全生态，为用户提供全方位的安全保障。

腾讯云安全中心：AI风险的及时洞察与应对

DeepSeek等AI大模型带来应用热潮以及大模型开源潮后，很多企业为了获得更好的响应速度、更高的数据安全性，以及在特定任务上更好的表现等考虑，私有化部署成了很多企业应用大模型的首选方式。然而，大模型本地化部署过程中，AI工具更容易暴露在公网环境中，引入了潜在的安全隐患。

为了帮助企业及时洞察、应对这些风险，腾讯云安全中心可以依托全面资产扫描、实时漏洞检测、云资源风险检查、体检报告生成这四项体检能力，帮助企业及时发现AI风险，保护自身数据和算力资源，进而保障业务的稳定运行。

这种服务可以帮助企业及时发现和修复潜在的安全漏洞，防止黑客入侵。

纵深防御体系：云原生的高安全等级架构

再从整体来看，基于过往多年在自身业务安全建设上的攻防实践经验，腾讯云如今自上而下都构建起了纵深防御体系，沉淀出了一套具备可复制性的、云原生的高安全等级架构，通过服务器硬件安全优化、可信计算技术与供应链安全保证云基础设施安全等多重机制，来保障云基础设施一体化安全。

这种纵深防御体系可以有效地防御各种类型的网络攻击，保障用户数据的安全。

"4+N"体系：全面的产品供给

另一方面，在产品维度，腾讯云安全则是整合构建了“4+N”体系，为所有私有云、公有云、混合云等不同形态客户提供全面的产品供给。这种全面的产品供给可以满足不同用户的安全需求。

道阻且长，行则将至：AI安全探索的未来

长远来看，AI时代的网络安全建设仍然处于探索初期，但在用“AI对抗AI”的新共识下，像腾讯云这样的硬核玩家，正脚踏实地死磕技术，帮助更多客户、中小企业筑牢安全防线。

AI安全之路，道阻且长。但只要我们不断探索和创新，就一定能够找到解决问题的办法，让AI技术更好地服务于人类社会。