人工智能已经不再是一个独立的、孤立的技术概念，而是贯穿网络安全各个领域，AI智能体也已经从实验室走入千家万户。
安恒信息CTO刘博向21世纪经济报道记者表示，在大模型时代，人们对安全的感知比以往更为强烈。一方面，大模型涉及的数据量庞大且复杂；另一方面，在应用大模型时，往往需要处理大量敏感数据的交互。无论是个人还是企业都对此更加重视。
然而，AI的发展催生了前所未有的安全挑战——攻击与防御的边界因技术迭代而模糊，传统规则式防护体系在动态化、智能化的新型威胁前逐渐失效。
日前，在2025中国数谷·西湖论剑大会上，安恒信息董事长范渊指出，安全与智能密不可分，安全的边界决定着智能的发展疆域，而智能的高度也将重塑安全的维度。
面对新兴挑战，行业正在探索新的防御范式。动态防御、AI对抗AI、隐私计算等新技术方向逐渐成为共识。然而，技术只是解决方案的一部分。标准体系的缺失、跨厂商协作的障碍、法律伦理的模糊地带，都是需要全社会共同应对的课题。
安全挑战加剧
大模型技术加速向金融、政务、企业等领域应用，多种安全风险相互交织、叠加放大。安恒信息首席安全官、高级副总裁袁明坤向记者表示，近两年来，无论是攻击的数量还是强度都有所增加。
传统基于规则和特征匹配的防御体系，在面对AI驱动的动态化、智能化攻击时显得力不从心。数据泄露、模型滥用、协议漏洞等问题层出不穷，而攻击者的手段正因AI的加持变得更加隐蔽和高效。
一方面，攻击手段的智能化升级让防御难度呈指数级增长。
袁明坤向记者表示，勒索病毒编写、网络钓鱼等犯罪活动因AI技术门槛降低而激增。在过去，勒索病毒的编写需要一定的技术门槛，但如今，借助AI，即使是那些原本不具备高超编程能力的人，也能够制造出勒索病毒。这无疑给网络安全带来了巨大的威胁，网络犯罪的规模和频率都有可能进一步扩大。
在网络安全的对抗过程中，AI技术的应用也使得攻击手段变得更加复杂和多样化。传统的攻击方式往往需要攻击者手动使用各种工具进行尝试，而借助大模型的推理能力，攻击者可以更加高效地进行攻击。
袁明坤表示，AI能够自动地对目标系统进行分析和测试，找出潜在的漏洞，并且能够根据已有的攻击结果进一步推导出更多的攻击点。这种攻击能力的成倍放大，使得防守方面临着更大的压力。
另一方面，AI本身的安全问题也逐渐凸显出来。目前，一些大型企业已经将AI技术广泛应用于业务中，其业务的核心部分都依赖于AI。这就使得AI本身的安全性变得至关重要。数据的可见性、可用性以及数据流转的通道等都成为了企业需要重点关注的问题。
智能体技术的普及带来了全新的安全挑战。通信协议是推动多智能体系统协同作业的关键，如Anthropic提出的MCP（Model Context Protocol，模型上下文协议）作为当前的主流标准，该协议在设计之初聚焦于功能协同架构的构建，但在安全体系设计上存在阶段性不足。
“MCP协议安全架构存在先天性不足，在认证机制、权限管控体系以及数据安全防护等核心安全领域，当前协议框架尚未提供有效的技术解决方案。产业界已形成共识，需要额外叠加外部安全组件来弥补协议层面的安全缺陷。”刘博向记者表示。
因此，当MCP与大模型结合使用时，如果配置不当，可能会导致正常的大模型变成恶意模型。
安恒信息高级副总裁、研究院院长王欣向记者解释道，目前，许多大模型采用无监督式训练，在数据语料治理过程中，可能存在一些“脏数据”，这些数据可能被恶意利用。为了安全起见，通用模型厂商通常会进行价值观对齐，但这种对齐很容易被突破。通过简单的方式，攻击者可以绕过价值观对齐的防御体系，使模型执行恶意操作。
袁明坤向记者表示，如果AI系统被攻击者入侵，那么企业的核心数据可能会被窃取或篡改，给企业带来巨大的损失。因此，保障AI系统的安全，防止其被恶意利用，是未来网络安全领域必须解决的重要课题。