随着大语言模型（LLM）和生成式 AI 的快速发展，企业对 AI 基础设施的需求呈爆发式增长。然而，AI 工厂（AI Factory）——支撑 AI 训练与推理的核心 IT 环境——也正在成为网络攻击者的重点目标。Check Point 于近日发布了 AI 工厂安全架构蓝图，为企业构建安全可信的 AI 基础设施提供了系统性指导。
AI 工厂面临的安全挑战
AI 工厂与传统数据中心有本质不同，其安全挑战更为复杂：
- 攻击面急剧扩大：AI 工厂涉及数据采集、模型训练、模型部署、推理服务等多个环节，每个环节都引入新的攻击向量。
- 数据敏感性极高：训练数据往往包含企业核心知识产权、商业机密甚至个人隐私，数据泄露的后果极为严重。
- 供应链复杂：开源模型框架、第三方预训练模型、外部数据集等供应链环节多，来源验证困难。
- 实时性要求高：推理服务对延迟敏感，安全检测不能显著影响模型响应时间。
- 算力基础设施特殊：GPU 集群、RDMA 网络、高速存储等基础设施的安全管理需要专门方案。
📌 真实事件：AI 工厂已成为攻击目标
2025 年，多个云服务商的 AI 训练环境遭到针对性攻击，攻击者尝试窃取训练数据集和模型权重。某研究机构的 LLM 训练任务被植入后门模型，对特定提示词产生系统性偏差输出。这些事件表明，AI 工厂的安全防护已刻不容缓。
Check Point AI 工厂安全架构蓝图
Check Point 提出的 AI 工厂安全架构分为四个核心层次：
第一层：数据安全
训练数据是 AI 工厂最核心的资产。Check Point 建议：
- 对训练数据进行分级分类，识别敏感数据并进行脱敏或加密处理
- 建立数据溯源机制，确保训练数据的来源可审计、不可篡改
- 使用可信执行环境（TEE）保护训练过程中的数据安全
- 对数据管道各环节进行完整性校验，防止数据投毒攻击
第二层：模型安全
模型本身也需要保护，包括防范：
- 模型窃取：通过 API 调用频率分析或模型逆向工程窃取模型权重
- 后门植入：在训练过程中植入隐蔽后门，影响模型特定场景下的输出
- 对抗样本：构造特殊输入使模型产生错误预测或生成有害内容
- 提示词注入：通过恶意提示词操控生成式 AI 的输出内容
第三层：基础设施安全
AI 工厂的底层基础设施包括 GPU 集群、高速网络、分布式存储等：
- GPU 节点间的安全通信与隔离，防止横向移动攻击
- 对容器镜像和 Kubernetes 编排进行安全加固
- RDMA 网络的访问控制与流量监控
- 模型权重与训练检查点的加密存储
第四层：运营安全
AI 工厂的持续运营需要完善的安全运营体系：
- 模型行为监控：检测模型输出异常，及时发现模型被攻击或篡改
- 日志与审计：完整记录模型推理请求、训练作业、数据访问等关键操作
- 威胁情报联动：接入 Check Point ThreatCloud 等全球威胁情报网络
- 应急响应预案：制定 AI 工厂安全事件的处置流程与角色分工
关键防护建议
基于 Check Point 的架构蓝图，我们建议企业 AI 负责人重点关注以下措施：
| 优先级 | 防护措施 | 说明 |
|---|---|---|
| P0 - 紧急 | 训练数据分级与脱敏 | 在数据进入训练流程前完成分级，避免敏感数据直接参与训练 |
| P0 - 紧急 | 模型访问鉴权 | 对模型推理 API 进行严格认证与授权，防止未授权调用导致的数据泄露 |
| P1 - 重要 | 提示词输入过滤 | 在用户输入进入模型前进行安全过滤，防止提示词注入攻击 |
| P1 - 重要 | 模型行为基线监控 | 建立正常输出基线，检测模型输出异常波动，及时发现被攻击或篡改 |
| P2 - 常规 | 供应链安全审计 | 对引入的第三方模型、数据集、框架进行安全审计与签名验证 |
| P2 - 常规 | GPU 集群网络隔离 | 划分专门的安全域，对 GPU 节点间通信实施最小权限访问控制 |
结语
AI 工厂安全是 AI 时代的新课题。Check Point 的架构蓝图为企业提供了一个系统化的参考框架，但具体落地仍需要根据企业实际情况进行定制。安全不是阻碍 AI 发展的阻力，而是 AI 放心落地的保障。
VISBAT 专注于企业级网络安全解决方案，可帮助您评估现有 AI 基础设施的安全风险，设计并实施适合您业务的安全架构。如有需求，欢迎联系我们的安全专家。