赛迪阿里云中科院软件所2025机密计算保障人工智能系统安全研究报告26页_5mb

机密计算保障人工智能系统安全研究报告2025年1月总结

本报告系统探讨了AI安全面临的核心挑战及机密计算技术的保障作用。随着大模型技术的广泛应用，AI系统需构建涵盖系统、模型、数据、算法四个层次的综合安全框架。主要风险包括平台可信性漏洞、内存与存储攻击、网络渗透、模型窃取及篡改等，传统安全措施在数据生命周期的"使用中"阶段存在显著缺陷，难以应对云环境下的复杂安全威胁。

机密计算技术通过可信执行环境（TEE）实现对"使用中"数据的全周期保护，突破传统加密仅覆盖传输和静态存储局限。其技术演进分为TPM/TCM阶段、TEE阶段及系统级TEE阶段，当前主要技术路线包括x86架构的成熟方案与ARM/RISC-V架构的新兴技术。机密计算推动安全多方计算、同态加密等技术革新，同时促进软硬件协同发展，通过指令集扩展和独立安全核提升计算效率。

在具体实施方案中，微软Azure采用SEV-SNP技术，构建包含推理模块、客户端和通用模块的架构，引入可信第三方和远程证明服务实现跨云信任迁移。阿里云通过TEE runtime Trustiflux与Trustee服务，实现模型数据所有权与使用权分离，支持全生命周期保护，其核心优势体现为对上层应用的透明性、数据动态加密、可审计证明机制及硬件层安全隔离。

机密计算在保障AI数据与算法安全方面具有显著成效：训练场景中通过TEE隔离保护敏感数据，防止未授权访问；推理场景则利用密文计算实现模型知识产权保护，抵抗基础设施提供者及系统管理员攻击。同时，该技术有效支持对抗攻击防护、算法歧视检测等安全需求。

未来发展趋势显示，机密AI将在电子政务、金融、医疗、工业等关键领域深化应用，成为数据共享与隐私保护的关键基础设施。技术协同方面，将与区块链、5G、物联网等技术融合，构建综合解决方案。标准化建设正加快制定平台框架、安全管理、数据合规等标准，推动跨平台互操作性。随着硬件技术进步，隔离执行环境的普及将加速机密AI在云端的广泛应用，满足日益严格的数据隐私法规要求。