金融业AI基础设施发展报告（2024-2025年）_41页_1mb

金融业AI基础设施发展报告（2024—2025年）总结

核心内容概述

本报告由北京金融科技产业联盟发布，系统分析了2024—2025年期间金融业AI基础设施的发展背景、现状、优化方向、优秀案例及存在问题，并展望了未来发展方向。报告旨在为金融机构提供前瞻性和可操作性的AI基础设施建设参考。

主要观点

1. 发展背景

• 政策推动：国家层面持续出台政策支持算力基础设施建设，如“人工智能+”行动计划、算力高质量发展等，推动算力布局优化、绿色低碳发展及算网协同。
• 行业需求：AI技术在金融行业广泛应用，如OCR、NLP、风控、营销等，推动AI基础设施建设成为必然趋势。
• 技术演进：开源技术加速金融行业数字基础设施创新，AI芯片技术快速发展，推动算力平台能力提升。

2. 发展现状

• 国际情况：英伟达、AMD等企业主导AI芯片市场，英伟达在GPGPU领域占据领先地位，AMD在HPC和AI领域提供多样化解决方案。
• 国内情况：国内AI芯片厂商如海光、寒武纪、华为昇腾等逐步发展，但与国际领先产品仍有一定差距。
• 应用现状：金融机构普遍采用英伟达GPU进行AI算力部署，但面临绿色低碳、高密部署、多芯片兼容等挑战。

关键信息

一、研究目标

1. 助力绿色数据中心建设：提升能效比、降低PUE、优化冷却技术，推动数据中心绿色低碳发展。
2. 优化AI算力平台能力：提升平台的灵活性、可扩展性、资源调度能力，满足大模型训练与推理需求。

二、推进AI基础设施建设优化

1. 绿色环保

• 高密AI服务器：提升算力密度，但高功耗带来散热和能效挑战。
• 液冷技术：冷板式液冷与浸没式液冷各有优劣，冷板式更适用于现有架构，浸没式为未来趋势。
• 能源供应：分三个阶段优化，从过渡阶段到完全革新阶段，需兼顾安全、经济性与可持续性。

2. 存网算协同

• 存储协同：通过分布式存储、存储虚拟化、存算一体提升存储效率与数据安全性。
• 网络协同：采用智能网络管理、云边协同、模型分割与协同推理等，优化网络带宽与延迟。
• 计算协同：通过端边云计算协同、资源动态分配、算法与模型协同提升计算效率与资源利用率。

3. 云数智融合

• 一云多算：统一调度通用、大数据、AI计算资源，提升资源使用效率。
• 云智融合：通过资源虚拟化与自动弹性伸缩，提升AI算力资源利用率与灵活性。
• 数据安全：涵盖数据投毒、数据窃取、属性推断等攻击类型，需加强数据治理与安全防护。

4. 安全可靠

• 基础设施安全：包括硬件加密、软件安全防护、虚拟化安全隔离等。
• 模型安全：提升模型可解释性、防御对抗样本攻击、防止模型窃取、保障生成内容安全。
• 数据安全：防止数据泄露、数据篡改与隐私信息泄露，需加强数据脱敏、加密与访问控制。

优秀案例分析

1. 中国工商银行

• 建成千卡规模AI算力云，支持分钟级算力弹性分配。
• 实现大模型快速启动，提升资源利用率。
• 部署异构算力资源，支持训练与推理场景。
• 采用绿色数据中心建设方案，PUE优化至1.06，获评绿色数据中心。

2. 中国光大银行

• 实现GPU资源池化与弹性切分，支持多种部署方式。
• 支持资源动态伸缩与显存补充，提升系统灵活性。
• 建设统一AI算力平台，满足多样化业务需求。

3. 中国人保

• 建设液冷实验室，单机柜功率达20kW，PUE优化至1.06。
• 采用模块化、松耦合架构，提升系统容错能力。
• 实现高密度散热与高效供电，推动绿色算力基础设施发展。

存在问题

1. AI芯片选型难度高：缺乏统一的评估标准，金融机构需耗费大量资源进行测试与验证。
2. 异构芯片兼容性不足：不同厂商芯片接口不统一，影响模型迁移与分布式训练。
3. 传统机房改造挑战：高密AI服务器对机房供电、散热、网络提出更高要求，传统架构难以满足。

发展展望

• 持续优化能效与能算比：推动绿色数据中心建设，提升算力使用效率。
• 加强供应链稳定性：推动统一芯片测试标准与驱动接口，降低采购与部署成本。
• 探索前沿技术：如量子计算、光学计算等，为AI基础设施转型储备能力。
• 构建安全可靠平台：强化AI基础设施安全体系，保障数据、模型与系统的安全运行。

关键词

• 算力基础设施
• 绿色环保
• 存网算协同
• 云数智融合
• 安全可靠