金融业AI基础设施发展报告（2024—2025年）_41页_1mb

金融业AI基础设施发展报告总结（2024—2025年）

核心内容概述

本报告由北京金融科技产业联盟发布，聚焦2024—2025年期间金融业AI基础设施的发展现状、挑战与未来方向。报告从政策、行业和技术三个维度分析发展背景，提出“助力绿色数据中心建设”与“优化AI算力平台能力”两大研究目标，并围绕绿色环保、存网算协同、云数智融合和安全可靠四个关键方向，系统论述了AI基础设施建设的优化路径。同时，选取中国工商银行、中国光大银行和中国人保三家金融机构的创新实践作为典型案例，深入剖析其在AI算力云建设、资源调度与液冷技术应用方面的成果。最后，报告指出当前存在的主要问题，并提出未来发展方向建议。

主要观点与关键信息

一、政策背景

• 2024年3月，人工智能首次被写入政府工作报告，算力基础设施成为推动AI发展的核心要素。
• 国家高度重视算力基础设施建设，出台多项政策推动算力布局优化、算网协同、绿色低碳发展。
• 2025年国务院《关于深入实施“人工智能+”行动的意见》强调构建全国一体化算力网与智算资源协同，为金融业AI基础设施建设提供顶层设计支持。

二、行业背景

• AI技术已深度融入金融行业，涵盖OCR、指纹识别、语音识别等传统技术及生成式AI在营销、风控、运营等领域的应用。
• 金融机构正广泛开展AI基础设施建设，以支撑AI模型训练与推理，提升业务效率和智能化水平。
• 高质量数据与先进数据基础设施是AI应用价值释放的关键。

三、技术背景

• 金融行业AI基础设施建设面临技术路线分散、异构芯片兼容性不足、传统机房改造难度大等问题。
• 为实现高效、绿色、安全、协同的AI基础设施，需制定统一的技术标准，加强AI芯片设计与部署的规范性。

金融业AI基础设施建设优化方向

（一）绿色环保

• 高密AI服务器：单节点配置4块及以上AI芯片，提升算力密度，但高功耗需配套高效散热技术。
• 液冷技术：包括冷板式、浸没式和喷淋式液冷技术，其中冷板式适用于现有机房改造，浸没式更适合新建机房。
• 能源供应：需构建多阶段优化方案，包括过渡阶段、小革新阶段和完全革新阶段，以满足不同规模AI训练需求。

（二）存网算协同

• 存储协同：通过分布式存储、存储虚拟化和存算一体技术，提升数据存储效率和系统性能。
• 网络协同：采用智能网络管理、云边协同架构、模型分割与协同推理等手段，优化网络带宽与延迟。
• 计算协同：通过端边云计算协同、计算卸载和资源动态分配等技术，提升计算资源利用率和系统灵活性。

（三）云数智融合

• 一云多算：通过统一算力调度层，实现通用、大数据、机器学习、大模型等异构资源的高效协同。
• 云智融合：利用AI算力资源虚拟化和自动弹性伸缩技术，提升算力使用效率和资源利用率。
• 云数融合：结合云计算、大数据和AI技术，构建高效的数据处理与智能决策体系。

（四）安全可靠

• 基础设施安全：包括硬件加密、跨节点数据加密、虚拟化隔离等手段，保障AI芯片和数据中心的安全。
• 模型安全：应对可解释性、对抗样本攻击、模型窃取攻击和生成式内容安全，提升AI模型的可信度与稳定性。
• 数据安全：防范数据投毒、数据窃取和属性推断攻击，确保数据在采集、存储、传输和使用过程中的安全性。

优秀案例分析

1. 中国工商银行千卡规模AI算力云建设

• 建成国内首个千卡规模自主可控AI算力云，实现算力分钟级弹性分配。
• 采用云智融合技术，提升整体算力资源使用率超50%。
• 支持大模型快速启动，实现0丢包、超10000I/O吞吐的高效协同。
• 通过绿色数据中心建设，将PUE优化至1.06，达到行业领先水平。

2. 中国光大银行云平台AI算力创新实践

• 实现GPU资源池化与弹性调度，支持多种部署场景（容器、K8S、虚拟机等）。
• 采用资源动态伸缩与显存补充机制，提升GPU资源利用率与灵活性。
• 优化AI算法开发与推理流程，实现资源的按需分配与高效利用。

3. 中国人保大模型智算液冷实验室建设

• 建设双冷源液冷实验室，单机柜功率达20kW，峰值测试功率达30kW。
• 采用模块化、松耦合架构，提升系统容错能力。
• 通过冷板热交换与智能小母线供电，实现PUE优化至1.06，显著降低能耗。

存在问题

1. AI芯片选型难度高：缺乏统一评估标准，金融机构需与厂商沟通进行原型验证，耗费大量资源。
2. 异构芯片兼容性不足：不同厂商的AI芯片接口不统一，导致模型迁移和联合训练困难。
3. 机房建设面临挑战：传统机房难以满足高密AI服务器的高功耗和高散热需求，需进行大规模液冷改造，带来成本压力。

发展展望

• 未来应围绕能效提升、供应链稳定与安全可控持续发力。
• 推动AI芯片统一测试方法和驱动接口标准化，降低选型与兼容难度。
• 加强机房建设方案研究，提供金融机构参考，推动绿色低碳基础设施建设。
• 开展量子计算、光学计算等前沿技术探索，为AI基础设施转型积累经验。

关键词

算力基础设施、绿色环保、存网算协同、云数智融合、安全可靠