计算机行业专题报告：大模型推理算力知多少？_12页_1mb

总结：

核心观点

• Transformer模型是访存密集型任务，因生成过程需频繁显存数据交互，计算速度虽快于显存带宽，但算力需求估测关键是显存瓶颈，而非FLOPs。
• 推理算力成本高昂，阻碍大模型应用落地；优化技术如参数量化、FlashAttention等平衡算力利用与用户体验，但模型精简可能影响效果。

关键计算

• GPT-3.5推理任务需约5万张英伟达A100芯片支持；L40s作为降本替代，性价比高，尤其适用于非超大型模型，加速应用落地。

投资建议

• 关注AI大模型赋能的企业，包括C端标准化工具类公司（如金山办公、同花顺）、B端专业企业（如恒生电子）、算力相关厂商（如浪潮信息、寒武纪）。

风险提示

• 风险包括AI技术迭代延迟、商业化落地不及预期、政策支持不足及全球宏观经济波动。