IDC蚂蚁集团大模型应用可信框架助力企业构建可信AI体系_10页_1mb

蚂蚁集团大模型应用可信框架总结

核心内容

蚂蚁集团作为世界领先的互联网开放平台，提出了DKCF大模型可信应用框架，旨在帮助企业构建可信、安全的大模型应用体系。该框架整合了**数据（D）、专业知识（K）、能力协同（C）和高效反馈（F）**四大模块，覆盖大模型在专业领域应用的全流程可信管理。

主要观点

• 生成式AI技术的快速发展：大模型和智能体正迅速渗透到金融、医疗、政务、能源等行业，推动新质生产力发展，但也带来了新的安全风险。
• 企业面临的安全挑战：包括模型幻觉、内容安全、数据安全、访问控制、推理核验缺失、知识工程不足、数据工程不足以及反馈循环低效等问题。
• 构建可信AI体系的重要性：企业需将安全与治理左移，从战略层面进行设计，结合业务目标，确保AI系统的安全、合规与可解释性。
• DKCF框架的作用：通过数据、知识、能力协同与高效反馈的整合，解决大模型在专业场景中的可信问题，提升其决策准确性与可靠性。

关键信息

全球市场趋势

• 生成式AI将成为未来AI经济的重要驱动力，预计到2030年将贡献22.3万亿美元的全球GDP。
• 大模型在专业领域的应用面临严重挑战，如模型幻觉、推理错误等。
• 超过54%的全球最终用户对大模型幻觉问题表示担忧。

DKCF框架定义

• D（充足数据）：确保模型依赖充分数据进行决策，引入切面按需采集数据。
• K（专业知识）：构建高质量行业知识库，形成领域知识图谱，保障知识的准确性与实时性。
• C（能力协同）：通过多智能体协作和HOP技术，实现复杂任务的分解与执行。
• F（高效反馈）：构建闭环反馈机制，提升模型在训练、推理和执行过程中的可靠性。

HOP技术

• HOP是一种结合编程语言精确执行能力和自然语言知识表达优势的高阶程序技术。
• 用于任务编排和核验，提升大模型在复杂场景下的推理与执行效率。

应用案例

• 在网络安全领域，蚂蚁集团基于DKCF构建了风险研判助手，显著降低了人力成本和知识门槛。
• 该系统稳定运行三个月，初步成效显著，有效缓解了模型幻觉问题。

公司战略

蚂蚁集团聚焦三大发展战略：

1. 支付宝双飞轮：提升支付业务，助力服务业数字化升级。
2. AI优先战略：深耕AI大模型与数据科技，推动技术驱动的创新。
3. 加速全球化：通过移动支付技术，共建全球数字普惠生态。

未来展望

• 企业需构建统一的AI治理框架，涵盖数据、知识、流程和反馈机制。
• AI治理需与企业战略协同发展，重点关注模型的合规性、内容安全、访问安全和数据安全。
• 需加强评测与运营阶段的AI安全治理，推动AI应用的持续改进与优化。

建议与研究方向

• 蚂蚁集团应加快DKCF框架的实践落地，树立多个标杆案例。
• 构建大模型可信应用的技术生态，帮助用户建立符合自身需求的AI安全体系。
• 进一步研究包括：
  • Custom GenAI: Balancing Innovation and Security
  • IDC PlanScape: Agentic AI Security
  • IDC's Unified AI Governance Model

厂商概述

• 蚂蚁集团：起源于2004年的支付宝，业务涵盖数字支付、金融、科技、全球化等。
• 大模型布局：百灵大模型已完成备案，具备万亿级语料和千亿参数，处于中国大模型第一梯队。

总结

DKCF框架是蚂蚁集团在应对大模型可信挑战方面的创新解决方案，通过数据、知识、能力协同与高效反馈的整合，为企业构建安全、可信的AI应用体系提供了坚实的支撑。该框架不仅提升了模型在专业领域的可靠性，也为企业在AI治理方面提供了可落地的实践路径。