ISACA可信人工智能治理调研报告2024-202540页_21mb

可信人工智能治理调研报告（2024-2025）总结

核心内容

本报告围绕可信人工智能治理展开，分析了全球和中国在该领域的现状、挑战及未来发展方向。报告指出，尽管人工智能技术已在多个行业广泛应用，但多数企业仍处于技术规划阶段，治理水平参差不齐，且存在伦理、安全、合规等方面的挑战。

主要观点

• 治理框架多元化：各国基于自身国情采取不同治理路径，如欧盟以风险为导向，美国强调市场驱动与行业自律，中国注重发展与安全并重。
• 伦理与安全重视不足：当前企业更关注技术性能与短期效益，伦理问题关注度较低，但未来伦理治理将愈发重要。
• 技术与业务融合困难：算法复杂性、数据适用性与业务流程适配性是当前企业面临的主要挑战。
• 数据安全与隐私保护：数据安全是企业关注的核心问题，特别是在医疗、金融等数据敏感行业。
• 治理水平与投入无明显正相关：治理框架滞后，需加快设计与实施，以匹配技术发展速度。
• 行业治理差异显著：互联网、医疗健康、智能制造和金融行业在治理成熟度、风险评估与政策制定方面表现突出。
• 跨部门协作与培训缺失：治理需多方协同，但目前多数企业仅由技术团队主导，其他部门参与度不高，培训覆盖有限。
• 未来治理方向：建立统一治理框架、加强伦理与数据管理、推动技术与伦理平衡、完善风险评估与闭环机制、促进国际合作与标准化。

关键信息

企业现状

• 应用阶段：39.7%的企业处于技术规划阶段，21.8%已部署人工智能基础设施，仅约10%进入成熟度评估与维护阶段。
• 投入分布：45%的企业投入不足100万元人民币，15%超过2000万元，企业投入呈现两极分化。
• 治理责任：多数企业将治理责任归于技术团队，但需加强跨部门协作与全员培训。
• 模型选择：企业主要使用外部成熟产品，仅13%自建大模型，Open AI系列模型使用率最高。

行业实践

未来展望

• 治理最佳实践：明确责任主体、制定统一政策、平衡技术与伦理、建立闭环评估机制、加强跨部门协作与员工培训。
• DTEF框架应用潜力：提升治理的动态适应性、增强行业适配性、融合全球与本地标准、引入自动化治理工具。
• 行业性建议：推动治理标准化、加强数据管理、强化伦理审核、提升算法安全、建立评估与认证机制。

结论

可信人工智能治理是实现技术安全、可靠与可控的关键路径。企业需在治理框架、技术适配、数据管理、伦理考量与风险控制之间找到平衡。通过跨行业协作、政策融合与技术创新，构建一个安全、透明、公平的可信人工智能生态体系，将是推动人工智能可持续发展的重要保障。

附录：关键数据概览

• 45%的企业人工智能投入不足100万元，15%投入超过2000万元。
• 24.2%的企业在选择模型时考虑伦理问题。
• 70.4%的企业以性能为首要考虑因素。
• 27%的企业最关注数据安全和隐私保护。
• 41%的企业在海外工具受限时选择本土化替代。
• 仅41%的受访者了解公司的人工智能业务环境。
• 人工智能治理水平与技术投入无明显正相关。

参考与致谢

本报告由ISACA中国办公室编写，感谢所有参与调研的专家、企业及行业代表，他们的贡献为报告提供了宝贵的实践见解与理论支持。