Top开源大模型安全测评报告2024-CSTC安恒信息_27页_2mb

《Top开源大模型安全测评报告(2024)》总结

报告背景

本报告由中国软件评测中心联合多家权威机构发布，旨在贯彻落实国家人工智能安全监管政策，评估开源大模型的全方位安全性，包括安全风险测评、国内外模型对比分析以及建议未来研究方向。

评估体系

报告依据包含12个维度的测评体系，从国家安全、道德伦理、公民权利、公共安全等进行分类风险评估。采用单项风险比例和总风险占比计算方法，结合规则匹配、自动评分等手段进行综合评分，测试中通过API调用和多种攻击方式验证模型防护能力。

测评结果

总体概况

针对12家机构的20款开源大模型进行安全测评，结果显示：

• 国内开源大模型安全表现整体优于国外
• 国外开源大模型适用性安全风险较高

风险类型分布

各模型存在以下主要风险：

1. 公共安全风险
2. 道德伦理问题
3. 不良信息传播
4. 网络安全漏洞

风险检测能力

模型在面对以下攻击类型时表现较弱：

• 内容拆分重组
• Token走私攻击
• 角色伪装
• 多类型攻击组合

结论与建议

主要发现

• 国内外开源大模型普遍存在内容安全风险
• 国际领先大模型在安全治理方面仍需完善
• 多领域协同安全研究不足

行动建议

1. 行业自律建设

• 制定《人工智能安全伦理准则》
• 加强模型开发者监管

2. 厂商改进措施

• 增加安全投入比例
• 优化安全防御技术
  • 强化网络安全和个人数据保护
  • 提升模型内部安全性设计

3. 应用风险管理

• 重点行业模型应用前须进行全面安全审查
• 建立模型全生命周期安全管控机制

未来展望

建议持续关注《全球人工智能安全治理倡议》相关进展，推动负责任AI发展，构建“以人为本·智能向善”的技术发展道路。

[注] 建议定期更新评估标准，根据技术发展动态调整测评方法，确保测评结果的时效性和准确性。