非国家行为体滥用人工智能及其对国际安全的影响_40页_4mb

报告摘要

2026年人工智能与国际安全研究报告总结

核心内容

本报告围绕非国家行为体滥用人工智能技术对国际安全的影响展开，探讨了人工智能技术在提升非国家行为体能力、扩散风险、改变安全治理结构等方面带来的挑战。报告分析了当前AI技术扩散趋势、滥用风险路径及治理对策，并特别关注中美两国在应对这一全球性问题上的合作潜力与必要性。

主要观点

一、非国家行为体滥用人工智能的国际安全风险

技术扩散与治理失衡：AI技术的可及性、通用性和自主进化能力，使得非国家行为体无需高门槛即可获取和利用AI技术。
风险类型多样化：AI技术可被用于网络攻击、虚假信息与认知操控、CBRN相关活动及自主系统部署，对国际安全构成多元威胁。
安全治理机制失效：AI技术的扩散速度远超治理机制的适应能力，导致国际规范滞后、责任模糊、合作基础削弱和逐底竞赛加剧。

二、非国家行为体滥用AI的可能路径

网络攻击：AI可显著降低DDoS攻击成本，提高攻击精准度，实现零代码攻击。
虚假信息与认知操控：AI可生成高质量虚假信息与深度伪造内容，引导人群形成认知偏见，削弱社会凝聚力。
CBRN相关风险：AI可通过整合分散信息、降低技术门槛，辅助非国家行为体进行生物、化学等领域的危险实验。
自主系统滥用：AI与无人系统结合，可能被用于实施自主或半自主攻击。

三、应对非国家行为体滥用AI的治理路径

构建协同治理框架：
- 纳入非国家行为体作为治理对象。
- 建立常态化的风险信息共享与协同响应机制。
- 推动全球治理机制与履约保障体系的建设。
建立国际治理实验机制：
- 推动跨文化伦理标准与技术互操作性。
- 设立高风险应用场景的治理沙盒，进行情景化测试。
- 构建多层、多区域的试点网络，形成“实验-评估-标准化”动态循环。
推动国际能力建设支持框架：
- 建立全球AI安全知识共享网络。
- 推动技术援助与资源共享机制，形成全球公共产品。
- 构建赋权型合作关系，提升发展中国家的治理能力。

四、中美合作的必要性与可行性

共同挑战与责任：中美均面临非国家行为体滥用AI带来的安全威胁，需共同应对。
合作基础存在：尽管中美关系紧张，但双方在AI安全治理上具有共同利益与技术治理的兼容性。
合作路径建议：
- 重启政府间对话机制，推动双边共识向多边机制延伸。
- 推动联合国框架下的全球治理进程，形成具有广泛代表性的“防扩散”治理框架。
- 推动最低限度的共同认知与行为准则，提升全球治理协同性。

关键信息

AI技术扩散：开源与闭源模型均存在滥用风险，需从“风险分级缓释”角度进行治理。
技术滥用案例：
- OpenAI与学术专家合作测试显示，大语言模型可提供生物武器开发路径。
- 恐怖分子利用AI生成虚假新闻、进行意识形态渗透与招募。
治理措施：
- 国内层面：中国通过政策与法律体系（如《网络安全法》《数据安全法》等）构建多元共治机制。
- 国际层面：推动全球安全标准制定、威胁信息共享、国际合作与能力建设。
风险评估与应对：AI滥用风险不仅是技术问题，更是系统性安全问题，需结合情境风险与能力风险进行评估。

结构与建议

治理框架：需构建具有韧性、包容性与适应性的协同治理机制，覆盖技术、政策与法律层面。
合作机制：中美合作应聚焦于技术治理，而非政治竞争，通过最低限度共识推动全球治理进程。
全球南方国家：需加强能力建设与技术援助，防止AI技术滥用对发展中国家造成额外安全威胁。

结论

人工智能技术的滥用风险已从理论讨论转向现实挑战，非国家行为体通过技术赋能，正在改变国际安全格局。有效的治理需结合国内监管与国际合作，通过风险分级缓释、技术生态治理与制度协同，在促进技术发展的同时，防止其被用于破坏性目的。中美作为AI领域的引领者，需在战略竞争中寻找合作契机，推动形成全球性的“AI安全化”治理框架，以应对非国家行为体带来的安全挑战。

展开完整摘要