2023年AI现状154页重磅报告-stateof.ai-2023.10-154页_6mb

报告摘要

英伟达的市场扩张与算力霸权
英伟达市值突破万亿美元，成为AI芯片领域的绝对领导者。其H100 GPU的算力需求激增，私营公司如特斯拉和Meta加速布局AI基础设施，多地政府（如沙特、阿联酋）竞相采购高端芯片。英伟达的出口管制政策倒逼国内企业寻找替代方案，部分初创公司因此崛起，但整体技术仍依赖美方制裁豁免。
生成式AI（GenAI）掀起产业革命
ChatGPT等模型在编程、教育、医疗等领域的商业化加速。生成式编程助手（如GitHub Copilot）显著提升开发效率；教育领域中，Chegg等传统服务因AI快速迭代面临挑战；医疗领域 Med-PaLM 2模型在医学考试中表现优异，预训练合成数据缓解了高质量数据缺口的忧虑。
投资格局：美国主导，区域分化
美国AI独角兽数量增至315家，总估值590亿美元，欧洲投资衰减超70%。生成式AI融资总额突破180亿美元，2023年私营公司投资额虽不及2022年，但模型研发及并购活动频繁。
开源VS闭源的竞争升级
Meta、MosaicML等机构推动开源模型发展，LLaMa 2系列性能逼近GPT-4。但闭源领头企业的战略投资（如英伟达与初创公司的GPU云合作）仍动摇开源生态根基。

大型语言模型（LLM）跃居中心
GPT-4等模型实现多模态能力突破，多轮对话、代码生成、推理任务表现卓越。RLHF（人类反馈强化学习）技术被广泛采用，但其局限性（如价值不匹配、不匹配泛化）引发对替代方案的研究（宪法模型、自对齐等）。
计算量挑战与数据瓶颈
随着模型规模扩大，计算评估的复杂性增加，模型记忆能力、数据消耗矛盾凸显。合成数据训练显示潜力，但其可靠性和伦理争议尚未解决。
跨模态融合
视觉语言模型如BLIP-2、PaLM-E实现实时操控能力，自动驾驶代理LINGO-1通过语言规划实现复杂环境适应。蛋白设计、气象预测等科学领域利用扩散模型取得重要成果。

监管阵营划清，但全球治理滞后
欧盟《人工智能法案》设定基础模型严格标准，要求模型厂商披露训练数据。英国与美国采取“轻度监管”路径，依赖企业自律。中国在芯片出口限制下加速自研（Mate60芯片搭载麒麟芯），但国家算力规模不足。
AI治理争论加剧
开源模仿闭源的行列，安全中心呼吁“AI核安全局”，反X风险论者（如弗朗索瓦·乔勒）质疑其杞人忧天。国防AI投入激增，美国风投资助较欧洲更少，但大型国防企业依赖海外技术。

易受操控与越狱风险
大型语言模型在错误提示下易产生有害内容，对抗性攻击成功率高达96%。闭源模型虽增强防护，但开放模型漏洞频现，“越狱”工具成为黑灰产工具链一部分。
评估机制失效
模型输出复杂性增加，人工审核效率下降，AI辅助人性监督方案尚不成熟。GPT-4等模型在审核一致性测试中仍表现不佳，语言模型评估螺旋问题愈发突出。
透明度难题
封闭的模型训练流程抬高安全审查成本，开源软件虽提升公平竞争，但滥用风险更大。微软必应聊天机器人Sydney事件暴露模型失控的可能性。