20230307-东方财富证券-信息技术行业动态点评_内容监管——AI生态良好发展的先决条件_2页_274kb

内容监管——AI生态良好发展的先决条件总结

核心内容

2023年3月1日，AIGC-X正式开始全网公测。该工具由人民日报社主管、人民网建设的传播内容认知全国重点实验室，联合中国科学技术大学和合肥综合性国家科学中心人工智能研究院共同推出，是国内首个AI生成内容检测工具。AIGC-X旨在通过算法融合与知识驱动的人工智能框架，识别AI生成内容与人工生成内容的分布差异，从而推动AI风险管理、安全审查和评估技术的发展，为构建安全可信的AIGC生态提供技术支撑。

主要观点

• AI内容生成的安全性至关重要：随着人工智能在内容生成领域的广泛应用，其带来的风险监管需求日益凸显。安全可信是AI生成内容（AIGC）良好生态发展的先决条件。
• 技术手段是监管的基础：AIGC-X采用深度建模技术，捕捉困惑度、突现频次等隐式特征，结合内容识别与内容溯源等技术手段，提升AI内容的监管能力。
• 多模态模型将推动内容监管升级：OpenAI等机构正致力于多模态模型的研发，这类模型能够处理文字、音频、图像和视频等多种形式的内容。随着内容生产日趋复杂，监管技术也需要同步发展，以应对图像和音视频内容可能带来的虚假信息、学术造假、网络钓鱼等问题。
• 监管需与技术迭代同步：内容安全管理应伴随甚至提前于技术发展，以防止AI在灰色地带的滥用。监管体系需具备足够的灵活性与前瞻性，以适应不断变化的内容生产模式。

关键信息

投资建议

• 内容输出侧：关注具备泛安全场景化应用能力和内容生产制作能力的当虹科技（688039）。
• 内容应用侧：重点关注国内安防龙头海康威视（002415）。
• 内容安全管理侧：建议关注兼有AI数据资源优势和安全能力的三六零（601360），以及传媒安全领军企业博汇科技（688004）。

风险提示

• 多模态模型推出不及预期风险；
• 技术发展不及预期风险。

投资评级

• 强于大市：维持该评级，表明在AI内容监管领域具有较高的投资价值。

行业与技术背景

• 本报告提及的行业研究包括：大安全成为新基调、数据基础制度建设、政务大数据体系加速、高精定位与地图行业、国产汽车软件厂商投资机会等。
• 这些研究背景强调了AI内容监管在国家政策和技术发展中的重要地位，为AI生态的健康发展提供了政策与技术双重支撑。

免责声明

• 本报告基于合规渠道获取的信息撰写，但不保证其准确性和完整性。
• 报告观点和分析基于作者职业理解，不构成任何投资建议。
• 投资者需自行承担风险，且不得将报告内容用于非法用途或作为诉讼、仲裁等的依据。
• 报告版权归属东方财富证券股份有限公司，未经许可不得复制、转发或公开传播。

总结

AIGC-X作为国内首个AI生成内容检测工具，标志着AI内容监管技术迈出了重要一步。随着多模态AI的发展，内容监管面临更高挑战，需采用更先进的技术手段进行应对。在这一背景下，相关企业如当虹科技、海康威视、三六零和博汇科技值得关注。然而，技术发展和多模态模型的推出仍存在不确定性，投资者需谨慎评估风险。