2024-05-31-小红书-语义模型在小红书社区搜索的应用_23页_1mb

语义模型在小红书搜索应用总结

小红书搜索问题概述

• 小红书搜索面临多模态数据挑战，包括文本、图像和视频。
• 处理异构内容，如图文笔记、长/短视频、商品、用户评论。
• 需求个性化推荐，以提升用户体验。

语义模型应用分析

• 模型用于提高搜索相关性和个性化排序。
• 应用层包括查询处理、召回和排序阶段。
• 查询处理涉及分词、实体识别、意图预测、改写（纠错、同义替换）。
• 召回阶段使用倒排索引和向量召回，通过用户特征融合。
• 排序阶段结合相关性、内容质量、时效性和多样性，基于LTR（Learning to Rank）和特征融合。

语义模型训练与评估

• 使用BERT作为核心模型，支持文本和多模态数据。
• 训练过程分为预训练（MLM任务）、后训练（BCE或回归任务）和微调。
• 多模态扩展包括Bert + ViT，处理图文部分基于查询和图像配对。
• 在线推理优化，采用蒸馏、摘要（查询依赖提取）、量化和分布式训练，以支持高效推理。

THANK YOU for your attention. For more details, please contact gandalf@xiaohongshu.com.