【谷歌】提示工程_68页_1mb
报告摘要
提示工程是设计和优化输入提示以提高大型语言模型(LLM)输出质量的过程。本文档系统介绍了提示工程的核心概念、方法及最佳实践,涵盖提示类型、配置设置、技巧和自动化策略。
LLM通过预测下一个标记生成输出,其效果受模型选择、训练数据、配置参数及提示设计影响。主要提示类型包括:零镜头提示(无示例,直接给出任务描述)、一镜头提示(单个示例)和少量镜头提示(多个示例)。系统提示定义任务整体目标,角色提示设定模型行为模式,情境提示提供背景信息。后退提示通过先解决一般性问题再反馈到具体任务,提升推理准确性。
提示工程涉及关键配置:输出长度控制、采样方法及温度调整。输出长度影响计算成本与结果质量,温度决定输出的随机性(低温度提高确定性,高温度增强创造性)。Top-K和Top-P是限制预测范围的采样技术,需根据任务需求选择组合。例如零镜头提示通常采用低温、高Top-K和Top-P值,而数学任务应设置温度为0以避免错误。
代码提示是提升模型实用性的细分领域,包含编写、解释、翻译及调试代码的技术。例如使用Bash脚本重命名文件夹内文件,或通过Python实现类似功能时需注意语法调整。结构化输出(如JSON)可提高数据处理效率,但需配合JSON修复工具避免格式错误。变量和输出格式的选择也会影响提示效果,需结合具体应用场景优化。
最佳实践强调:提供明确示例帮助模型理解任务;避免冗余信息,保持提示简洁;优先使用指导性指令而非限制性约束;混合分类任务中的示例类别以避免过度拟合;控制输出长度防止截断问题;记录提示迭代过程以便后续优化。自动化提示工程(APE)通过生成并评估新提示,可提升效率。
多模态提示结合文本、图像等输入形式,适合复杂任务。ReAct(推理与行动)结合自然语言推理和外部工具,如搜索功能,实现代理建模。思维链(CoT)通过分步推理提升答案准确性,自我一致性(Self-Consistency)则通过多路径推理选择最一致结果。思维树(ToT)允许模型探索多种推理路径,适配需要灵活分析的任务。
提示工程需持续实验和调整,不同模型和配置会产生差异。建议使用工具如VefiexAIStudio测试提示效果,并通过记录模板(如表21)跟踪版本迭代和反馈。最终目标是通过反复优化,使模型产出符合预期的准确、结构化结果。
试读结束,高清完整版pdf/doc/ppt,请点下载