提示词工程
2024-06-12 11:10:15 0 举报AI智能生成
登录查看完整内容
用于回答：如何优化提示词；如何解决大模型的幻觉问题
作者其他创作
大纲/内容
清晰
详尽
1.使用简洁明了的语言交代清楚任务，可以减少模型理解指令的难度，提高执行效率。
2.角色扮演，让模型产生更加合适和专业的回答
3.提供足够的上下文，确保提供足够的背景信息，让模型能够在正确的语境下进行思考和回答
4.指定期望的回复格式和风格语气，可以帮助模型更好地组织和格式化它的输出，让结果更符合你的需求。
不依赖于任何先前的示例，直接使用自然语言指令来引导模型完成任务。
Zero-shot
给出一个输入 - 输出示例对，作为模型的参考
One-shot
给出多个输入 - 输出示例对作为上下文，以进一步增强模型的理解和推理能力。
Multi-shot
提供一些样本提示
6.必要的示例
优化提示词的技巧
链式思考技术通过引导模型逐步解释其解决问题的思路，使得模型能够模型更加结构化和深入地处理问题。
使其重诉问题
思考解题步骤
给出最终答案
实现方式
增强透明度和可解释性
提高复杂问题解决能力
改善泛化能力
优点
思维链
多个思维链组合在一起的思维树框架、定向刺激提示框架、知识融合与多跳检索框架等等
思维树
让模型生成多个候选答案，然后通过答案之间的一致性来选出最佳答案
提高可靠性：通过生成多个候选答案并比较其一致性，可以减少偶然错误和异常值的影响，提高结果的可靠性。
鲁棒性更强：自洽性可以帮助模型应对不确定性和模糊性，即使部分候选答案有误，只要多数答案是正确的，仍然可以得到可靠的结果。
探索多样性：通过鼓励模型生成不同的候选答案，自洽性可以帮助发现问题的多种解法，提供更全面的信息。
自我验证（自洽性）
自我辩论框架的思想是让模型扮演正反两个角色，针对同一个问题进行辩论，然后再作出最终判断。通过这种自我辩论，模型可以更全面地考虑问题，并减少偏见。
全面性：通过正反双方的辩论，可以从不同角度全面审视问题，有助于发现隐藏的假设、逻辑漏洞或遗漏的信息。
客观性：辩论过程要求模型必须站在不同立场上思考问题，这有助于克服单一视角的局限性，提高客观性和中立性。
说服力：通过论证和反驳，模型可以更有说服力地支持其观点。这种论证能力对于需要解释和 justify 的任务尤为重要。
自我反思（自我辩论）
核心思想就是将提示工程本身看作一个可优化的任务，通过机器学习的方法或者用大模型的能力来自动发现更有效的提示。
提高效果：通过优化提示词更好地引导模型理解任务要求，生成更高质量的结果。
节省成本：自动化的提示优化可以减少人工设计提示的时间和精力成本。
发现新知识：在优化过程中可能会发现人工难以发现的提示模式和技巧。
自我优化
增加硬提示（采用思维框架）
软提示的核心在于它的灵活性和隐晦性。与硬提示直接指示具体任务不同，软提示通过设置语境或引导思考方向来间接影响模型的输出。这种方法让模型在一个更广泛的框架内自由发挥，从而适应各种复杂的应用场景。
定义
这是一种结合了语义检索和生成式模型的技术。具体来说，它首先从大型语料库中检索与输入相关的信息段落，然后将这些检索到的内容与原始输入一起送入生成模型。
RAG
通过在特定领域的数据集上训练模型，可以显著提高模型对该领域的理解和表现。这种技巧通常需要大量的标注数据，还可能涉及到模型结构或参数的调整。
领域数据微调
常用技巧
增加软提示
提示词工程优化
0 条评论
回复 删除
下一页
