提示词工程

火山方舟的&nbsp;model&nbsp;name&nbsp;比较特殊，<br>是&nbsp;ep-xxx&nbsp;形式的接入点&nbsp;ID

stream=True

stream=False

首&nbsp;token&nbsp;延迟

用来判断从哪个平台/渠道调&nbsp;API&nbsp;更合适

from openai import OpenAI<br><br>client = OpenAI(api_key="你的key", base_url="平台地址")&nbsp; &nbsp;# ① 定义客户端<br><br>completion = client.chat.completions.create(<br>&nbsp; &nbsp; model="qwen-plus",&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; # ③ 生成参数区<br>&nbsp; &nbsp; messages=[&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; # ② 消息上下文<br>&nbsp; &nbsp; &nbsp; &nbsp; {"role": "system", "content": "You are a helpful assistant."},&nbsp; # 系统提示词：工程师内置<br>&nbsp; &nbsp; &nbsp; &nbsp; {"role": "user", "content": "你是谁？"},&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; # 用户输入：函数的入参<br>&nbsp; &nbsp; ],<br>)<br>print(completion.choices[0].message.content)

生成的最大&nbsp;token&nbsp;个数

温度，控制随机性

只在概率前&nbsp;K&nbsp;的词里选

核采样，累计概率不超&nbsp;p

重复惩罚

随机种子

T&nbsp;→&nbsp;0：永远只选概率最高的那个&nbsp;token（=&nbsp;贪心解码&nbsp;argmax）

T&nbsp;→&nbsp;∞：所有 zi/T&nbsp;都趋近&nbsp;0&nbsp;→&nbsp;所有&nbsp;token&nbsp;概率一样&nbsp;→&nbsp;完全随机

把概率从高到低排序，只取前&nbsp;K&nbsp;个，在这&nbsp;K&nbsp;个里随机采样

top_k=5&nbsp;→&nbsp;只在可能性最大的&nbsp;5&nbsp;个词里挑

概率从高到低累加，累加到刚好不超过&nbsp;p&nbsp;就停，在这些词里随机采样

例：前&nbsp;4&nbsp;个词概率分别是&nbsp;30%、25%、15%、10%，累计&nbsp;80%&nbsp;→&nbsp;top_p=0.8&nbsp;时就在这&nbsp;4&nbsp;个词里采样

训练/使用大模型时有时它像"复读机"一样重复生成同样的内容

调大这个值惩罚重复

设置随机种子后，相同输入每次得到相同输出——调试和测试时很重要

输出：name="深圳游",&nbsp;date="2025年1月1日",&nbsp;participants=["小明","小丽","我"]

精细化控制每个&nbsp;key&nbsp;的手段

典型应用场景：提取用户资料（姓名、邮箱、住址、兴趣）→&nbsp;拿到&nbsp;email&nbsp;字段去调发邮件的&nbsp;Agent&nbsp;→&nbsp;基于住址制定旅游攻略……中间层参数传递全靠&nbsp;JSON&nbsp;结构化

Pydantic&nbsp;的&nbsp;BaseModel&nbsp;也是&nbsp;FastAPI&nbsp;里控制输出格式的标准工具——学它一举两得。

用了&nbsp;json_object，提示词里必须写一句"用&nbsp;JSON&nbsp;格式输出"并给出示例（EXAMPLE&nbsp;JSON&nbsp;OUTPUT），否则可能报错

这种方式有概率失败：以&nbsp;DeepSeek-V3&nbsp;为例，成功率约&nbsp;96%~97%

工程中怎么保证&nbsp;100%？&nbsp;做后处理：对输出做策略性解析/校验/重试，保证每次都是合法&nbsp;JSON

实际工作里不会一行行散写，而是包装成函数/类对外提供接口

用户传一份简历上来，就要立刻得到改好的结果

改简历的提示词要适应算法、工程、供应链、产品经理等所有方向

满足工作流里对输出的要求、满足产品定义场景里用户的使用要求

系统&nbsp;prompt&nbsp;怎么定

三种提示词增强技术（也叫&nbsp;In-context&nbsp;Learning，上下文学习）

少样本学习&nbsp;Few-shot

思维链&nbsp;Chain-of-Thought&nbsp;(CoT)

自洽性&nbsp;Self-consistency

：用户给的材料

JSON/XML

没有一个模板能解决所有场景

核心方法论：基于&nbsp;Bad&nbsp;Case&nbsp;持续迭代

提示词是需要不停优化迭代的过程，直到在定义场景下输出稳定

对&nbsp;DeepSeek-R1、OpenAI&nbsp;o1、Claude&nbsp;thinking&nbsp;这类推理模型

不要用&nbsp;few-shot、不要定义&nbsp;JSON&nbsp;Schema&nbsp;输出格式（官方明确不支持/会影响效果）

只需明确两件事：①&nbsp;要模型完成的任务/目标&nbsp;②&nbsp;需要处理的原始数据/问题/文本。

DeepSeek-R1&nbsp;的问题

系统提示词

用户提示词

准备测试集&nbsp;→&nbsp;写初版提示词&nbsp;→&nbsp;测试&nbsp;→&nbsp;持续调优&nbsp;→&nbsp;发布

①&nbsp;指令清晰明确

②&nbsp;给大模型思考的时间

不用"尽量、应该、最好"等模糊词；强调规则用"必须、一定"

一个任务不要超过&nbsp;3&nbsp;个步骤；不同模块用&nbsp;###、***&nbsp;分隔

收集分类&nbsp;→&nbsp;分析错误原因&nbsp;→&nbsp;提炼根因&nbsp;→&nbsp;迭代测试调整