Quote
灵感来源于 Buffer of Thoughts 论文,因此用其缩写 BoT 指代“动态提示词系统”
由于用户的具体问题具体场景是精细化的、上下文相关的,我们无法为所有的情境都人工设计出不同的最佳提示词。
因此我们需要一套系统化的设计,能根据用户的具体上下文和诉求,自动生成与之匹配的提示词(包含经验知识),从而让 LLM 能按照这些经验知识执行,获得可预期的结果。
核心点:
- 细分任务场景的自动识别和扩展
- 给定场景生成经验总结(前置依赖需要收集场景问题数据)
- 经验自我迭代优化(基于负面 case 结果优化)
细节层面:
- 场景和经验的存储及检索数据结构设计
- 提示词组装方式,涉及多个场景经验如何拼装