上QQ阅读APP看书,第一时间看更新
2.5.5 上下文学习实践
当你开始尝试新的生成式AI模型时,先选择零样本推理。如果模型没有生成你期望的结果,尝试单样本推理和少样本推理。
对于少样本推理任务,提供一组前后一致而且恰当的提示-补全对样本是非常重要的,这些样本需要能够反映数据集的特征,以确保模型能够根据提供的上下文进行有效的学习。
此外,你需要确保上下文不会让提示长度超过给定生成式模型的输入大小或上下文窗口大小。
上下文学习非常有用,但不同模型的上下文学习能力和限制各不相同。如果你发现自己在上下文中使用5个或6个以上的示例后仍然没有得到期望的结果,那么可能需要选择其他模型或对现有模型进行微调。
在第5章~第7章中,我们将介绍微调基础模型的各种方法。
在第9章中,我们将了解如何使用外部数据源(如数据库和知识库)来进一步增强提示。这种技术称为检索增强生成(Retrieval-Augmented Generation,RAG),是更大的生成式AI生态系统的一部分,后者用领域知识来帮助增强提示。
RAG在许多生成式AI任务和用例中改善了模型的响应。
接下来,我们将介绍一些提示工程实践,用以改善生成式AI模型的响应。