AI 探索之理解Prompt

引言

人工智能（AI）近年来取得了惊人的进展，尤其是自然语言处理（NLP）领域，其中“Prompt”作为与AI模型互动的关键桥梁，扮演着至关重要的角色。 通过这篇博客，我们将深入探讨什么是“Prompt”，它在AI模型中的作用，以及如何有效地理解和设计Prompt，从而提升AI应用的效率和效果。

1. 什么是“Prompt”？

AI 相当于美国队长的实力，遇强则强，遇弱则弱，关键其实在于 Prompt。

1.1 定义与概念

Prompt 是一种文本输入方式，用于与自然语言处理模型（例如GPT）进行交互。Prompt 是一个短语或一句话，可以启动模型并产生与 Prompt 相关的输出。这个输出可以是一个单独的单词、一句话，或者是一段完整的段落。它可以控制模型的行为，使其产生特定的结果。

1.2 Prompt的历史发展

早期阶段       机器学习       预训练模型      Prompt工程      最近发展
|            |            |              |              |            |
NLP起源 ----> 机器学习 ----> GPT-2/GPT-3 ---> Prompt工程 ----> 多模态模型
1.
2.
3.

1.2.1 早期阶段

1.2.1.1 自然语言处理（NLP）的起源：

20世纪中期，NLP技术开始兴起，主要依赖于规则和模板。 Prompt最初是简单的命令或模板，用于基本的语言生成任务。

1.2.1.2 机器学习与深度学习

机器学习兴起： 随着统计学习方法的引入，Prompt被用来触发模型生成更复杂的回应。 机器学习模型通过大量数据训练，以提高语言理解和生成能力。

深度学习的进步： RNN和LSTM等深度学习模型提高了文本生成质量。 Prompt用于引导和控制生成的文本内容。

1.2.2 预训练模型

预训练与微调： BERT和GPT等预训练模型出现，利用自监督学习。 Prompt用于微调模型以完成特定任务，例如情感分析或问答系统。

GPT-2和GPT-3的突破： GPT-2和GPT-3展示了高性能的文本生成能力。 Prompt的设计对生成内容的质量和相关性至关重要。

1.2.3 Prompt工程

Prompt工程的兴起： 随着模型能力增强，研究者探索优化Prompt设计。 Prompt工程成为一门学科，专注于提高生成效果。

1.2.4 最近发展

大规模语言模型： GPT-4等模型进一步提升文本生成质量。 Prompt设计变得更复杂，覆盖更多应用场景。

多模态模型： 模型开始支持多模态输入，混合使用文本、图像等形式。 多模态Prompt拓展了AI应用的广度。

2. Prompt在AI中的核心作用

2.1 指导语言生成模型

通过Prompt引导模型生成有意义的、上下文一致的自然语言。

以下是一个简单提示的基本示例：

基本提示

提示：

The sky is
1.

输出：

blue.
1.

扩展输出：

On a clear day, the sky appears bright blue, while on a cloudy day, it can take on shades of gray or white.
1.

改进提示

提示：

Complete the sentence:

The sky is
1.
2.
3.

输出：

so beautiful today.
1.

扩展输出：

It’s a vibrant blue, with fluffy white clouds scattered throughout, making it the perfect day for a picnic or a walk in the park.
1.

通过使用有效的提示工程，可以显著改善模型的输出质量，使其更符合用户的期望和需求。

上面的例子是现今LLMs能够实现的基本演示。如今的LLMs能够执行各种先进任务，从文本摘要到数学推理再到代码生成。

2.2 信息检索与查询

Prompt在信息检索中充当用户查询的角色。通过构建有效的Prompt，可以从模型中检索出相关的信息。Prompt的质量直接影响到检索结果的准确性和相关性。

问答系统中的应用： 在问答系统中，设计良好的Prompt能够引导模型提供精确的答案。例如，通过明确问题的细节或背景信息，Prompt帮助模型锁定更相关的数据，进而生成准确的回答。

2.3 零样本与少样本学习

Prompt在零样本和少样本学习中起到桥梁作用，通过提供细致的任务描述或示例，模型可以在缺乏大量标注数据的情况下完成特定任务。

GPT模型的零样本任务表现： GPT系列模型通过精心设计的Prompt，能够在未明确训练的任务上进行有效推理。例如，提供一个问题和少量示例，GPT可以在不需要重新训练的情况下，理解并生成合理的答案。

2.4 情感与语境理解

Prompt可以通过语言的细微变化影响模型对情感和语境的感知。特定的词汇或语句结构能引导模型在生成内容时捕捉到情感的细腻变化和复杂语境。

• 情感分析：Prompt可以包含特定的情感词汇或情绪指示，使模型在分析文本时倾向于识别和解析这些情感信号。
• 情绪感知：在对话系统中，Prompt可以帮助模型理解用户的情绪状态，从而生成更加同理心的回应。
• 语境推理：通过提供背景信息或特定情境，Prompt能帮助模型进行更深层次的语境理解和推理，生成更加贴合实际情境的内容。

3. 设计有效的Prompt

3.1 从简单开始

在设计提示时，请记住这个过程需要大量的实验和迭代，以找到最佳结果。使用像OpenAI或Cohere这样的简单平台是一个很好的起点。

可以从基础的提示入手，随着添加更多元素和背景信息，逐步提高结果的质量。在此过程中，进行版本控制是至关重要的。在阅读本指南时，您会发现，具体、简洁的提示通常能带来更佳的效果。

对于涉及多个子任务的大型任务，可以考虑将其拆分为更简单的子任务，并在获得更好结果的基础上逐步构建。这种方式可以帮助您避免在提示设计中增加过多复杂性。

3.2 指令

您可以通过使用命令来引导模型执行各种简单任务，从而设计有效的提示，比如“撰写”、“分类”、“摘要”、“翻译”和“排序”等。

请务必进行充分的实验，以确定哪种指令形式最有效。尝试使用不同的关键词、上下文和数据，观察哪种方法最适合您的具体用例和任务。通常情况下，提示中上下文的具体性和相关性越高，效果就越好。在即将发布的指南中，我们将进一步探讨采样和增加更多上下文的重要性。

建议将指令放在提示的开头，并使用清晰的分隔符，如“###”，来区分指令与上下文。

Prompt:

###Instruction###
Translate the text below to Spanish:

Text: "hello!"
1.
2.
3.
4.

Output:

¡Hola!
1.

3.3 具体方式

在设计提示时，确保任务要求清晰且具体非常重要。越详细的提示通常会导致更精确的结果，尤其是在需要特定输出格式或风格时。没有特定的关键字可以保证更好的结果，格式良好且具有描述性的提示更为重要。实际上，提供示例可以有效引导模型生成符合期望的格式。同时，提示的长度也是一个需要注意的因素，因为过长的提示可能会影响生成效果。因此，在设计提示时，要考虑到细节的相关性，以确保它们能对任务产生积极的贡献。这通常需要通过实验和迭代来优化提示。

从一段文本中提取特定信息: Prompt:

Extract the name of places in the following text. 

Desired format:
Place: <comma_separated_list_of_company_names>

Input: "Although these developments are encouraging to researchers, much is still a mystery. “We often have a black box between the brain and the effect we see in the periphery,” says Henrique Veiga-Fernandes, a neuroimmunologist at the Champalimaud Centre for the Unknown in Lisbon. “If we want to use it in the therapeutic context, we actually need to understand the mechanism.""
1.
2.
3.
4.
5.
6.

Output:

Place: Champalimaud Centre for the Unknown, Lisbon
1.

3.4 避免不准确性

根据上面关于提供详细信息和改善格式的提示，很容易陷入想要过于聪明的提示陷阱，从而可能创建不准确的描述。通常更直接和具体的描述更为有效。这里的类比非常类似于有效沟通，越直接，信息传递就越有效。

例如，您可能有兴趣了解提示工程的概念。您可以尝试像这样的提示：

解释提示工程的概念。保持解释简短，只有几句话，不要过于描述。
1.

从上面的提示中并不清楚要使用多少句话以及什么样的风格。使用上面的提示仍然可能得到良好的回复，但更好的提示是非常具体，简洁明了，直截了当的。例如：

用 2-3 句话向一名高中学生解释提示工程的概念。
1.

3.5 什么该做什么不该做

在设计提示时，另一个常见的技巧是避免说出什么不要做，而是说出应该做什么。这鼓励更加具体化和专注于细节，从而产生良好的模型响应。

以下是一个电影推荐聊天机器人失败的示例，因为我写的指示语里侧重于要避免什么。

Prompt:

以下是一个向客户推荐电影的代理。不要询问兴趣爱好。不要询问个人信息。

顾客：请根据我的兴趣爱好推荐一部电影。
代理：
1.
2.
3.
4.

Output:

当然，我可以根据您的兴趣推荐电影。您想看什么类型的电影？您喜欢动作片、喜剧片、爱情片还是其他类型的电影？
1.

这里是更好的Prompt：

Prompt:

以下是一个向客户推荐电影的代理。该代理应该从全球热门电影中推荐电影，不要询问用户的喜好，避免询问个人信息。如果代理无法推荐电影，则应回复“对不起，今天无法找到推荐的电影。”

顾客：请根据我的兴趣爱好推荐一部电影。
代理：
1.
2.
3.
4.

Output:

对不起，我没有关于您的兴趣爱好的信息。然而，以下是当前全球热门电影的列表：[电影列表]。希望您能找到自己喜欢的电影！
1.

4. Prompt的挑战与未来趋势

提示工程的主要挑战之一是问题的陈述和形式化表达，将思想中存在的需求转化为文本请求。退一步而言，在传统的聊天机器人中建立上下文是非常重要的。上下文首先是通过根据一个或多个意图对用户输入进行分类来建立的，通过先前的对话、对其他系统的API调用等建立进一步的上下文。上下文在很大程度上也取决于时间和地点，以及提出问题时的背景参考是什么。

除了上下文感知外，歧义性是另一个挑战。有些形式的歧义对我们人类来说很容易理解，但传统上对NLU/聊天机器人来说很难。在OpenAI的实现中，LLM输入方面出现了chatML，定义了角色，并为LLM的输入提供了明确的结构。LLM输出方面出现了function call，聊天的完成模式被设置为_事实上的_标准。

随着技术的进步，多模态输入（如文本、图像和语音）将有效结合使用，以提升Prompt的效率。通过引入基于AI自学习的技术，能够自动生成和优化Prompt，进一步提高用户体验。此外，自适应Prompt的设计允许根据模型反馈进行动态调整，从而实现更智能化的交互方式。这些创新将推动Prompt在各类应用中的表现和效果。