我的歌单

AI 基础术语速查:Token、Prompt、Few-shot 与 Tool Calling

发表于
更新于
字数: 1.1k
时长: 8m
阅读: -
玉门

引言

很多 AI 名词其实不需要一上来就啃论文。先把几个最常用的词放进脑子里,后面再看 TransformerLLM/GPTRAGAgent 工作流 时,就不会觉得每句话都像新词轰炸。

这篇就是速查表:能一句话讲明白的,先讲到够用。

Token

Token 是模型读写内容时使用的基本片段。它不完全等于“一个字”或“一个词”,可能是一个汉字、一个英文单词、一段词根、一个标点,甚至是空格和换行。

你可以把 Token 想成模型眼里的“拼图块”。人看到的是一句话:

我想了解 AI。

模型看到的可能是一串 Token。它的工作就是根据前面的 Token,预测后面最可能接什么 Token。

Token 很重要,是因为它影响三个东西:

  1. 上下文长度:模型一次能读多少内容,通常按 Token 计。
  2. 计费:API 常按输入和输出 Token 收费。
  3. 信息密度:同样一句话,不同语言、格式、代码和表格会被切成不同数量的 Token。

所以,长提示词、长文档、日志、代码仓库都会消耗上下文窗口。模型不是“无限记忆”,它只是能在一次请求里看到有限的 Token。

Prompt

Prompt 是你给模型的任务说明、上下文和约束。它不只是“问一句话”,更像给一个聪明但不熟悉你业务的人发任务单。

一个好的 Prompt 通常包含:

  1. 目标:你要它完成什么。
  2. 背景:它需要知道哪些上下文。
  3. 约束:不要做什么,输出格式是什么。
  4. 判断标准:什么叫完成得好。

比如:

请把下面这段技术说明改写成普通读者能理解的中文。
要求:不要删掉关键事实;尽量少用术语;保留链接;输出 3 段以内。

Prompt 的核心不是“咒语”,而是沟通质量。你越能把任务边界说清楚,模型越容易给出稳定结果。

Few-shot

Few-shot 指的是在提示词里给模型几个例子,让它照着例子的格式和风格完成新任务。

比如你想让模型把一句话改成标题:

例子 1:
输入:这篇文章讲解如何用 AI 写网络小说
输出:如何用 AI 写网络小说:从灵感到成稿
 
例子 2:
输入:这篇文章介绍 RAG 的基本原理
输出:RAG 是什么:让 AI 带着资料回答问题
 
现在处理:
输入:这篇文章解释 MCP 和 Agent 的关系
输出:

模型会从例子里学到“标题要包含主题 + 解释性副标题”的模式。Few-shot 不是真的改了模型参数,而是在当前上下文里临时给它演示任务。

In-Context Learning

In-Context Learning 可以理解为“上下文内学习”。它和 Few-shot 很接近:模型不需要重新训练,只要你在当前对话里给出规则、例子、表格或上下文,它就能临时适配任务。

这也是 GPT-3 时代让人惊讶的地方:同一个模型,不改参数,只靠提示词里的几个例子,就能表现出“学会了新任务”的感觉。

但它也有边界:

  1. 上下文太长时,模型可能漏看重点。
  2. 例子有歧义时,模型可能学错模式。
  3. 它只是当前请求里的临时适配,不等于模型永久掌握了新知识。

Tool Calling

Tool Calling 是让模型按约定格式请求外部工具执行任务。它解决的问题是:模型会说话,但很多事不能只靠说。

比如用户问:

帮我查一下这个订单现在的物流状态。

模型自己并不知道你的订单系统。更可靠的做法是让它生成一次工具调用:

{
  "tool": "getShippingStatus",
  "arguments": {
    "orderId": "A12345"
  }
}

应用程序拿到这个请求后,去真正查询物流 API,再把结果交给模型整理成自然语言。

Tool Calling 的关键边界是:模型负责决定“该调用什么、参数是什么”,应用程序负责真正执行、鉴权、限制权限和处理错误

这也是为什么 Tool Calling 会通向 MCPAgent 工作流:当工具越来越多、权限越来越复杂,就需要更统一的连接方式和更可靠的执行循环。

小结

先记住这几句话就够用:

概念一句话
Token模型读写内容的基本片段
Prompt你给模型的任务说明、上下文和约束
Few-shot给几个例子,让模型照着做
In-Context Learning在当前上下文里临时适配任务
Tool Calling让模型请求外部工具,而不是自己瞎编结果

延伸阅读:写给她的 AI 发展史:从 Transformer、ChatGPT 到 MCP、Skills 与 Agent 时代