3

第三章

上下文
工程

AI 不是在遗忘 —
它从来就没在记忆。

每次你给 AI 发消息,它都会从头到尾重新阅读你的整段对话 — 你发过的每条消息、它给过的每个回复 — 生成一个回答,然后把一切全部忘掉。下一轮,同样的事情再来一次。整段对话记录被重新输入。它是世界上最认真但最健忘的读者:每次都完完整整地读,每次都从零开始。

窗口是有边界的

AI 每轮重新读取的那份对话记录,存放在一个叫做上下文窗口的东西里 — 用token(大约每个 token 等于四分之三个英文单词)来衡量。Claude 的窗口能容纳大约 200,000 个 token — 相当于一本500页的书。听起来很大,但你发的每条消息、收到的每个回复、每条隐藏的系统指令,都从同一份预算里扣。它填满的速度比你想象的快得多。

当预算用完,最早的消息就会从边缘掉出去。你在第三条消息里提到的饮食禁忌?到了第十五条消息时,AI 可能已经看不到了。它不是粗心 — 它真的看不到已经不在眼前的东西了。AI 只和当前窗口里的信息一样好。

这就是为什么最厉害的 AI 用户不仅仅写好提示词 — 他们管理进入窗口的内容。定期做总结,让关键细节保持可见。把重要的信息放在前面。话题转换时开一个新对话。用结构化格式让 AI 更高效地解析你的上下文。上下文工程是新时代的提示词工程。

核心洞察

写好提示词只是第一步。决定把什么信息放到 AI 面前 — 以及如何组织这些信息 — 才是真正的杠杆所在。再好的提示词,如果上下文不对,也会失败。

实时观看上下文窗口如何被填满、溢出、然后遗忘。

The Context Window

Type messages and watch the window fill up

Context Window
System13 tok

You are a helpful, harmless, and honest assistant.

AI SEES THIS

Empty — type a message below

Visible: 13 tokens
Your Messages

Start typing messages below. Watch the context window fill up on the left. After a few messages, the oldest ones will blow away — that's the AI "forgetting."

Key insight: The system prompt stays pinned at the top. Everything else competes for space. Once the window fills up, early messages vanish from the AI's view.

管理上下文的策略

现在你理解了窗口的原理,接下来学习如何像高手一样管理它。这些技巧是"用 AI"和"用 AI 做出超凡成果"之间的分水岭。

1

边聊边总结

每隔5-10条消息,让 AI 写一份关键决策和细节的简短回顾。然后把这份总结粘贴到下一条消息里。这会用最重要的信息"重置"上下文。

2

重要的放前面

把最关键的信息放在消息开头,不要埋在末尾。AI 对开头和结尾的内容关注度更高 — 中间部分容易被忽略,尤其是在长提示词中。

3

策略性地重新开始

话题大幅转换时,别怕开一个新对话。带上之前决策的总结,而不是完整的对话历史。干净的上下文往往比杂乱的更好用。

4

明确告诉它该记住什么

"重要:用户是素食者。请勿忘记。"听起来很傻,但确实有效。明确的提醒就像锚点,AI 会赋予更高的权重。

5

使用结构化格式

列表、标题和清晰的标签能帮助 AI 更高效地解析你的上下文。一份组织良好的提示词,其价值是同等 token 量的散文的两倍。

The Forgetting Experiment

Each strategy fixes a different problem

You've chatted about a Tokyo trip for 15 messages. You mentioned being vegetarian (msg 4), planned Hakone + Kamakura day trips (msg 8), set a $3K budget (msg 5), and briefly considered Osaka (msg 11, then dropped it). Now you ask:

"Give me my day-by-day itinerary."

Remembers your planned day tripsVegetarian diet gets priorityRemoves the "maybe Osaka?" confusionBudget is firm, not vagueOutput becomes a usable day-by-day plan
What the AI sees
...15 messages about Tokyo trip planning...
"Give me my day-by-day itinerary."

No strategies applied — the AI only sees recent messages. Key details from earlier have scrolled away.

AI Response5 problems
Share this course
现在你看到白板了。你感受到了窗口的边界。这会改变你和 AI 的每一次对话。

你已经学会了基础 — 提示词、提问和上下文。下一章:你的高能提示词速查表,随时带在身边。

Vibe Check

New tool unlocked!