Talking to Machines
VI
3

Chương ba

Context
Engineering

AI không quên — nó chưa bao giờ
ghi nhớ ngay từ đầu.

Mỗi lần bạn gửi tin nhắn cho AI, nó đọc lại toàn bộ cuộc trò chuyện từ đầu — mọi tin nhắn bạn gửi, mọi câu trả lời nó đã đưa — tạo phản hồi, rồi quên sạch. Lượt tiếp theo, lặp lại y hệt. Toàn bộ bản ghi lại được nạp vào lần nữa. Nó là độc giả siêng năng nhất nhưng cũng mất trí nhớ nhất thế giới: mỗi lần đều đọc kỹ từ đầu, bắt đầu từ số không.

Cửa sổ có giới hạn

Bản ghi mà AI đọc lại mỗi lượt ấy nằm trong thứ gọi là cửa sổ ngữ cảnh — đo bằng token (khoảng một token cho mỗi ba phần tư từ). Cửa sổ của Claude chứa được khoảng 200.000 token — tương đương một cuốn sách 500 trang. Nghe thì nhiều, nhưng mỗi tin nhắn bạn gửi, mỗi câu trả lời bạn nhận, và mỗi chỉ dẫn hệ thống ẩn đều ăn chung một ngân sách. Nó đầy nhanh hơn bạn tưởng.

Khi ngân sách cạn, những tin nhắn cũ nhất rơi khỏi mép. Bạn nhắc đến chế độ ăn kiêng ở tin nhắn thứ ba? Đến tin nhắn thứ mười lăm, AI có thể không còn nhìn thấy nó nữa. Nó không phải đang cẩu thả — nó thực sự không thể thấy thứ không còn trước mặt nó. AI chỉ giỏi bằng thông tin hiện có trong cửa sổ của nó.

Đó là lý do những người dùng AI giỏi nhất không chỉ viết prompt hay — họ quản lý những gì đi vào cửa sổ. Tóm tắt định kỳ để chi tiết quan trọng luôn hiển thị. Đặt thông tin quan trọng lên đầu. Bắt đầu cuộc trò chuyện mới khi chủ đề thay đổi. Dùng định dạng có cấu trúc để AI xử lý ngữ cảnh hiệu quả hơn. Context engineering là prompt engineering thế hệ mới.

Điểm mấu chốt

Viết prompt hay là bước một. Quyết định đặt thông tin gì trước mặt AI — và cấu trúc nó thế nào — mới là chỗ tạo đòn bẩy thực sự. Prompt hay nhất thế giới cũng thất bại nếu ngữ cảnh sai.

Xem cửa sổ ngữ cảnh đầy lên, tràn ra, và quên đi — theo thời gian thực.

The Context Window

Type messages and watch the window fill up

Context Window
System13 tok

You are a helpful, harmless, and honest assistant.

AI SEES THIS

Empty — type a message below

Visible: 13 tokens
Your Messages

Start typing messages below. Watch the context window fill up on the left. After a few messages, the oldest ones will blow away — that's the AI "forgetting."

Key insight: The system prompt stays pinned at the top. Everything else competes for space. Once the window fills up, early messages vanish from the AI's view.

Chiến lược quản lý ngữ cảnh

Giờ bạn đã hiểu cửa sổ rồi, đây là cách quản lý nó như dân chuyên nghiệp. Đây là những kỹ thuật phân biệt người "dùng AI" với người đạt kết quả phi thường từ nó.

1

Tóm tắt theo từng chặng

Cứ mỗi 5-10 tin nhắn, nhờ AI viết bản tóm tắt ngắn các quyết định và chi tiết quan trọng. Rồi dán bản tóm tắt đó vào tin nhắn tiếp theo. Cách này "reset" ngữ cảnh với thông tin quan trọng nhất luôn ở phía trước.
2

Đặt thông tin quan trọng lên đầu

Đưa thông tin quan trọng nhất lên đầu tin nhắn, đừng chôn ở cuối. AI chú ý nhiều hơn đến phần đầu và phần cuối — phần giữa có thể bị lạc, đặc biệt trong prompt dài.
3

Bắt đầu lại đúng lúc

Đừng ngại bắt đầu cuộc trò chuyện mới khi chủ đề thay đổi đáng kể. Mang theo bản tóm tắt những gì đã quyết định, không phải toàn bộ lịch sử. Ngữ cảnh sạch thường tốt hơn ngữ cảnh lộn xộn.
4

Nhắc rõ ràng những gì cần nhớ

"Quan trọng: người dùng ăn chay. Đừng quên điều này." Nghe ngốc nghếch, nhưng hiệu quả lắm. Lời nhắc rõ ràng đóng vai trò như mỏ neo mà AI coi trọng hơn.
5

Dùng định dạng có cấu trúc

Danh sách gạch đầu dòng, tiêu đề, và nhãn rõ ràng giúp AI xử lý ngữ cảnh hiệu quả hơn. Một prompt có tổ chức đáng giá gấp đôi số token so với một bức tường văn bản.

The Forgetting Experiment

Each strategy fixes a different problem

You've chatted about a Tokyo trip for 15 messages. You mentioned being vegetarian (msg 4), planned Hakone + Kamakura day trips (msg 8), set a $3K budget (msg 5), and briefly considered Osaka (msg 11, then dropped it). Now you ask:

"Give me my day-by-day itinerary."

Remembers your planned day tripsVegetarian diet gets priorityRemoves the "maybe Osaka?" confusionBudget is firm, not vagueOutput becomes a usable day-by-day plan
What the AI sees
...15 messages about Tokyo trip planning...
"Give me my day-by-day itinerary."

No strategies applied — the AI only sees recent messages. Key details from earlier have scrolled away.

AI Response5 problems
Share this course
Giờ bạn đã thấy tấm bảng trắng. Bạn cảm nhận được mép cửa sổ. Điều đó thay đổi mọi cuộc trò chuyện của bạn với AI.

Bạn đã nắm những kiến thức nền tảng — viết prompt, đặt câu hỏi, và ngữ cảnh. Tiếp theo: bảng tóm tắt các prompt quyền năng để bạn mang theo.

Vibe Check

New tool unlocked!