Talking to Machines
KN
3

ಅಧ್ಯಾಯ ಮೂರು

Context
Engineering

AI ಮರೆಯಲ್ಲ — ಅದು ಮೊದ್ಲಿಂದ
ನೆನಪಿಟ್ಕೊಳ್ತಾನೇ ಇರಲಿಲ್ಲ.

ಪ್ರತಿ ಸಲ AI ಗೆ message ಕಳಿಸಿದಾಗ, ಅದು ನಿನ್ನ ಇಡೀ conversation ನ ಮೊದ್ಲಿಂದ ಓದುತ್ತೆ — ನೀನು ಕಳಿಸಿದ ಪ್ರತಿ message, ಅದು ಕೊಟ್ಟ ಪ್ರತಿ response — reply generate ಮಾಡುತ್ತೆ, ಮತ್ತೆ ಎಲ್ಲಾ ಮರೆತುಬಿಡುತ್ತೆ. ಮುಂದಿನ turn ನಲ್ಲಿ, ಅದೇ process. ಇಡೀ transcript ಮತ್ತೆ feed ಆಗುತ್ತೆ. ಅದು ಜಗತ್ತಿನ ಅತ್ಯಂತ sincere ಆದ್ರೆ amnesia ಇರೋ reader: ಪ್ರತಿ ಸಲ ಪೂರ್ಣವಾಗಿ ಓದುತ್ತೆ, ಪ್ರತಿ turn zero ನಿಂದ start ಆಗುತ್ತೆ.

Window ಗೆ ಅಂಚುಗಳಿವೆ

AI ಪ್ರತಿ turn ನಲ್ಲಿ ಮತ್ತೆ ಓದೋ ಆ transcript? ಅದು context window ಅನ್ನೋ ಜಾಗದಲ್ಲಿ ಇರುತ್ತೆ — tokens ನಲ್ಲಿ ಅಳೆಯುತ್ತಾರೆ (ಸುಮಾರು ಒಂದು word ಗೆ ಮುಕ್ಕಾಲು token). Claude ನ window ಸುಮಾರು 200,000 tokens ಹಿಡಿಯುತ್ತೆ — 500-page book ಷ್ಟು. ತುಂಬಾ ದೊಡ್ಡದು ಅನ್ಸುತ್ತೆ, ಆದ್ರೆ ನೀನು ಕಳಿಸೋ ಪ್ರತಿ message, ನಿನಗೆ ಬರೋ ಪ್ರತಿ response, ಮತ್ತು hidden system instructions ಎಲ್ಲಾ ಒಂದೇ budget ನಿಂದ ತಿನ್ನುತ್ತವೆ. ನೀನು ಅಂದ್ಕೊಂಡಿದ್ದಕ್ಕಿಂತ ಬೇಗ full ಆಗುತ್ತೆ.

Budget ಮುಗಿದಾಗ, ಅತ್ಯಂತ ಹಳೆಯ messages ಅಂಚಿನಿಂದ ಕೆಳಗೆ ಬೀಳುತ್ತವೆ. ನೀನು message three ನಲ್ಲಿ ನಿನ್ನ dietary restrictions ಹೇಳಿದ್ಯಾ? Message fifteen ಹೊತ್ತಿಗೆ AI ಗೆ ಅವು ಕಾಣದೇ ಇರಬಹುದು. ಅದು careless ಆಗಿಲ್ಲ — ಅದಕ್ಕೆ ಕಣ್ಣ ಮುಂದೆ ಇಲ್ಲದ್ದನ್ನ literally ನೋಡಕ್ಕೆ ಆಗಲ್ಲ. AI ಅದರ window ನಲ್ಲಿ ಈಗ ಇರೋ information ಅಷ್ಟೇ ಒಳ್ಳೆಯದು.

ಅದಕ್ಕೇ best AI users ಬರೀ ಒಳ್ಳೆಯ prompts ಬರೆಯಲ್ಲ — window ಒಳಗೆ ಏನು ಹೋಗುತ್ತೆ ಅನ್ನೋದನ್ನ manage ಮಾಡ್ತಾರೆ. ಆಗಾಗ summarize ಮಾಡಿ key details visible ಆಗಿರೋ ಥರ ನೋಡು. ಮುಖ್ಯವಾದ್ದನ್ನ ಮೊದ್ಲು ಹಾಕು. Topic ಬದಲಾದಾಗ fresh start ಮಾಡು. Structured formats use ಮಾಡಿ AI context ನ efficiently parse ಮಾಡೋ ಥರ ಮಾಡು. Context engineering ಅಂದ್ರೆ ಹೊಸ prompt engineering.

ಪ್ರಮುಖ ಒಳನೋಟ

ಒಳ್ಳೆಯ prompt ಬರೆಯೋದು step one. AI ಮುಂದೆ ಯಾವ information ಇಡಬೇಕು — ಮತ್ತು ಅದನ್ನ ಹೇಗೆ structure ಮಾಡಬೇಕು — ಅಲ್ಲಿ ನಿಜವಾದ leverage ಇದೆ. ಅತ್ಯುತ್ತಮ prompt ಕೂಡ context ತಪ್ಪಿದ್ರೆ fail ಆಗುತ್ತೆ.

Context window full ಆಗೋದು, overflow ಆಗೋದು, ಮರೆಯೋದು — real time ನಲ್ಲಿ ನೋಡು.

The Context Window

Type messages and watch the window fill up

Context Window
System13 tok

You are a helpful, harmless, and honest assistant.

AI SEES THIS

Empty — type a message below

Visible: 13 tokens
Your Messages

Start typing messages below. Watch the context window fill up on the left. After a few messages, the oldest ones will blow away — that's the AI "forgetting."

Key insight: The system prompt stays pinned at the top. Everything else competes for space. Once the window fills up, early messages vanish from the AI's view.

Context Manage ಮಾಡೋ ತಂತ್ರಗಳು

ಈಗ window ಅರ್ಥ ಆಯ್ತು, ಅದನ್ನ pro ಥರ manage ಮಾಡೋದು ಹೇಗೆ ಅಂತ ಇಲ್ಲಿದೆ. "AI use ಮಾಡ್ತಾರೆ" ಅನ್ನೋ ಜನರನ್ನ AI ಯಿಂದ extraordinary results ಪಡೆಯೋ ಜನರಿಂದ ಬೇರೆ ಮಾಡೋ techniques ಇವು.

1

ಮುಂದೆ ಹೋಗ್ತಿರೋ ಥರ summarize ಮಾಡು

ಪ್ರತಿ 5-10 messages ಆದ ಮೇಲೆ, AI ಗೆ key decisions ಮತ್ತು details ನ brief recap ಬರೆಯಲು ಹೇಳು. ಆ summary ನ ನಿನ್ನ ಮುಂದಿನ message ನಲ್ಲಿ paste ಮಾಡು. ಇದು context ನ ಅತ್ಯಂತ ಮುಖ್ಯ information ಜೊತೆ "reset" ಮಾಡುತ್ತೆ.
2

ಮುಖ್ಯವಾದ್ದನ್ನ ಮೊದ್ಲು ಹಾಕು

ಅತ್ಯಂತ critical information ನ ನಿನ್ನ message ನ ಆರಂಭದಲ್ಲಿ ಇಡು, ಕೊನೆಯಲ್ಲಿ ಅಲ್ಲ. AI ಮೊದ್ಲು ಮತ್ತು ಕೊನೆಯ ಭಾಗಕ್ಕೆ ಹೆಚ್ಚು attention ಕೊಡುತ್ತೆ — ಮಧ್ಯ ಭಾಗ ಕಳೆಯಬಹುದು, ವಿಶೇಷವಾಗಿ long prompts ನಲ್ಲಿ.
3

Strategically fresh start ಮಾಡು

Topic ತುಂಬಾ ಬದಲಾದಾಗ ಹೊಸ conversation start ಮಾಡೋಕೆ ಹಿಂಜರಿಯಬೇಡ. ಪೂರ್ಣ history ಅಲ್ಲ, ನೀನು decide ಮಾಡಿದ್ದರ summary carry over ಮಾಡು. Clean context cluttered context ಗಿಂತ ಯಾವಾಗ್ಲೂ ಒಳ್ಳೆಯದು.
4

ಏನು ನೆನಪಿಡಬೇಕು ಅಂತ ಸ್ಪಷ್ಟವಾಗಿ ಹೇಳು

"ಮುಖ್ಯ: user vegetarian. ಇದನ್ನ ಮರೆಯಬೇಡ." Silly ಅನ್ಸುತ್ತೆ, ಆದ್ರೆ work ಆಗುತ್ತೆ. Explicit reminders anchor ಥರ act ಆಗುತ್ತವೆ, AI ಅವುಗಳಿಗೆ ಹೆಚ್ಚು weight ಕೊಡುತ್ತೆ.
5

Structured formats use ಮಾಡು

Bulleted lists, headers, ಮತ್ತು clear labels AI ಗೆ ನಿನ್ನ context ನ ಹೆಚ್ಚು efficiently parse ಮಾಡಲು ಸಹಾಯ ಮಾಡುತ್ತೆ. ಚೆನ್ನಾಗಿ organize ಆದ prompt ಒಂದು wall of prose ಗಿಂತ ಎರಡು ಪಟ್ಟು ಮೌಲ್ಯ.

The Forgetting Experiment

Each strategy fixes a different problem

You've chatted about a Tokyo trip for 15 messages. You mentioned being vegetarian (msg 4), planned Hakone + Kamakura day trips (msg 8), set a $3K budget (msg 5), and briefly considered Osaka (msg 11, then dropped it). Now you ask:

"Give me my day-by-day itinerary."

Remembers your planned day tripsVegetarian diet gets priorityRemoves the "maybe Osaka?" confusionBudget is firm, not vagueOutput becomes a usable day-by-day plan
What the AI sees
...15 messages about Tokyo trip planning...
"Give me my day-by-day itinerary."

No strategies applied — the AI only sees recent messages. Key details from earlier have scrolled away.

AI Response5 problems
Share this course
ಈಗ ನಿನಗೆ whiteboard ಕಾಣುತ್ತೆ. Window ನ ಅಂಚುಗಳು ಗೊತ್ತಾಗುತ್ತೆ. ಇದು AI ಜೊತೆ ಮಾಡೋ ಪ್ರತಿ conversation ನ ಬದಲಾಯಿಸುತ್ತೆ.

Fundamentals ಕಲಿತಾಯ್ತು — prompting, asking, ಮತ್ತು context. ಮುಂದೆ: ನಿನ್ನ ಜೊತೆ ತೆಗೆದುಕೊಂಡು ಹೋಗೋ power prompts ನ cheat sheet.

Vibe Check

New tool unlocked!