3

మూడవ అధ్యాయం

Context
Engineering

AI మర్చిపోదు — అసలు
గుర్తుపెట్టుకోవడమే మొదలవ్వలేదు.

నువ్వు AI కి message పంపించినప్పుడల్లా, అది నీ మొత్తం conversation ని మొదటి నుండి చదువుతుంది — నువ్వు పంపిన ప్రతి message, అది ఇచ్చిన ప్రతి response — reply generate చేస్తుంది, ఆ తర్వాత అంతా మర్చిపోతుంది. తర్వాతి turn లో అదే. మొత్తం transcript మళ్ళీ feed అవుతుంది. ఇది ప్రపంచంలోనే అత్యంత శ్రద్ధగల కానీ amnesia ఉన్న reader: ప్రతిసారి పూర్తిగా చదువుతుంది, ప్రతి turn లో zero నుండి మొదలు.

Window కి అంచులు ఉన్నాయి

AI ప్రతి turn లో మళ్ళీ చదివే ఆ transcript? అది context window అనే దానిలో ఉంటుంది — tokens లో కొలుస్తారు (ఒక token అంటే సుమారు ఒక word లో మూడో వంతు). Claude window సుమారు 2,00,000 tokens పడుతుంది — 500-పేజీల పుస్తకం. చాలా పెద్దదిగా అనిపిస్తుంది, కానీ నువ్వు పంపే ప్రతి message, వచ్చే ప్రతి response, ప్రతి hidden system instruction — అన్నీ ఒకే budget నుండి తింటాయి. నువ్వు అనుకునే దానికంటే వేగంగా నిండిపోతుంది.

Budget అయిపోయినప్పుడు, అత్యంత పాత messages అంచు నుండి జారిపోతాయి. Message మూడులో నీ dietary restrictions చెప్పావా? Message పదిహేను కల్లా AI వాటిని చూడలేకపోవచ్చు. అది careless గా ఉండడం కాదు — దాని ముందు లేనిది అక్షరాలా చూడలేదు. AI దాని window లో ప్రస్తుతం ఉన్న information అంత మాత్రమే బాగుంటుంది.

అందుకే అత్యుత్తమ AI users కేవలం మంచి prompts రాయరు — window లోకి ఏం వెళ్తుందో manage చేస్తారు. అప్పుడప్పుడు summarize చెయ్యి, key details కనిపించేలా ఉంచు. ముఖ్యమైనవి ముందు పెట్టు. Topic మారినప్పుడు fresh start చెయ్యి. Structured formats వాడు, AI నీ context ని efficiently parse చేయగలిగేలా. Context engineering అనేది కొత్త prompt engineering.

కీలక అంతర్దృష్టి

మంచి prompt రాయడం step one. AI ముందు ఏ information పెట్టాలో — దాన్ని ఎలా structure చేయాలో — decide చేయడంలోనే నిజమైన leverage ఉంది. ప్రపంచంలోనే అత్యుత్తమ prompt కూడా context తప్పు అయితే fail అవుతుంది.

Context window నిండడం, overflow అవడం, మర్చిపోవడం — real time లో చూడు.

The Context Window

Type messages and watch the window fill up

Context Window
System13 tok

You are a helpful, harmless, and honest assistant.

AI SEES THIS

Empty — type a message below

Visible: 13 tokens
Your Messages

Start typing messages below. Watch the context window fill up on the left. After a few messages, the oldest ones will blow away — that's the AI "forgetting."

Key insight: The system prompt stays pinned at the top. Everything else competes for space. Once the window fills up, early messages vanish from the AI's view.

Context Manage చేయడానికి strategies

ఇప్పుడు window ఎలా పని చేస్తుందో అర్థమైంది, దాన్ని pro లాగా manage చేయడం నేర్చుకో. "AI వాడతారు" అనేవాళ్ళకి, "AI నుండి అసాధారణ results పొందతారు" అనేవాళ్ళకి మధ్య ఈ techniques నే తేడా చేస్తాయి.

1

వెళ్తూ వెళ్తూ summarize చెయ్యి

ప్రతి 5-10 messages కి, AI ని key decisions మరియు details యొక్క brief recap రాయమని అడుగు. ఆ summary నీ తర్వాతి message లో paste చెయ్యి. ఇది అతి ముఖ్యమైన information ని ముందుగా ఉంచి context ని "reset" చేస్తుంది.

2

ముఖ్యమైనవి ముందు పెట్టు

అత్యంత critical information నీ message మొదట్లో పెట్టు, చివరలో కాదు. AI మొదటి మరియు చివరి భాగానికి ఎక్కువ attention ఇస్తుంది — మధ్యలోది lost అవ్వవచ్చు, ముఖ్యంగా పొడవైన prompts లో.

3

strategically గా fresh start చెయ్యి

Topic గణనీయంగా మారినప్పుడు కొత్త conversation start చేయడానికి భయపడకు. Full history కాదు, ఏం decide చేశావో summary carry over చెయ్యి. Clean context cluttered context కంటే తరచుగా మంచిది.

4

ఏం గుర్తుపెట్టుకోవాలో explicitly చెప్పు

"Important: user vegetarian. ఇది మర్చిపోకు." Silly గా అనిపిస్తుంది, కానీ పని చేస్తుంది. Explicit reminders AI ఎక్కువ weightage ఇచ్చే anchors లాగా పని చేస్తాయి.

5

Structured formats వాడు

Bulleted lists, headers, clear labels AI నీ context ని efficiently parse చేయడంలో సాయం చేస్తాయి. Well-organized prompt, prose గోడ కంటే దాని token count లో రెట్టింపు విలువ చేస్తుంది.

The Forgetting Experiment

Each strategy fixes a different problem

You've chatted about a Tokyo trip for 15 messages. You mentioned being vegetarian (msg 4), planned Hakone + Kamakura day trips (msg 8), set a $3K budget (msg 5), and briefly considered Osaka (msg 11, then dropped it). Now you ask:

"Give me my day-by-day itinerary."

Remembers your planned day tripsVegetarian diet gets priorityRemoves the "maybe Osaka?" confusionBudget is firm, not vagueOutput becomes a usable day-by-day plan
What the AI sees
...15 messages about Tokyo trip planning...
"Give me my day-by-day itinerary."

No strategies applied — the AI only sees recent messages. Key details from earlier have scrolled away.

AI Response5 problems
Share this course
ఇప్పుడు నీకు whiteboard కనిపిస్తుంది. Window అంచులు తెలుస్తున్నాయి. ఇది AI తో నీ ప్రతి conversation ని మారుస్తుంది.

నువ్వు fundamentals నేర్చుకున్నావ్ — prompting, asking, context. తర్వాత: నీతో తీసుకెళ్ళడానికి power prompts cheat sheet.

Vibe Check

New tool unlocked!