Talking to Machines
MR
3

अध्याय तीन

Context
Engineering

AI विसरत नाही — त्याने कधी
लक्षातच ठेवलं नव्हतं.

प्रत्येक वेळी जेव्हा तू AI ला message पाठवतोस, तो तुझं संपूर्ण conversation शून्यापासून वाचतो — तू पाठवलेला प्रत्येक message, त्याने दिलेला प्रत्येक response — एक reply तयार करतो, आणि मग सगळं विसरतो. पुढच्या turn ला, तेच. संपूर्ण transcript परत feed होतो. तो जगातला सर्वात मेहनती पण विस्मरणी वाचक आहे: प्रत्येक वेळी पूर्ण वाचतो, प्रत्येक वेळी शून्यापासून सुरू करतो.

Window ला कडा आहेत

AI प्रत्येक turn ला जो transcript परत वाचतो, तो context window नावाच्या गोष्टीत राहतो — tokens मध्ये मोजला जातो (साधारण एक token = एका शब्दाचे तीन-चतुर्थांश). Claude ची window सुमारे 200,000 tokens ठेवते — एक 500-पानी पुस्तक. खूप वाटतं, पण तू पाठवलेला प्रत्येक message, मिळालेला प्रत्येक response, आणि लपलेल्या system instructions — सगळं एकाच budget मधून खातं. तुला वाटतं त्यापेक्षा ते लवकर भरतं.

Budget संपला की सर्वात जुने messages कडेवरून पडतात. तू तिसऱ्या message मध्ये dietary restrictions सांगितल्या? पंधराव्या message पर्यंत AI ला त्या कदाचित दिसणार नाहीत. तो बेफिकीर नाहीये — त्याला शब्दशः ते दिसत नाही जे त्याच्या समोर नाही. AI फक्त त्याच माहितीवरून काम करतो जी सध्या त्याच्या window मध्ये आहे.

म्हणून सर्वात चांगले AI users फक्त चांगले prompts लिहित नाहीत — ते window मध्ये काय जातं ते manage करतात. वेळोवेळी summarize कर जेणेकरून important details दिसत राहतील. महत्त्वाच्या गोष्टी आधी ठेव. विषय बदलला तर नवीन conversation सुरू कर. Structured formats वापर जेणेकरून AI तुझा context efficiently parse करेल. Context engineering हेच नवीन prompt engineering आहे.

मुख्य मुद्दा

चांगला prompt लिहिणं हे step one आहे. AI समोर कोणती माहिती ठेवायची — आणि ती कशी structure करायची — यातच खरं leverage आहे. जगातला सर्वात चांगला prompt context चुकीचा असेल तर fail होतो.

Context window भरताना, overflow होताना आणि विसरताना बघ — real time मध्ये.

The Context Window

Type messages and watch the window fill up

Context Window
System13 tok

You are a helpful, harmless, and honest assistant.

AI SEES THIS

Empty — type a message below

Visible: 13 tokens
Your Messages

Start typing messages below. Watch the context window fill up on the left. After a few messages, the oldest ones will blow away — that's the AI "forgetting."

Key insight: The system prompt stays pinned at the top. Everything else competes for space. Once the window fills up, early messages vanish from the AI's view.

Context Manage करण्याच्या Strategies

आता तुला window समजला, तर हे शिक — pro सारखं manage कसं करायचं. या techniques ज्या "AI वापरणारे" लोक आणि AI कडून अप्रतिम results मिळवणारे लोक यांना वेगळं करतात.

1

जाता-जाता summarize कर

दर 5-10 messages नंतर, AI ला key decisions आणि details चा short recap लिहायला सांग. मग ती summary तुझ्या पुढच्या message मध्ये paste कर. यामुळे सर्वात महत्त्वाची माहिती पुन्हा सर्वात पुढे येते.
2

महत्त्वाच्या गोष्टी आधी ठेव

सर्वात critical माहिती message च्या सुरुवातीला ठेव, शेवटी गाडून ठेवू नकोस. AI ला सुरुवातीला आणि शेवटी जे आहे त्याकडे जास्त लक्ष जातं — मधलं भरपूर लांब prompts मध्ये हरवू शकतं.
3

Strategy ने नवीन सुरू कर

विषय लक्षणीय बदलला तर नवीन conversation सुरू करायला घाबरू नकोस. काय ठरवलं याचा summary घेऊन जा, संपूर्ण history नको. स्वच्छ context गोंधळलेल्या context पेक्षा नेहमी चांगला.
4

काय लक्षात ठेवायचं ते स्पष्ट सांग

"महत्त्वाचं: user vegetarian आहे. हे विसरू नकोस." हास्यास्पद वाटतं, पण काम करतं. स्पष्ट reminders anchors म्हणून काम करतात ज्यांना AI जास्त महत्त्व देतो.
5

Structured formats वापर

Bulleted lists, headers, आणि स्पष्ट labels AI ला तुझा context जास्त efficiently parse करायला मदत करतात. एक व्यवस्थित prompt prose च्या भिंतीच्या दुप्पट token count इतका worth आहे.

The Forgetting Experiment

Each strategy fixes a different problem

You've chatted about a Tokyo trip for 15 messages. You mentioned being vegetarian (msg 4), planned Hakone + Kamakura day trips (msg 8), set a $3K budget (msg 5), and briefly considered Osaka (msg 11, then dropped it). Now you ask:

"Give me my day-by-day itinerary."

Remembers your planned day tripsVegetarian diet gets priorityRemoves the "maybe Osaka?" confusionBudget is firm, not vagueOutput becomes a usable day-by-day plan
What the AI sees
...15 messages about Tokyo trip planning...
"Give me my day-by-day itinerary."

No strategies applied — the AI only sees recent messages. Key details from earlier have scrolled away.

AI Response5 problems
Share this course
आता तुला whiteboard दिसतं. तुला window च्या कडा जाणवतात. यामुळे AI सोबतचं तुझं प्रत्येक conversation बदलतं.

तू fundamentals शिकलास — prompting, विचारणं, आणि context. पुढे: तुझ्यासोबत नेण्यासाठी power prompts ची cheat sheet.

Vibe Check

New tool unlocked!