Talking to Machines
TA
3

அத்தியாயம் மூன்று

Context
Engineering

AI மறந்துவிடுவதில்லை — அது முதலிலேயே
நினைவில் வைத்துக்கொள்ளவில்லை.

நீ AI க்கு ஒரு message அனுப்பும் ஒவ்வொரு முறையும், அது உன் முழு உரையாடலையும் ஆரம்பத்திலிருந்து படிக்கிறது — நீ அனுப்பிய ஒவ்வொரு message, அது கொடுத்த ஒவ்வொரு பதில் — ஒரு reply generate செய்கிறது, பிறகு எல்லாவற்றையும் மறந்துவிடுகிறது. அடுத்த turn, அதே விஷயம். முழு transcript மறுபடி feed ஆகிறது. இது உலகின் மிகவும் விடாமுயற்சியான ஆனால் மறதியான வாசகன்: ஒவ்வொரு முறையும் முழுமையாக படிக்கிறது, ஒவ்வொரு turn-லும் புதிதாக ஆரம்பிக்கிறது.

Window-க்கு விளிம்புகள் உண்டு

AI ஒவ்வொரு turn-லும் மறுபடி படிக்கும் அந்த transcript? அது context window என்ற ஒன்றினுள் இருக்கிறது — tokens-ல் அளக்கப்படுகிறது (சுமார் ஒரு token = முக்கால் வார்த்தை). Claude-ன் window சுமார் 200,000 tokens கொள்ளும் — ஒரு 500 பக்க புத்தகம் அளவு. பெரிதாக தெரிகிறது, ஆனால் நீ அனுப்பும் ஒவ்வொரு message, நீ பெறும் ஒவ்வொரு response, ஒவ்வொரு மறைந்த system instruction — எல்லாம் அதே budget-இலிருந்து சாப்பிடுகின்றன. நீ நினைப்பதை விட வேகமாக நிரம்பிவிடும்.

Budget தீர்ந்தால், பழமையான messages விளிம்பிலிருந்து கீழே விழுகின்றன. மூன்றாவது message-ல் உன் dietary restrictions சொன்னாயா? பதினைந்தாவது message-க்குள் AI அதை பார்க்காமல் போகலாம். அது அலட்சியம் அல்ல — அதன் முன்னால் இல்லாததை உண்மையிலேயே பார்க்க முடியாது. AI தற்போது அதன் window-ல் இருக்கும் தகவல் அளவுக்குத்தான் நல்லது.

அதனால்தான் சிறந்த AI பயனர்கள் நல்ல prompts மட்டும் எழுதுவதில்லை — window-க்குள் என்ன போகிறது என்பதை manage செய்கிறார்கள். அவ்வப்போது summarize செய், முக்கியமான தகவலை முன்னால் வை. Topic மாறும்போது புதிதாக ஆரம்பி. AI efficiently parse செய்ய structured formats பயன்படுத்து. Context engineering தான் புதிய prompt engineering.

முக்கிய கருத்து

நல்ல prompt எழுதுவது முதல் படி. AI க்கு முன்னால் என்ன தகவல் வைக்க வேண்டும் — அதை எப்படி structure செய்ய வேண்டும் — என்று முடிவு செய்வதுதான் உண்மையான leverage. Context தவறாக இருந்தால் உலகின் சிறந்த prompt கூட fail ஆகும்.

Context window நிரம்புவதை, overflow ஆவதை, மறப்பதை — real time-ல் பார்.

The Context Window

Type messages and watch the window fill up

Context Window
System13 tok

You are a helpful, harmless, and honest assistant.

AI SEES THIS

Empty — type a message below

Visible: 13 tokens
Your Messages

Start typing messages below. Watch the context window fill up on the left. After a few messages, the oldest ones will blow away — that's the AI "forgetting."

Key insight: The system prompt stays pinned at the top. Everything else competes for space. Once the window fills up, early messages vanish from the AI's view.

Context-ஐ நிர்வகிக்கும் வழிமுறைகள்

இப்போது window புரிகிறது, இதை ஒரு pro மாதிரி manage செய்வது எப்படி என்று பார்ப்போம். "AI பயன்படுத்துபவர்கள்" மற்றும் அதிலிருந்து அசாதாரணமான முடிவுகள் பெறுபவர்கள் — இருவருக்கும் இடையே உள்ள வித்தியாசம் இந்த நுட்பங்கள்தான்.

1

போகும்போதே summarize செய்

ஒவ்வொரு 5-10 messages-க்கும், முக்கிய முடிவுகள் மற்றும் விவரங்களின் சுருக்கத்தை AI யிடம் எழுதச் சொல். அந்த summary ஐ உன் அடுத்த message-ல் paste செய். மிக முக்கியமான தகவல் முன்னால் இருக்கும்படி context-ஐ "reset" செய்கிறது.
2

முக்கியமானதை முன்னால் வை

மிக முக்கியமான தகவலை உன் message-ன் ஆரம்பத்தில் வை, கடைசியில் புதைக்காதே. AI முதலில் மற்றும் கடைசியில் வருவதை அதிகம் கவனிக்கிறது — நடுவில் இருப்பது தொலைந்துவிடலாம், குறிப்பாக நீண்ட prompts-ல்.
3

திட்டமிட்டு புதிதாக ஆரம்பி

Topic கணிசமாக மாறும்போது புதிய conversation ஆரம்பிக்க பயப்படாதே. நீ முடிவு செய்ததின் summary-ஐ எடுத்துச் செல், முழு history அல்ல. சுத்தமான context, குழப்பமான ஒன்றை விட பெரும்பாலும் சிறப்பாக இருக்கும்.
4

என்ன நினைவில் வைக்க வேண்டும் என்று வெளிப்படையாக சொல்

"முக்கியம்: user vegetarian. இதை மறக்காதே." Silly ஆக தெரிகிறது, ஆனால் வேலை செய்கிறது. வெளிப்படையான reminders AI அதிக முக்கியத்துவம் கொடுக்கும் anchors ஆக செயல்படுகின்றன.
5

Structured formats பயன்படுத்து

Bulleted lists, headers, தெளிவான labels — இவை AI உன் context-ஐ efficiently parse செய்ய உதவுகின்றன. நன்கு ஒழுங்கமைக்கப்பட்ட prompt, ஒரு prose சுவரை விட அதன் token count-ன் இரண்டு மடங்கு மதிப்புள்ளது.

The Forgetting Experiment

Each strategy fixes a different problem

You've chatted about a Tokyo trip for 15 messages. You mentioned being vegetarian (msg 4), planned Hakone + Kamakura day trips (msg 8), set a $3K budget (msg 5), and briefly considered Osaka (msg 11, then dropped it). Now you ask:

"Give me my day-by-day itinerary."

Remembers your planned day tripsVegetarian diet gets priorityRemoves the "maybe Osaka?" confusionBudget is firm, not vagueOutput becomes a usable day-by-day plan
What the AI sees
...15 messages about Tokyo trip planning...
"Give me my day-by-day itinerary."

No strategies applied — the AI only sees recent messages. Key details from earlier have scrolled away.

AI Response5 problems
Share this course
இப்போது நீ whiteboard-ஐ பார்க்கிறாய். Window-ன் விளிம்புகளை உணர்கிறாய். AI யுடன் நீ நடத்தும் ஒவ்வொரு உரையாடலையும் இது மாற்றுகிறது.

அடிப்படைகளை கற்றுக்கொண்டாய் — prompting, கேள்வி கேட்பது, context. அடுத்தது: உன்னுடன் எடுத்துச் செல்ல power prompts cheat sheet.

Vibe Check

New tool unlocked!