Üçüncü Bölüm
Bağlam
Mühendisliği
Yapay zeka unutmuyor — zaten
hiç hatırlamıyordu.
Yapay zekaya her mesaj gönderdiğinde, tüm konuşmayı baştan okuyor — gönderdiği her mesaj, verdiği her yanıt — bir cevap üretiyor ve sonra her şeyi unutuyor. Sonraki turda aynı şey. Tüm metin yeniden besleniyor. Dünyanın en gayretli ama hafıza kaybına uğramış okuyucusu: her seferinde tastamam, ama her seferinde sıfırdan başlıyor.
Pencerenin Kenarları Var
Yapay zekanın her turda yeniden okuduğu o metin, bağlam penceresi denen bir şeyin içinde yaşıyor — token'larla ölçülüyor (kabaca her token, bir kelimenin dörtte üçü kadar). Claude'un penceresi yaklaşık 200.000 token tutuyor — 500 sayfalık bir kitap. Büyük görünüyor, ama gönderdiğin her mesaj, aldığın her yanıt ve gizli tüm sistem talimatları aynı bütçeden yiyor. Sandığından daha hızlı doluyor.
Bütçe tükendiği zaman en eski mesajlar kenardan düşüyor. Üçüncü mesajında diyet kısıtlamalarından mı bahsettin? On beşinci mesaja kadar yapay zeka onları artık görmüyor olabilir. Dikkatsiz değildir — önünde olmayanı kelimenin tam anlamıyla göremiyor. Yapay zeka yalnızca şu anda penceresinde bulunan bilgi kadar iyi.
Bu yüzden en iyi yapay zeka kullanıcıları sadece iyi prompt yazmakla kalmıyorlar — pencerenin içine ne girdiğini yönetiyorlar. Önemli detaylar görünür kalsın diye düzenli olarak özetle. Önemli olanı öne koy. Konu değiştiğinde yeni bir konuşmaya başla. Yapay zekanın bağlamını verimli bir şekilde işlemesi için yapılandırılmış formatlar kullan. Bağlam mühendisliği, yeni prompt mühendisliği.
Temel fikir
Harika bir prompt yazmak birinci adım. Yapay zekanın önüne hangi bilgiyi koyacağına — ve onu nasıl yapılandırdığına — karar vermek, asıl kaldıracın olduğu yer. Dünyanın en iyi prompt'u bile bağlam yanlış olduğunda başarısız olur.
Bağlam penceresinin dolmasını, taşmasını ve unutmasını — gerçek zamanlı izle.
Bağlam Yönetimi Stratejileri
Şimdi pencereyi anladığın için, onu bir profesyonel gibi nasıl yöneteceğini öğrenelim. Bunlar "yapay zeka kullanan" insanları ondan olağanüstü sonuçlar alan insanlardan ayıran teknikler.
İlerledikçe özetle
Her 5-10 mesajda yapay zekadan temel kararların ve detayların kısa bir özetini yazmasını iste. Sonra o özeti bir sonraki mesajına yapıştır. Bu, bağlamı en önemli bilgiyi öne koyarak "sıfırlar."
Önemliyi başa koy
En kritik bilgiyi mesajının başına koy, sonuna gömme. Yapay zeka ilk ve son gelene daha fazla dikkat eder — orta kısım kaybolabilir, özellikle uzun prompt'larda.
Stratejik olarak sıfırdan başla
Konu önemli ölçüde değiştiğinde yeni bir konuşma başlatmaktan korkma. Aldığı kararların özetini taşı, tüm geçmişi değil. Temiz bir bağlam, dağılmış olandan genellikle daha iyidir.
Neyi hatırlaması gerektiğini açıkça belirt
"Önemli: kullanıcı vejetaryen. Bunu unutma." Saçma görünüyor, ama işe yarıyor. Açık hatırlatmalar, yapay zekanın daha fazla ağırlık verdiği çapalar gibi çalışır.
Yapılandırılmış formatlar kullan
Madde işaretli listeler, başlıklar ve net etiketler yapay zekanın bağlamını daha verimli işlemesine yardımcı olur. İyi organize edilmiş bir prompt, bir metin duvarına kıyasla token değerinin iki katını eder.
Temelleri öğrendin — prompt yazma, soru sorma ve bağlam. Sırada: yanınızda götüreceğiniz güçlü prompt'lar pusulası.