নবম অধ্যায়
AI যখন
ভুল করে
যে যাচাইয়ের অভ্যাস আলাদা করে
অ্যামেচারদের প্রো থেকে।
যে AI এইমাত্র তোমাকে একটা নিখুঁত রচনা লিখতে সাহায্য করল, সেই একই AI সমান আত্মবিশ্বাসে বলতে পারে Napoleon Waterloo-র যুদ্ধ জিতেছিলেন। সে দ্বিধা করবে না। আটকাবে না। একটা সম্পূর্ণ বানানো "তথ্য" ঠিক সেই একই কর্তৃত্বপূর্ণ গলায় বলবে যেভাবে বাকি সব কিছু বলে। AI-এর সাথে কাজ করার মূলে এই প্যারাডক্স: যে সাবলীলতা একে কাজের করে, সেই সাবলীলতাই একে বিপজ্জনকও করে।
বিশ্বাসযোগ্যতা মানে সত্য না
AI মডেল কোনো ডেটাবেস থেকে তথ্য খুঁজে আনে না। তারা পরবর্তী সবচেয়ে সম্ভাব্য শব্দ predict করে। তুমি যখন আসল কিছু নিয়ে জিজ্ঞেস করো, ট্রেনিং ডেটা সঠিক তথ্যের দিকে গাইড করে। তুমি যখন এমন কিছু জিজ্ঞেস করো যার অস্তিত্ব নেই, মডেল বলে না "আমি জানি না।" সে তৈরি করে একটা সঠিক উত্তর দেখতে কেমন হতো সেটা — নাম, তারিখ, আর সাইটেশনসহ। সব বানানো।
AI কতটা আত্মবিশ্বাসী শোনাচ্ছে আর কতটা সঠিক — এই দুটোর মধ্যে কোনো সম্পর্ক নেই। একটা ভুল উত্তর আর একটা সঠিক উত্তর বাইরে থেকে দেখতে হুবহু একই। তুমি টোন দিয়ে, ডিটেইল দিয়ে, বা AI কত নির্দিষ্ট সংখ্যা অন্তর্ভুক্ত করেছে সেটা দিয়ে সঠিকতা যাচাই করতে পারো না। "শুনতে ঠিক লাগছে" পরীক্ষাটা মূল্যহীন। তোমার একমাত্র অস্ত্র হলো যাচাই।
মূল বিষয়
AI-এর সত্যের কোনো ধারণা নেই। তার আছে বিশ্বাসযোগ্যতার ধারণা। সে এমন টেক্সট তৈরি করে যা প্যাটার্নে মেলে — সেই টেক্সট বাস্তবের সাথে মেলে কি না সেটা আলাদা ব্যাপার।
তোমার ডিটেক্টর পরীক্ষা করো। AI-এর কোন দাবিগুলো সত্যি আর কোনগুলো বানানো — বুঝতে পারো?
AI কখন ভুল করে জানলে একটা বড় প্রশ্নে পৌঁছায়: সে কি কখনোই করতে পারে না? পরের পর্বে, আমরা সেইসব দক্ষতা অন্বেষণ করব যেগুলো একগুঁয়েভাবে, সুন্দরভাবে মানবিক থাকে — আর কেন সেগুলো আগের চেয়ে বেশি গুরুত্বপূর্ণ।