Chương chín
Khi AI
sai lầm
Thói quen kiểm chứng phân biệt
người nghiệp dư và chuyên gia.
AI vừa giúp bạn viết bài luận hoàn hảo cũng có thể, với cùng mức độ tự tin, nói rằng Napoleon thắng trận Waterloo. Nó sẽ không ngần ngại. Nó sẽ không ấp úng. Nó sẽ phát biểu một "sự kiện" hoàn toàn bịa đặt với cùng giọng điệu uy quyền mà nó dùng cho mọi thứ khác. Đây là nghịch lý ở trung tâm của việc làm việc với AI: chính sự trôi chảy khiến nó hữu ích cũng khiến nó nguy hiểm.
Hợp lý không phải sự thật
Các model AI không truy xuất sự kiện từ cơ sở dữ liệu. Chúng dự đoán từ tiếp theo có khả năng nhất. Khi bạn hỏi về thứ có thật, dữ liệu huấn luyện dẫn chúng đến thông tin chính xác. Khi bạn hỏi về thứ không tồn tại, model không nói "Tôi không biết." Nó tạo ra cái mà một câu trả lời đúng sẽ trông như thế nào — đầy đủ tên, ngày tháng, và trích dẫn. Tất cả đều bịa đặt.
Không có mối tương quan giữa AI nghe tự tin đến đâu và nó chính xác đến đâu. Câu trả lời sai và câu trả lời đúng trông giống hệt nhau từ bên ngoài. Bạn không thể đánh giá độ chính xác qua giọng điệu, qua chi tiết, hay qua bao nhiêu con số AI đưa ra. Phép thử "nó nghe đúng" là vô giá trị. Phương tiện bảo vệ duy nhất của bạn là kiểm chứng.
Điểm mấu chốt
AI không có khái niệm về sự thật. Nó có khái niệm về sự hợp lý. Nó tạo ra văn bản phù hợp với pattern — dù văn bản đó có tương ứng với thực tế hay không.
Thử bộ phát hiện của bạn. Bạn có thể phân biệt tuyên bố nào của AI là thật và tuyên bố nào là bịa đặt không?
Biết khi nào AI sai dẫn đến câu hỏi lớn hơn: AI không bao giờ làm được gì? Tiếp theo, ta khám phá những kỹ năng vẫn cố chấp, tuyệt đẹp thuộc về con người — và tại sao chúng quan trọng hơn bao giờ hết.