Một chữ làm thay đổi ký ức

Năm 1974, hai nhà tâm lý học Elizabeth Loftus và John Palmer cho sinh viên xem những đoạn phim ngắn về tai nạn giao thông. Sau đó, họ hỏi mỗi người xem hai xe chạy nhanh cỡ nào khi va vào nhau. Điều duy nhất khác nhau giữa các nhóm là động từ trong câu hỏi.

Ở thí nghiệm đầu, 45 sinh viên xem bảy đoạn phim. Nhóm được hỏi về xe "đâm sầm" (smashed) đoán trung bình khoảng 41 dặm/giờ (khoảng 66 km/giờ). Nhóm được hỏi về xe "chạm" (contacted) đoán khoảng 32 dặm/giờ (khoảng 51 km/giờ). Các từ như "va chạm", "va", "tông" cho kết quả ở giữa.

Ở thí nghiệm thứ hai, 150 sinh viên xem một đoạn phim về vụ đâm nhiều xe. Một nhóm được hỏi với từ "đâm sầm", một nhóm với từ "tông" (hit), và một nhóm không bị hỏi về tốc độ. Một tuần sau, tất cả được hỏi có thấy kính vỡ không. Trong phim không hề có kính vỡ.

Mười sáu trên 50 người ở nhóm "đâm sầm" trả lời có. Ở nhóm "tông" là bảy người, còn nhóm không bị hỏi tốc độ là sáu người. Một chữ, hỏi từ một tuần trước, đã thay đổi điều người ta kể là mình nhìn thấy.

Nghiên cứu cho thấy câu hỏi không phải công cụ trung lập. Cách dùng từ mang theo một giả định, và người trả lời lồng giả định đó vào câu trả lời, đôi khi vào cả ký ức. Các nhà nghiên cứu sau này còn tranh luận ký ức thực sự bị đổi đến đâu, hay người tham gia chỉ đoán điều được mong đợi, và một nghiên cứu với nhân chứng của vụ án thật cho thấy tác động yếu hơn. Nhưng phát hiện cốt lõi, rằng cách dùng từ làm câu trả lời xê dịch, đã được lặp lại rất nhiều lần.

Chatbot còn dễ bị ảnh hưởng hơn. Mô hình ngôn ngữ viết phần tiếp theo có khả năng cao nhất cho đoạn chữ bạn đưa vào. Nếu câu hỏi đã ngầm giả định điều gì, như "Vì sao đây là lựa chọn tốt nhất?", thì phần tiếp theo có khả năng cao nhất thường sẽ chấp nhận giả định đó và dựng lập luận ủng hộ nó.

Vì vậy, cách bạn viết câu lệnh (prompt) là một phần của câu trả lời. Câu hỏi dẫn dắt thường nhận về câu trả lời thiên lệch, nói ra với vẻ tự tin y như một câu trả lời công bằng.

Ý tưởng đằng sau vụ nàyBài học: Prompt bốn phần →

1. 1Viết câu lệnh trung lập: hỏi "A và B so với nhau thế nào?" thay vì "Vì sao A tốt hơn B?"
2. 2Khi muốn một đánh giá thật lòng, đừng đưa phỏng đoán của bạn vào câu hỏi, hoặc yêu cầu bằng chứng cho cả hai phía.
3. 3Hỏi cùng một câu theo hai cách, mỗi cách nghiêng về một phía, rồi xem câu trả lời có xê dịch không.
4. 4Đừng để bản tóm tắt cuộc họp hay tài liệu của chatbot thay cho việc bạn tự xem bản gốc trước khi quyết định.
5. 5Khi viết câu lệnh cho cả nhóm hay cho một sản phẩm, hãy thử nó trên những trường hợp bạn đã biết đáp án đúng.