Chương trình đơn giản khiến người ta mở lòng

Giữa thập niên 1960, Joseph Weizenbaum, nhà khoa học máy tính ở Viện Công nghệ Massachusetts (MIT), viết một chương trình tên ELIZA. Người dùng gõ tin nhắn trên một máy đánh chữ nối với máy tính dùng chung của MIT, và chương trình gõ lại câu trả lời. Ông mô tả nó trong một bài báo đăng tháng 1/1966.

ELIZA không biết gì về thế giới. Nó tìm từ khóa trong câu bạn gõ và dùng vài quy tắc đơn giản để xoay câu đó lại. "Tôi đang buồn" có thể được trả về thành câu hỏi vì sao bạn buồn. Khi không thấy từ khóa nào, nó dùng một câu có sẵn để bạn tiếp tục nói.

Kịch bản nổi tiếng nhất của nó, tên DOCTOR, đóng vai một kiểu nhà trị liệu chủ yếu nhắc lại lời bệnh nhân. Weizenbaum cố ý chọn vai này: trong kiểu trò chuyện đó, một bên có thể tỏ ra gần như không biết gì về thế giới mà vẫn thấy tự nhiên.

Dù vậy, nhiều người vẫn thấy mình được thấu hiểu. Weizenbaum sau này kể rằng chính cô thư ký của ông, người biết rõ chương trình hoạt động thế nào, đã xin ông ra khỏi phòng để cô nói chuyện riêng với nó. Trải nghiệm đó làm ông bất an. Trong cuốn sách Computer Power and Human Reason năm 1976, ông cảnh báo về việc giao cho máy móc những phán đoán vốn thuộc về con người.

Chính bài báo của Weizenbaum đã nói ra điểm mấu chốt. Con người mặc định rằng bên kia cuộc trò chuyện hiểu mình, và tự điền ý nghĩa vào. Sự thấu hiểu đến từ người dùng, không phải từ máy. Xu hướng này nay được gọi là hiệu ứng ELIZA.

Chatbot ngày nay giỏi hơn ELIZA rất nhiều. Chúng trò chuyện được lâu, nhớ tin nhắn trước và viết câu trả lời trôi chảy, ấm áp. Nhưng cái bẫy cơ bản vẫn vậy, thậm chí mạnh hơn. Một câu trả lời nghe quan tâm và tự tin khiến ta tưởng là thấu hiểu, trong khi hệ thống chỉ đang tạo ra đoạn chữ có khả năng cao, chứ không chia sẻ cảm xúc hay xem xét hoàn cảnh của bạn.

Điều này quan trọng nhất khi người ta tìm đến chatbot để xin lời khuyên, an ủi hay bầu bạn. Nó nghe càng thân thiện, ta càng dễ quên nó là gì.

Ý tưởng đằng sau vụ nàyBài học: Chatbot thật ra đang làm gì →

1. 1Tự nhắc mình rằng giọng điệu ấm áp chỉ là cách viết, không chứng minh chatbot hiểu bạn hay quan tâm đến bạn.
2. 2Với chuyện sức khỏe, tiền bạc, pháp lý hay khủng hoảng tinh thần, hãy dùng chatbot để chuẩn bị câu hỏi, rồi nói chuyện với người có chuyên môn.
3. 3Để ý nếu bạn đang kể cho chatbot những điều không bao giờ kể với người lạ, và kiểm tra cài đặt quyền riêng tư trước khi kể.
4. 4Giữ người thật bên cạnh. Nếu chatbot trở thành nơi tâm sự chính của bạn, đó là dấu hiệu nên tìm đến ai đó.
5. 5Khi một câu trả lời nghe thật sâu sắc, hãy tự hỏi phần nào do chatbot nói, phần nào do bạn tự điền vào.