Chatbot hứa hoàn tiền

Tháng 11/2022, bà của anh Jake Moffatt qua đời. Ngay hôm đó, anh hỏi chatbot (trợ lý trò chuyện tự động) trên website Air Canada về vé tang lễ, loại vé giảm giá mà một số hãng bay dành cho người có người thân vừa mất.

Chatbot bảo anh cứ mua vé giá thường, rồi xin giảm giá tang lễ trong vòng 90 ngày. Anh làm theo. Đến khi anh nộp đơn, Air Canada nói chính sách của họ không hoàn tiền cho chuyến bay đã đi.

Anh kiện ra Tòa Giải quyết Dân sự của tỉnh British Columbia. Air Canada lập luận, về thực chất, rằng chatbot tự chịu trách nhiệm về lời nó nói. Tháng 2/2024, tòa bác lập luận này và buộc hãng trả khoảng 812 đô la Canada, gồm 650,88 đô la tiền chênh lệch vé.

Phán quyết không nói chatbot dùng công nghệ gì. Nhưng mọi chatbot tự viết câu trả lời đều hoạt động theo cùng một cách cơ bản: nó tạo ra câu trả lời nghe có vẻ đúng. Không có bước nào trong quá trình đó đối chiếu câu trả lời với chính sách thật của công ty.

Ý của tòa rất đơn giản. Chatbot trên website của bạn là một phần của website. Khách hàng không thể biết nên tin trang nào, nên công ty phải chịu trách nhiệm về mọi câu trả lời.

Ý tưởng đằng sau vụ nàyBài học: Vì sao AI bịa chuyện →

1. 1Nối chatbot với văn bản chính sách chính thức, bắt nó trích dẫn hoặc dẫn link tới văn bản đó, thay vì trả lời theo trí nhớ.
2. 2Với tiền, hoàn tiền và điều khoản pháp lý, cho chatbot nói "Tôi không chắc, đây là trang chính sách".
3. 3Trước khi đưa vào dùng, thử chatbot bằng những câu hỏi khó có thật của khách, như hoàn tiền sau khi đã bay.
4. 4Mỗi tuần đọc lại một phần nhật ký trò chuyện và sửa nhanh các câu trả lời sai.
5. 5Coi lời chatbot là lời công ty, và cho nhân viên cách rõ ràng để giữ lời hoặc đính chính.