Câu trả lời tìm kiếm bảo cho keo vào pizza

Tháng 5/2024, Google bắt đầu hiển thị AI Overviews, tức các câu trả lời do AI viết ở đầu kết quả tìm kiếm, cho mọi người dùng ở Hoa Kỳ.

Chỉ vài ngày sau, người dùng chia sẻ những câu trả lời kỳ quặc. Một câu gợi ý dùng keo không độc để phô mai dính vào pizza. Một câu khác nói các nhà địa chất khuyên mỗi ngày ăn một hòn đá. Những câu này có vẻ lấy từ bình luận trên Reddit và một bài của trang châm biếm The Onion.

Ngày 30/5, người đứng đầu mảng Tìm kiếm của Google nói một số câu trả lời kỳ quặc và sai đã xuất hiện, phần lớn với những câu hỏi hiếm gặp, và nhiều ảnh chụp màn hình lan truyền là giả. Google cho biết đã sửa hơn chục điểm, trong đó có hạn chế dùng nội dung châm biếm và bài đăng diễn đàn.

AI Overviews tìm các trang web rồi tóm tắt chúng. Mô hình không biết trang nào là chuyện đùa. Nếu những trang duy nhất nói về một câu hỏi lạ lại là tin châm biếm, nó có thể tóm tắt tin châm biếm như sự thật. Google gọi đây là "khoảng trống dữ liệu" (data void).

Rủi ro sâu hơn là lòng tin. Một câu trả lời ở đầu trang Google, viết bằng giọng điềm tĩnh, cho cảm giác đã được kiểm chứng. Thực ra nó có thể chỉ là bản tóm tắt của bất cứ thứ gì hệ thống tìm được.

Ý tưởng đằng sau vụ nàyBài học: RAG: đưa tài liệu của bạn cho AI →

1. 1Với câu hỏi về sức khỏe, an toàn, tiền bạc hay pháp luật, mở các nguồn đằng sau câu trả lời của AI và tự đánh giá.
2. 2Đặc biệt cẩn thận với câu hỏi lạ: có thể có rất ít thông tin tốt, nên câu trả lời có thể yếu.
3. 3Nếu bạn xây công cụ tóm tắt tài liệu, hãy kiểm soát những nguồn nó được dùng.
4. 4Hiển thị nguồn rõ ràng trong công cụ AI của bạn và dạy mọi người bấm vào xem.
5. 5Báo cáo những câu trả lời AI tệ khi bạn gặp, để chúng được sửa.