05
Bài 5 · 2 phút
Vì sao AI bịa chuyện
AI được tạo ra để đưa câu trả lời nghe hợp lý, chứ không phải câu trả lời đúng, nên đôi khi nó tự tin bịa ra sự thật.
Khi chatbot bịa ra điều gì đó, như tên một cuốn sách không có thật, một ngày tháng sai hay một điều luật không tồn tại, người ta gọi là hallucination (ảo giác của AI).
Chuyện này xảy ra vì model đang đoán ra những chữ trông có vẻ đúng. Khi không biết câu trả lời, nó hiếm khi nói thẳng là không biết. Nó lấp chỗ trống bằng thứ gì đó hợp khuôn mẫu.
Ảo giác hay gặp nhất ở các chi tiết chính xác: tên người, con số, trích dẫn, đường link, nguồn tham khảo và sự kiện mới. Với những lời giải thích chung chung thì ít gặp hơn.
Model mới ít bịa hơn, và nhiều model có thể tìm trên web và đưa nguồn. Nhưng chưa có model nào hết hẳn. Thử ngay bên dưới: ba câu trả lời, một câu là bịa. Bạn có tìm ra không?
Tìm chi tiết bịa đặt
Câu trả lời nào cũng nghe rất chắc chắn, nhưng một câu có chi tiết bịa. Hãy bấm vào câu bạn nghĩ là giả.
Ai là tác giả của Truyện Kiều?
Làm ngay
Bắt nó thừa nhận điều nó không biết
- 1.Hỏi chatbot về một chuyện nhỏ ở địa phương bạn, như một con đường, một quán ăn hay một thầy cô trong phường.
- 2.Xem nó có đưa ra những chi tiết mà nó không thể nào biết được không.
- 3.Sau đó dùng câu lệnh bên dưới và so sánh câu trả lời.
Hãy kể cho tôi về [CHUYỆN NHỎ Ở ĐỊA PHƯƠNG]. Nếu bạn không chắc về chi tiết nào, hãy nói “Tôi không chắc” thay vì đoán. Đánh dấu từng thông tin là chắc chắn hay không chắc.
Thuật ngữ trong bài
- Hallucination
- Khi AI nói sai một cách tự tin, như bịa ra sự kiện, câu trích dẫn hay nguồn tham khảo.
- LLM
- AI học từ khối lượng chữ khổng lồ để đoán từ tiếp theo, nhờ đó viết, tóm tắt, dịch và trò chuyện được.
- Training data
- Những ví dụ, như chữ, hình ảnh hay bản ghi âm, mà mô hình học quy luật từ đó.