Bài 182 · 2 phút
Thiết kế cho một AI đôi khi sai
Sản phẩm AI tốt mặc định rằng model sẽ có lúc sai, và làm cho lỗi đó dễ thấy, dễ sửa, dễ khắc phục.
Tính năng AI nào cũng có lúc sai. Câu hỏi cho người thiết kế là chuyện gì xảy ra sau đó. Người dùng có nhận ra không? Họ có sửa được bằng một cú chạm không? Có thiệt hại nào xảy ra trước khi họ sửa không?
Hãy cho thấy cách làm. Gắn link tới nguồn của câu trả lời, tô sáng đoạn chữ AI đã trích ra, hoặc cho biết khi model không chắc chắn. Người ta bắt được lỗi khi thấy câu trả lời từ đâu ra.
Giữ con người trong vòng lặp với các hành động. Để AI soạn email, còn người bấm gửi. Để AI gợi ý phân loại, còn người đổi lại dễ dàng. Làm cho nút hoàn tác dễ thấy và dễ dùng.
Viết lời lẽ trung thực. Nhãn như “Bản nháp của AI, vui lòng kiểm tra” tạo đúng kỳ vọng. Tránh thiết kế khiến kết quả của AI trông như quyết định chính thức, vì người ta tin thứ trông tự tin, kể cả khi nó sai.
Làm ngay
Thiết kế lại một màn hình AI
- 1. Nghĩ tới một tính năng AI bạn dùng, như gợi ý trả lời nhanh hay tự phân loại chi tiêu.
- 2. Tự hỏi: khi nó sai, làm sao tôi biết, và sửa thế nào?
- 3. Phác một thay đổi nhỏ, như link nguồn hay nút hoàn tác, để lỗi dễ bị phát hiện hơn.
Tính năng AI này [MÔ TẢ] thỉnh thoảng sai. Hãy gợi ý năm thay đổi thiết kế nhỏ giúp người dùng nhận ra và sửa lỗi nhanh, mà không làm tính năng trở nên phiền phức.
Kiểm tra nhanh
Tìm hiểu thêm
Thuật ngữ trong bài
- Human in the loop
- Thiết kế quy trình sao cho có người xem lại hoặc duyệt kết quả của AI trước khi nó gây hậu quả thật.
- Automation bias
- Thói quen tin câu trả lời của máy quá dễ, kể cả khi phán đoán của bạn hoặc bằng chứng khác nói ngược lại.
- Explainability
- Mức độ con người hiểu được vì sao AI đưa ra một câu trả lời hay quyết định cụ thể.
- Grounding
- Gắn câu trả lời của AI với nguồn thật bạn đưa hoặc nó tự tìm, để kiểm tra được thay vì bị bịa.