Bài 65 · 2 phút
Bài toán hộp đen
Ngay cả những người làm ra các model AI lớn cũng không giải thích được trọn vẹn vì sao model đưa ra một câu trả lời cụ thể.
Mạng nơ-ron là hàng tỉ con số được điều chỉnh trong lúc huấn luyện. Không ai viết tay các quy tắc. Cách nó cư xử là kết quả của tất cả những con số đó cùng hoạt động.
Vì vậy khi model trả lời, không có sẵn danh sách lý do nào để đọc. Bạn có thể bảo nó tự giải thích, nhưng lời giải thích đó cũng chỉ là chữ được tạo ra thêm, và có thể không khớp với những gì thật sự diễn ra bên trong.
Các nhà nghiên cứu đang tìm cách giải quyết, trong một lĩnh vực gọi là interpretability (khả năng diễn giải). Họ đã tìm ra cách nhận diện một số khái niệm bên trong model và xem một vài câu trả lời hình thành ra sao. Đó là tiến bộ thật, dù vẫn còn xa mới thấy hết bức tranh.
Hiện tại, đây là lý do các quyết định về vay vốn, tuyển dụng, sức khỏe hay pháp luật không nên chỉ dựa vào câu trả lời của AI. Con người cần được chất vấn quyết định và nhận một lý do mà ai đó chịu trách nhiệm.
Làm ngay
Hỏi lý do, rồi thử lại
- 1. Bảo chatbot chọn giữa hai lựa chọn, như hai chiếc điện thoại hay hai điểm du lịch, và giải thích vì sao.
- 2. Sau đó đổi thứ tự hai lựa chọn và hỏi lại trong một cuộc trò chuyện mới.
- 3. Xem lựa chọn hay lý do có thay đổi không. Khoảng chênh đó cho thấy giới hạn của việc tự giải thích.
Kiểm tra nhanh
Tìm hiểu thêm
Thuật ngữ trong bài
- Explainability
- Mức độ con người hiểu được vì sao AI đưa ra một câu trả lời hay quyết định cụ thể.
- Neural network
- Nhiều lớp đơn vị tính toán đơn giản, lấy cảm hứng từ tế bào não, có kết nối được chỉnh trong lúc huấn luyện để tìm quy luật.