Bài 132 · 2 phút
AI và sự thiên lệch
AI học từ dữ liệu của con người, nên có thể lặp lại những bất công của con người về giới tính, tuổi tác, giọng nói hay vùng miền nếu không ai kiểm tra.
Nếu phần lớn ảnh bác sĩ trong dữ liệu huấn luyện là nam giới, công cụ tạo ảnh có thể vẽ đàn ông khi bạn xin “một bác sĩ”. Nếu hồ sơ tuyển dụng cũ ưu ái vài trường, mô hình học từ đó cũng có thể làm y như vậy.
Thiên lệch còn hiện ra trong ngôn ngữ. Có công cụ nghe giọng vùng miền này kém hơn vùng miền khác, hoặc trả lời tiếng Việt yếu hơn tiếng Anh.
Chuyện này đáng lo nhất khi AI góp phần quyết định về con người: cho vay, tuyển dụng, xét tuyển, bảo hiểm. Một kiểu bất công nhỏ lặp lại hàng nghìn lần sẽ thành chuyện lớn.
Bạn có thể phản biện. Yêu cầu công cụ đa dạng hơn, so sánh câu trả lời với các tên hay nhóm người khác nhau, và hỏi tổ chức xem có người thật kiểm tra quyết định AI đưa ra về bạn không.
Làm ngay
Tự kiểm tra sự thiên lệch
- 1. Nhờ công cụ tạo ảnh vẽ “một y tá”, “một kỹ sư” và “một giám đốc”, rồi xem ai hiện ra.
- 2. Nhờ chatbot viết thư giới thiệu ngắn cho “Lan”, rồi viết y hệt cho “Minh”, so sánh câu chữ.
- 3. Ghi lại khác biệt, và hỏi công cụ vì sao như vậy.
Kiểm tra nhanh
Tìm hiểu thêm
Thuật ngữ trong bài
- Bias
- Khi AI đối xử bất công với một số người hoặc quan điểm vì dữ liệu nó học bị lệch.
- Training data
- Những ví dụ, như chữ, hình ảnh hay bản ghi âm, mà mô hình học quy luật từ đó.
- Explainability
- Mức độ con người hiểu được vì sao AI đưa ra một câu trả lời hay quyết định cụ thể.