Hồ sơ AI
Khi AI gây chuyện
Những vụ việc có thật, có ghi nhận. Mỗi vụ là một cuộc điều tra ngắn: chuyện gì đã xảy ra, vì sao xét theo cách AI hoạt động, và điều gì lẽ ra đã ngăn được. Mọi chi tiết đều dẫn nguồn.
- 01Chatbot hứa hoàn tiềnChatbot trên website của một hãng bay mô tả một quy định hoàn tiền không hề tồn tại, và tòa trọng tài buộc hãng phải trả tiền.Air Canada
· Canada · 2024
· Bịa thông tin - 02Những bản án chưa từng tồn tạiHai luật sư nộp cho tòa một bản lập luận đầy những bản án do ChatGPT bịa ra, và thẩm phán liên bang đã phạt tiền họ cùng hãng luật.Mata kiện Avianca
· New York, Hoa Kỳ · 2023
· Bịa thông tin - 03Cuộc gọi video mà ai cũng là giảMột nhân viên tài chính tham gia cuộc gọi video với những người trông như giám đốc tài chính và đồng nghiệp, rồi chuyển khoảng 25 triệu đô la Mỹ cho kẻ lừa đảo.Arup
· Hồng Kông · 2024
· Lừa đảo deepfake - 04Mã nguồn bí mật bị dán vào chatbotKỹ sư dán mã nguồn và biên bản họp mật vào ChatGPT, sau đó Samsung hạn chế dùng AI tạo sinh trên thiết bị của công ty.Samsung Electronics
· Hàn Quốc · 2023
· Lộ dữ liệu - 05Công cụ tuyển dụng học cách ưu tiên nam giớiMột mô hình thử nghiệm lọc hồ sơ xin việc học từ mười năm ứng viên phần lớn là nam, và bắt đầu chấm thấp những CV có nhắc tới phụ nữ.Amazon
· Hoa Kỳ · 2018
· Thiên kiến - 06Điểm rủi ro làm tan nát nhiều gia đìnhMột thuật toán dùng để phát hiện gian lận trợ cấp giữ trẻ coi việc không có quốc tịch Hà Lan là yếu tố rủi ro, và hàng chục nghìn phụ huynh bị buộc tội oan.Cơ quan Thuế và Hải quan Hà Lan
· Hà Lan · 2021
· Thiên kiến - 07Chatbot đại lý "bán" xe giá 1 đô laKhách truy cập dụ chatbot chạy bằng ChatGPT của một đại lý ô tô viết mã máy tính và "đồng ý" bán một chiếc SUV mới với giá một đô la.Chevrolet of Watsonville
· California, Hoa Kỳ · 2023
· Bảo mật - 08Chatbot học thói xấu chỉ trong một ngàyChatbot Tay của Microsoft trên Twitter được thiết kế để học từ các cuộc trò chuyện, và chỉ trong một ngày, người dùng đã dạy nó đăng những lời phân biệt chủng tộc và xúc phạm.Microsoft
· Hoa Kỳ · 2016
· Bảo mật - 09Cuộc gọi bằng giọng của con gáiMột người mẹ nghe thấy giọng y hệt con gái mình đang khóc xin cứu, rồi một người đàn ông đòi tiền chuộc; con gái bà vẫn an toàn suốt thời gian đó.Một gia đình ở Arizona
· Arizona, Hoa Kỳ · 2023
· Lừa đảo deepfake - 10Câu trả lời tìm kiếm bảo cho keo vào pizzaTính năng AI Overviews của Google tóm tắt bài đăng đùa cợt và tin châm biếm như sự thật, gợi ý cho keo vào pizza và ăn đá.Google
· Hoa Kỳ · 2024
· Tin máy quá mức - 11Những lá thư đòi nợ tự động không ai kiểm traMột hệ thống tự động gửi thông báo nợ cho hàng trăm nghìn người Úc dựa trên thu nhập bình quân, và về sau một Ủy ban Hoàng gia gọi nó là thô bạo, tàn nhẫn và trái luật.Robodebt (Chính phủ Úc)
· Úc · 2023
· Tin máy quá mức - 12Cuộc gọi video của bạn bè chỉ kéo dài vài giâyKẻ gian chiếm tài khoản mạng xã hội và dùng những cuộc gọi video ngắn, mờ, hiện mặt người quen để khiến lời hỏi vay tiền trông như thật.Lừa đảo qua cuộc gọi video ở Việt Nam
· Hà Nội, Việt Nam · 2023
· Lừa đảo deepfake