Những bản án chưa từng tồn tại

Ông Roberto Mata kiện hãng bay Avianca, cho rằng xe đẩy phục vụ trên máy bay làm ông bị thương ở đầu gối. Tháng 3/2023, luật sư của ông nộp một bản lập luận, dẫn các bản án cũ để bảo vệ yêu cầu của ông.

Luật sư của Avianca không tìm thấy nhiều bản án trong đó. Tòa cũng không tìm thấy. Một luật sư của ông Mata đã dùng ChatGPT để tra cứu. Các vụ án, trích dẫn và số hiệu mà nó đưa ra đều là bịa.

Sau đó luật sư này khai rằng ông đã hỏi ChatGPT một vụ án có thật không, và nó nói có. Ngày 22/6/2023, Thẩm phán P. Kevin Castel phạt hai luật sư và hãng luật 5.000 đô la Mỹ. Họ còn phải gửi thư cho từng thẩm phán thật bị ghi tên sai là tác giả của các bản án giả.

Chatbot như ChatGPT viết bằng cách đoán chữ nào thường đi tiếp theo. Số hiệu bản án có khuôn rất đều: tên các bên, số tập, tên tòa, năm. Mô hình có thể tạo ra chữ đúng khuôn đó mà không có vụ án thật nào đằng sau.

Hỏi lại chính chatbot "cái này có thật không?" chẳng giúp gì. Vẫn là cỗ máy đoán chữ đó kiểm tra lại phỏng đoán của chính nó. Thẩm phán ghi nhận rằng dùng AI tự nó không sai. Lỗi là không kiểm tra kết quả trong cơ sở dữ liệu pháp lý thật, rồi vẫn bảo vệ nó khi đã bị chất vấn.

Ý tưởng đằng sau vụ nàyBài học: Kiểm tra lại lời AI nói →

1. 1Không bao giờ trích dẫn nguồn mà bạn chưa tự mở ra đọc.
2. 2Kiểm tra mọi tên vụ án, điều luật hay con số từ chatbot trong cơ sở dữ liệu chính thức hoặc văn bản gốc.
3. 3Đừng nhờ chatbot xác nhận thông tin của chính nó. Hãy dùng một nguồn độc lập.
4. 4Nếu ai đó nghi ngờ nguồn của bạn, kiểm tra lại ngay và đính chính sớm.
5. 5Thống nhất quy định trong nhóm về công cụ AI nào được dùng để tra cứu, và bắt buộc có người kiểm tra trước khi nộp hay đăng bất cứ thứ gì.