Overfitting: thuộc đáp án mà không hiểu bài

Đôi khi model lại bám vào chi tiết vụn vặt của bộ dữ liệu. Chẳng hạn mọi ảnh mèo nó từng thấy đều chụp trong nhà, thế là nó kết luận cứ có ghế sofa là có mèo. Với đúng những ảnh đó, nó đạt điểm tuyệt đối, còn gặp ảnh thật thì vấp.

Người làm AI phòng chuyện này bằng cách kiểm tra model trên dữ liệu nó chưa thấy lúc huấn luyện, thêm ví dụ đa dạng hơn, và dừng huấn luyện trước khi model bắt đầu học vẹt.

Nó cũng giải thích vì sao một model làm bài kiểm tra nổi tiếng rất tốt mà vẫn lúng túng với việc của bạn. Điểm cao ở câu hỏi quen chưa chứng minh được nó sẽ xử lý tốt câu hỏi lạ.