Học bằng cách truyền lỗi ngược lại

Perceptron chỉ học được với một lớp kết nối, và lời phê phán năm 1969 đã cho thấy điều đó hạn chế đến mức nào. Về lý thuyết, mạng có thêm các lớp ở giữa có thể làm được nhiều hơn, nhưng chưa ai có cách thực tế để huấn luyện chúng. Nếu mạng trả lời sai, thì trong vô số kết nối bên trong, kết nối nào có lỗi?

Tháng 10/1986, tạp chí Nature đăng một bài ngắn của David Rumelhart và Ronald Williams ở Đại học California, San Diego, cùng Geoffrey Hinton ở Đại học Carnegie Mellon. Tên bài là "Learning representations by back-propagating errors" (Học các biểu diễn bằng cách lan truyền ngược lỗi).

Phương pháp hoạt động thế này. Mạng đưa ra một dự đoán. Ta đo dự đoán đó lệch bao xa so với đáp án đúng. Rồi ta truyền phần lỗi đó ngược qua mạng, từng lớp một, tính xem mỗi kết nối góp bao nhiêu vào lỗi, và chỉnh nhẹ mọi kết nối theo hướng giúp câu trả lời tốt hơn. Lặp lại với thật nhiều ví dụ.

Bài báo cho thấy khi đó các lớp ẩn ở giữa tự học được những đặc điểm hữu ích của bài toán, không cần ai chỉ cho chúng phải tìm gì. Trước đó đã có người mô tả phần toán tương tự, nhưng bài này trình bày rõ ràng và mở ra cả một làn sóng nghiên cứu.

Backpropagation (lan truyền ngược), thường gọi tắt là backprop, đến nay vẫn là cách các neural network lớn học, kể cả những mạng đứng sau chatbot. Ban đầu nó chưa chiếm lĩnh ngay. Máy tính và dữ liệu thập niên 1980 còn quá nhỏ, và phải hơn hai mươi năm sau phương pháp này mới cho thấy hết sức mạnh.

Với người dùng chatbot, đây chính là ý nghĩa của chữ "huấn luyện" (training). Chatbot không được trao một cuốn sổ quy tắc. Nó đã đoán hàng tỷ lần về văn bản, mỗi lần đều được sửa, và các kết nối được chỉnh dần từng chút. Điều đó giải thích hai chuyện thường ngày. Nó giỏi những gì xuất hiện nhiều trong dữ liệu huấn luyện. Và nó không học từ cuộc trò chuyện của bạn ngay lúc đó: sửa nó chỉ thay đổi cuộc chat này, không thay đổi mô hình, trừ khi sau này công ty dùng dữ liệu đó để huấn luyện phiên bản mới.

Ý tưởng đằng sau vụ nàyBài học: Máy học như thế nào →

1. 1Hãy coi kỹ năng của chatbot là thói quen hình thành từ dữ liệu huấn luyện, không phải quy tắc ai đó viết ra.
2. 2Chờ đợi nó mạnh nhất ở việc phổ biến, yếu nhất ở việc hiếm, mang tính địa phương hoặc rất mới.
3. 3Đừng nghĩ sửa chatbot một lần là nó nhớ mãi. Kiểm tra xem phần cài đặt hoặc nhà cung cấp có lưu hay dùng các cuộc chat của bạn không.
4. 4Khi nó sai, hãy đưa thông tin đúng vào cuộc chat. Việc đó định hướng câu trả lời lần này, dù không huấn luyện lại mô hình.