ManuAIEN

L044 · Bên trong AI · 2 phút

Huấn luyện và suy luận: học một lần, trả lời hàng triệu lần

Huấn luyện (training) là lúc model học, diễn ra trước khi bạn dùng nó; suy luận (inference) là lúc model trả lời bạn bằng những gì nó đã học.

01 · Ý chính

Huấn luyện là phần dài và tốn kém. Công ty cho một lượng dữ liệu khổng lồ chạy qua hàng nghìn con chip trong nhiều tuần hoặc nhiều tháng, chỉnh dần trọng số (weights) của model cho đến khi nó đoán chữ giỏi. Xong rồi thì trọng số được đóng băng.

Suy luận là mọi thứ sau đó. Mỗi lần bạn gửi tin nhắn, model đã đóng băng đọc nó và tính ra câu trả lời. Một câu trả lời tốn rất ít, nhưng hàng triệu người hỏi suốt ngày thì cộng lại cũng rất nhiều, nên phục vụ một model nổi tiếng vẫn cần lượng máy tính lớn.

Điều này giải thích một chuyện hay làm người ta ngạc nhiên. Model không học từ cuộc trò chuyện của bạn trong lúc nói chuyện. Nếu nó có vẻ nhớ bạn, đó là nhờ tính năng ghi nhớ hoặc ghi chú được thêm vào bên ngoài, ứng dụng đưa chúng lại cho model dưới dạng chữ.

Cuộc trò chuyện của bạn có thể được dùng để huấn luyện phiên bản sau, tùy dịch vụ và cài đặt của bạn. Đó là một bước riêng diễn ra về sau, và thường bạn tắt được trong phần cài đặt quyền riêng tư.

02 · Hình dung thế này

Huấn luyện giống một sinh viên học nhiều năm ở trường y. Suy luận là lúc bác sĩ khám bệnh. Mỗi lượt khám dùng kiến thức đã học; bác sĩ không quay lại trường giữa hai bệnh nhân.

03 · Làm ngay

04 · Kiểm tra nhanh

Bạn sửa lỗi sai của chatbot trong một cuộc trò chuyện. Chuyện gì xảy ra với chính model?

Thuật ngữ trong bài

Xem thêm