Bài 41 · 2 phút
Distillation: model lớn dạy model nhỏ
Distillation (chưng cất) là cách huấn luyện một model nhỏ, nhanh bắt chước câu trả lời của một model lớn, để giữ được phần lớn khả năng mà tốn ít chi phí hơn nhiều.
Model lớn thì giỏi nhưng chạy chậm và tốn kém. Nhiều việc hằng ngày không cần đến sức mạnh đó, nên các công ty muốn có model nhỏ hơn mà vẫn làm gần tốt bằng.
Trong distillation, model lớn đóng vai thầy. Nó trả lời một lượng câu hỏi khổng lồ, còn model nhỏ, tức học trò, được huấn luyện để trả lời giống như vậy. Học trò còn học được cả mức độ chắc chắn của thầy với từng lựa chọn, thứ chứa nhiều thông tin hơn một câu đúng hay sai đơn thuần.
Kết quả là học trò nhỏ và nhanh hơn hẳn. Nó thường kém đi một chút, nhất là với câu hỏi khó hoặc lạ, nhưng với việc thông thường thì khoảng cách có thể rất nhỏ.
Nhiều phiên bản "mini", "lite" hay "fast" của các model nổi tiếng được tạo ra một phần theo cách này. Vì vậy model nhỏ có thể làm việc đơn giản rất ổn, rồi lại vấp ở câu hỏi hóc búa.
Làm ngay
So model nhỏ với model lớn
- 1. Chọn một chatbot có cả model nhanh (mini) và model lớn hơn.
- 2. Hỏi cả hai câu dễ và câu khó trong prompt bên dưới.
- 3. Để ý chỗ nào model nhỏ theo kịp, chỗ nào nó tụt lại.
Trả lời hai câu hỏi. 1) Viết lại câu này cho lịch sự hơn: "Gửi báo cáo cho tôi ngay." 2) Một cửa hàng bán bút theo lốc 3 cây giá 10.000 đồng, vở theo lốc 2 quyển giá 15.000 đồng, chỉ bán nguyên lốc. Tôi cần ít nhất 7 cây bút và 5 quyển vở. Mua thế nào rẻ nhất và hết bao nhiêu tiền? Trình bày cách tính.
Kiểm tra nhanh
Tìm hiểu thêm
Thuật ngữ trong bài
- Distillation
- Huấn luyện mô hình nhỏ, rẻ hơn bắt chước câu trả lời của mô hình lớn, giữ lại phần lớn khả năng.
- Small language model
- Mô hình ngôn ngữ gọn, rẻ và nhanh hơn, thường đủ tốt cho việc chuyên biệt và chạy được trên thiết bị.