Bài 39 · 3 phút
Fine-tuning hoạt động thế nào
Fine-tuning lấy một model đã biết ngôn ngữ và huấn luyện thêm một chút bằng ví dụ của riêng bạn, để nó học một văn phong hay một việc cụ thể.
Các model lớn khởi đầu là foundation model (model nền tảng), học từ một lượng văn bản chung khổng lồ. Chúng làm được nhiều việc, nhưng không việc nào đúng y cách nhóm của bạn làm.
Fine-tuning (tinh chỉnh) là huấn luyện tiếp model đó trên một bộ ví dụ nhỏ và tập trung: có thể vài trăm câu trả lời chăm sóc khách hàng đúng giọng công ty, hoặc các biểu mẫu điền đúng định dạng.
Sau khi tinh chỉnh, model nghiêng về văn phong đó mà không cần dặn dài dòng mỗi lần. Cách này tốt cho giọng điệu và định dạng nhất quán, nhưng kém hơn khi muốn dạy kiến thức mới, vì kiến thức hay thay đổi và nên tra cứu bằng RAG thì hơn.
Nó cần ví dụ sạch, một ít công việc kỹ thuật và kiểm thử sau đó. Nhiều nhóm thấy rằng viết prompt tốt hơn hoặc thêm vài ví dụ vào prompt đã giải quyết được phần lớn vấn đề.
Làm ngay
Lên kế hoạch tinh chỉnh trên giấy
- 1. Chọn một việc viết lặp đi lặp lại ở chỗ làm, như trả lời một câu hỏi quen thuộc của khách.
- 2. Hỏi chatbot câu lệnh bên dưới để xem tinh chỉnh có thật sự cần không.
- 3. Gom năm ví dụ thật về câu trả lời xuất sắc. Dù không tinh chỉnh, đây vẫn là ví dụ rất tốt để đưa vào prompt.
Tôi muốn AI làm việc này: [MÔ TẢ]. Viết prompt tốt hơn, thêm ví dụ vào prompt, tra cứu tài liệu hay fine-tuning thì hợp nhất? Giải thích ưu nhược điểm một cách đơn giản.
Kiểm tra nhanh
Học tiếp
Bài sau →Model mở và model đóngTìm hiểu thêm
Thuật ngữ trong bài
- Fine-tuning
- Huấn luyện thêm một mô hình có sẵn bằng ví dụ của bạn để nó giỏi hơn ở một loại việc hẹp.
- Training data
- Những ví dụ, như chữ, hình ảnh hay bản ghi âm, mà mô hình học quy luật từ đó.
- Foundation model
- Mô hình lớn, đa năng, học từ dữ liệu rất rộng, rồi được dùng làm nền cho nhiều sản phẩm khác nhau.