Fine-tuning hoạt động thế nào

Fine-tuning (tinh chỉnh) là huấn luyện tiếp model đó trên một bộ ví dụ nhỏ và tập trung: có thể vài trăm câu trả lời chăm sóc khách hàng đúng giọng công ty, hoặc các biểu mẫu điền đúng định dạng.

Sau khi tinh chỉnh, model nghiêng về văn phong đó mà không cần dặn dài dòng mỗi lần. Cách này tốt cho giọng điệu và định dạng nhất quán, nhưng kém hơn khi muốn dạy kiến thức mới, vì kiến thức hay thay đổi và nên tra cứu bằng RAG thì hơn.

Nó cần ví dụ sạch, một ít công việc kỹ thuật và kiểm thử sau đó. Nhiều nhóm thấy rằng viết prompt tốt hơn hoặc thêm vài ví dụ vào prompt đã giải quyết được phần lớn vấn đề.