Fine-tuning hay viết prompt tốt hơn

Fine-tuning thay đổi chính model. Nó hợp khi cần một văn phong hay định dạng cực kỳ đồng nhất, hoặc một việc hẹp lặp lại hàng triệu lần. Nó cần dữ liệu tốt, tiền và kỹ năng, và phải làm lại khi có model tốt hơn ra đời.

Prompting và một system prompt (chỉ dẫn hệ thống) tốt gần như không tốn gì và sửa được trong vài phút. RAG hợp nhất khi vấn đề là thiếu kiến thức, như bảng giá hay quy định.

Một quy tắc đơn giản: bắt đầu bằng prompt, thêm RAG khi cần kiến thức, và chỉ nghĩ đến fine-tuning khi hai cách kia rõ ràng không đủ.