Fine-tuning hay viết prompt tốt hơn

Có ba cách chính để AI hợp với nhu cầu của bạn. Prompting: mỗi lần đưa chỉ dẫn và ví dụ. RAG: để nó tra tài liệu của bạn. Fine-tuning (tinh chỉnh model): huấn luyện thêm một model có sẵn bằng ví dụ của riêng bạn.

Fine-tuning thay đổi chính model. Nó hợp khi cần một văn phong hay định dạng cực kỳ đồng nhất, hoặc một việc hẹp lặp lại hàng triệu lần. Nó cần dữ liệu tốt, tiền và kỹ năng, và phải làm lại khi có model tốt hơn ra đời.

Prompting và một system prompt (chỉ dẫn hệ thống) tốt gần như không tốn gì và sửa được trong vài phút. RAG hợp nhất khi vấn đề là thiếu kiến thức, như bảng giá hay quy định.

Một quy tắc đơn giản: bắt đầu bằng prompt, thêm RAG khi cần kiến thức, và chỉ nghĩ đến fine-tuning khi hai cách kia rõ ràng không đủ.