25
Bài 25 · 2 phút
RAG: đưa tài liệu của bạn cho AI
RAG giúp chatbot tra đúng trang trong tài liệu của chính bạn trước khi trả lời, nên nó dùng được cả những dữ kiện nó chưa từng được học.
Model chỉ biết những gì có trong dữ liệu nó được học. Nó không biết sổ tay nhân viên công ty bạn, nội quy trường bạn hay bảng giá tuần trước.
Retrieval-augmented generation, gọi tắt là RAG (tra cứu rồi trả lời), giải quyết chuyện này bằng hai bước. Đầu tiên, nó tìm trong tài liệu của bạn những đoạn liên quan nhất, thường dùng embedding lưu trong một vector database (cơ sở dữ liệu vector). Sau đó, nó đưa những đoạn ấy cho model cùng câu hỏi của bạn.
Model trả lời dựa trên đoạn văn đó, và hệ thống tốt sẽ chỉ rõ mỗi câu trả lời lấy từ tài liệu nào. Nhờ vậy AI ít bịa hơn và câu trả lời luôn cập nhật.
Bạn đã dùng RAG mỗi khi tải một file PDF lên chatbot, hoặc hỏi bot chăm sóc khách hàng của một công ty. Nó chỉ tốt bằng những tài liệu mà nó tìm được.
Làm ngay
Tự làm một RAG mini
- 1.Tải lên chatbot một tài liệu bạn nắm rõ: sách hướng dẫn, quy định hoặc một bài viết dài.
- 2.Đặt câu hỏi bằng câu lệnh bên dưới.
- 3.Kiểm tra xem đoạn trích dẫn có thật sự nằm trong tài liệu của bạn không.
Chỉ dựa vào tài liệu tôi đã tải lên, hãy trả lời: [CÂU HỎI CỦA BẠN]. Trích nguyên văn phần bạn đã dùng. Nếu tài liệu không có câu trả lời, hãy nói thẳng thay vì đoán.
Thuật ngữ trong bài
- RAG
- AI tìm đoạn liên quan trong tài liệu của bạn trước, rồi dựa vào đó để trả lời, nên chính xác hơn.
- Embedding
- Dãy số thể hiện ý nghĩa của một đoạn chữ hay hình ảnh. Nghĩa giống nhau thì dãy số gần nhau.
- Vector database
- Cơ sở dữ liệu lưu embedding để hệ thống nhanh chóng tìm ra những mục gần nghĩa nhất với câu hỏi.
- Hallucination
- Khi AI nói sai một cách tự tin, như bịa ra sự kiện, câu trích dẫn hay nguồn tham khảo.
- Training data
- Những ví dụ, như chữ, hình ảnh hay bản ghi âm, mà mô hình học quy luật từ đó.