L025 · Bên trong AI · 2 phút

RAG: đưa tài liệu của bạn cho AI

RAG giúp chatbot tra đúng trang trong tài liệu của chính bạn trước khi trả lời, nên nó dùng được cả những dữ kiện nó chưa từng được học.

01 · Ý chính

Model chỉ biết những gì có trong dữ liệu nó được học. Nó không biết sổ tay nhân viên công ty bạn, nội quy trường bạn hay bảng giá tuần trước.

Retrieval-augmented generation, gọi tắt là RAG (tra cứu rồi trả lời), giải quyết chuyện này bằng hai bước. Đầu tiên, nó tìm trong tài liệu của bạn những đoạn liên quan nhất, thường dùng embedding lưu trong một vector database (cơ sở dữ liệu vector). Sau đó, nó đưa những đoạn ấy cho model cùng câu hỏi của bạn.

Model trả lời dựa trên đoạn văn đó, và hệ thống tốt sẽ chỉ rõ mỗi câu trả lời lấy từ tài liệu nào. Nhờ vậy AI ít bịa hơn và câu trả lời luôn cập nhật.

Bạn đã dùng RAG mỗi khi tải một file PDF lên chatbot, hoặc hỏi bot chăm sóc khách hàng của một công ty. Nó chỉ tốt bằng những tài liệu mà nó tìm được.

02 · Hình dung thế này

Đây là kiểu thi được mở tài liệu. Thay vì trả lời theo trí nhớ, thí sinh lật đúng trang trước, rồi mới viết câu trả lời.

03 · Làm ngay

04 · Kiểm tra nhanh

Bot chăm sóc khách hàng của một công ty trả lời thông tin đã cũ. Trong hệ thống RAG, nguyên nhân khả dĩ nhất là gì?