Bài 170 · 2 phút
Hàng rào an toàn ở đầu ra
Hàng rào đầu ra soát câu trả lời của model trước khi tới tay bạn, bắt các vụ lộ thông tin, lời khuyên nguy hiểm và những khẳng định app không có cơ sở.
Dù được dặn kỹ, model vẫn có thể nói điều không nên: để lộ hướng dẫn ẩn, nhắc lại dữ liệu riêng trong một tài liệu, đưa liều thuốc cụ thể, hay hứa hoàn tiền dù công ty chưa từng có chính sách đó.
Hàng rào đầu ra đọc bản nháp câu trả lời trước. Nó có thể dò dữ liệu cá nhân, kiểm tra giọng điệu, so các khẳng định với nguồn app đã lấy, hoặc dùng một model thứ hai làm người soát. Có bước là luật cứng, như không bao giờ hiện đầy đủ số tài khoản.
Nếu câu trả lời không đạt, app có thể viết lại, thay bằng câu dự phòng an toàn như “Mình chưa hỗ trợ được việc này ở đây, nhân viên sẽ liên hệ bạn”, thêm cảnh báo, hoặc chuyển cho người thật.
Kiểm tra đầu ra quan trọng nhất ở những chỗ câu trả lời có hậu quả, như sức khỏe, tiền bạc và pháp lý. Nó làm chậm đi một chút, nên các đội đặt bước kiểm tra kỹ nhất cho chủ đề rủi ro nhất và nhẹ hơn ở chỗ khác.
Làm ngay
Làm người soát đầu ra
- 1. Hỏi chatbot một câu thuộc chủ đề nhạy cảm, như cách xử lý khi bị sốt.
- 2. Đọc câu trả lời như người soát, theo danh sách trong câu lệnh bên dưới.
- 3. Ghi lại chỗ nào bạn sẽ đánh dấu, viết lại hay chuyển cho chuyên gia.
Đây là câu trả lời một bot hỗ trợ AI định gửi đi: [DÁN CÂU TRẢ LỜI] Hãy kiểm tra như một người soát an toàn: có dữ liệu riêng tư không, có khẳng định nào thiếu nguồn không, lời khuyên nào cần chuyên gia, lời hứa nào doanh nghiệp có thể không giữ được. Gợi ý một phiên bản an toàn hơn.
Kiểm tra nhanh
Tìm hiểu thêm
Thuật ngữ trong bài
- Guardrails
- Quy tắc và bộ lọc quanh hệ thống AI để chặn yêu cầu và câu trả lời có hại, lạc đề hoặc không an toàn.
- Grounding
- Gắn câu trả lời của AI với nguồn thật bạn đưa hoặc nó tự tìm, để kiểm tra được thay vì bị bịa.
- Hallucination
- Khi AI nói sai một cách tự tin, như bịa ra sự kiện, câu trích dẫn hay nguồn tham khảo.
- Human in the loop
- Thiết kế quy trình sao cho có người xem lại hoặc duyệt kết quả của AI trước khi nó gây hậu quả thật.