L170 · Bên trong AI · 2 phút

Hàng rào an toàn ở đầu ra

Hàng rào đầu ra soát câu trả lời của model trước khi tới tay bạn, bắt các vụ lộ thông tin, lời khuyên nguy hiểm và những khẳng định app không có cơ sở.

01 · Ý chính

Dù được dặn kỹ, model vẫn có thể nói điều không nên: để lộ hướng dẫn ẩn, nhắc lại dữ liệu riêng trong một tài liệu, đưa liều thuốc cụ thể, hay hứa hoàn tiền dù công ty chưa từng có chính sách đó.

Hàng rào đầu ra đọc bản nháp câu trả lời trước. Nó có thể dò dữ liệu cá nhân, kiểm tra giọng điệu, so các khẳng định với nguồn app đã lấy, hoặc dùng một model thứ hai làm người soát. Có bước là luật cứng, như không bao giờ hiện đầy đủ số tài khoản.

Nếu câu trả lời không đạt, app có thể viết lại, thay bằng câu dự phòng an toàn như “Mình chưa hỗ trợ được việc này ở đây, nhân viên sẽ liên hệ bạn”, thêm cảnh báo, hoặc chuyển cho người thật.

Kiểm tra đầu ra quan trọng nhất ở những chỗ câu trả lời có hậu quả, như sức khỏe, tiền bạc và pháp lý. Nó làm chậm đi một chút, nên các đội đặt bước kiểm tra kỹ nhất cho chủ đề rủi ro nhất và nhẹ hơn ở chỗ khác.

02 · Hình dung thế này

Giống biên tập viên đọc bài của phóng viên trước khi in, soát tên người, dữ kiện và mọi thứ có thể khiến tòa soạn bị kiện.

03 · Làm ngay

04 · Kiểm tra nhanh

Bot của một cửa hàng soạn câu “Vâng, chúng tôi sẽ hoàn tiền gấp đôi cho bạn.” Thật ra không có chính sách này. Hàng rào đầu ra nên làm gì?