L170 · Bên trong AI · 2 phút
Hàng rào an toàn ở đầu ra
Hàng rào đầu ra soát câu trả lời của model trước khi tới tay bạn, bắt các vụ lộ thông tin, lời khuyên nguy hiểm và những khẳng định app không có cơ sở.
01 · Ý chính
Dù được dặn kỹ, model vẫn có thể nói điều không nên: để lộ hướng dẫn ẩn, nhắc lại dữ liệu riêng trong một tài liệu, đưa liều thuốc cụ thể, hay hứa hoàn tiền dù công ty chưa từng có chính sách đó.
Hàng rào đầu ra đọc bản nháp câu trả lời trước. Nó có thể dò dữ liệu cá nhân, kiểm tra giọng điệu, so các khẳng định với nguồn app đã lấy, hoặc dùng một model thứ hai làm người soát. Có bước là luật cứng, như không bao giờ hiện đầy đủ số tài khoản.
Nếu câu trả lời không đạt, app có thể viết lại, thay bằng câu dự phòng an toàn như “Mình chưa hỗ trợ được việc này ở đây, nhân viên sẽ liên hệ bạn”, thêm cảnh báo, hoặc chuyển cho người thật.
Kiểm tra đầu ra quan trọng nhất ở những chỗ câu trả lời có hậu quả, như sức khỏe, tiền bạc và pháp lý. Nó làm chậm đi một chút, nên các đội đặt bước kiểm tra kỹ nhất cho chủ đề rủi ro nhất và nhẹ hơn ở chỗ khác.
02 · Hình dung thế này
Giống biên tập viên đọc bài của phóng viên trước khi in, soát tên người, dữ kiện và mọi thứ có thể khiến tòa soạn bị kiện.
03 · Làm ngay
04 · Kiểm tra nhanh
Thuật ngữ trong bài
Xem thêm
L185Bên trong AI · 3 phút
Khi sản phẩm AI thất bại trước công chúng
Các vụ AI thất bại công khai thường theo vài khuôn mẫu, như bịa thông tin, hứa điều chưa ai duyệt, hay bot bị dụ nói câu gây xấu hổ, và mỗi kiểu đều có cách phòng đã biết.
L172Bên trong AI · 2 phút
Phòng điều khiển: theo dõi app AI sau khi ra mắt
Khi tính năng AI đã chạy thật, đội ngũ cần một “phòng điều khiển” hiển thị câu trả lời, chi phí, tốc độ và phàn nàn, để phát hiện vấn đề trước khi nó lan ra.
L166Bên trong AI · 2 phút
Khi đội AI làm hỏng việc
Đội agent hỏng việc theo những cách rất “con người”: giao việc mơ hồ, tin nhắn thất lạc, làm trùng nhau và chẳng ai kiểm tra kết quả cuối.
L182Bên trong AI · 2 phút
Thiết kế cho một AI đôi khi sai
Sản phẩm AI tốt mặc định rằng model sẽ có lúc sai, và làm cho lỗi đó dễ thấy, dễ sửa, dễ khắc phục.