Hàng rào an toàn ở đầu vào

Hàng rào đầu vào là một bước kiểm tra chạy trước. Loại đơn giản dùng luật: chặn tin nhắn quá dài, che bất cứ thứ gì trông giống số điện thoại hay số căn cước. Loại thông minh hơn dùng một model phân loại nhỏ, gắn nhãn tin nhắn là bình thường, lạc đề, xúc phạm hay có thể là mánh lừa.

Khi bước kiểm tra phát hiện vấn đề, app có thể chặn tin nhắn, bỏ phần rủi ro, nhờ người dùng viết lại, hoặc chuyển cuộc chat cho người thật. Bot ngân hàng có thể trả lời “Vui lòng không chia sẻ số thẻ ở đây” và che số đi.

Hàng rào sai được cả hai chiều. Chặt quá thì chặn nhầm khách bình thường, lỏng quá thì mánh lừa lọt qua. Các đội phát triển thử chúng bằng ví dụ thật, ghi lại những gì đã bị chặn, và chỉnh dần theo thời gian.