Jailbreak: dụ AI vượt luật

Jailbreak tìm cách lách qua các quy tắc đó bằng mẹo: bày trò nhập vai, giả vờ có chuyện khẩn cấp, lồng truyện trong truyện, hoặc gửi một tin nhắn dài rối rắm. Có mẹo dùng được một thời gian, rồi nhà sản xuất phát hiện và vá lại.

Các công ty còn thuê người cố tình tấn công chính model của mình trước khi ra mắt. Việc này gọi là red-teaming, và nhờ nó mà nhiều lỗ hổng được tìm ra và sửa.

Với người dùng bình thường, bài học khá đơn giản. Rào chắn có ích nhưng không hoàn hảo, nên chatbot nói ra một điều không có nghĩa điều đó an toàn hay được phép. Còn chia sẻ mẹo jailbreak có thể vi phạm điều khoản dịch vụ và khiến tài khoản của bạn bị khóa.