Bài 51 · 2 phút
Jailbreak: dụ AI vượt luật
Jailbreak là kiểu prompt được viết ra để lừa chatbot bỏ qua các quy tắc an toàn mà nhà sản xuất đặt cho nó.
Chatbot nào cũng có rào chắn (guardrails). Nó được huấn luyện và dặn dò để từ chối những việc như hướng dẫn chế vũ khí, viết mã độc hay giúp ai đó làm hại người khác.
Jailbreak tìm cách lách qua các quy tắc đó bằng mẹo: bày trò nhập vai, giả vờ có chuyện khẩn cấp, lồng truyện trong truyện, hoặc gửi một tin nhắn dài rối rắm. Có mẹo dùng được một thời gian, rồi nhà sản xuất phát hiện và vá lại.
Các công ty còn thuê người cố tình tấn công chính model của mình trước khi ra mắt. Việc này gọi là red-teaming, và nhờ nó mà nhiều lỗ hổng được tìm ra và sửa.
Với người dùng bình thường, bài học khá đơn giản. Rào chắn có ích nhưng không hoàn hảo, nên chatbot nói ra một điều không có nghĩa điều đó an toàn hay được phép. Còn chia sẻ mẹo jailbreak có thể vi phạm điều khoản dịch vụ và khiến tài khoản của bạn bị khóa.
Làm ngay
Xem ranh giới nằm ở đâu
- 1. Hỏi chatbot câu bên dưới về giới hạn của chính nó.
- 2. Đọc xem nó nói sẽ từ chối những chủ đề nào, và vì sao.
- 3. Nghĩ tới một việc trong công việc của bạn mà bạn vẫn muốn có người kiểm tra lại câu trả lời.
Nói bằng lời dễ hiểu: bạn được thiết kế để từ chối những loại yêu cầu nào, và vì sao? Cho tôi ba ví dụ về vùng xám mà bạn sẽ trả lời thận trọng thay vì từ chối.
Kiểm tra nhanh
Tìm hiểu thêm
Thuật ngữ trong bài
- Jailbreak
- Prompt mẹo nhằm khiến AI bỏ qua quy tắc an toàn và làm điều nó thường từ chối.
- Guardrails
- Quy tắc và bộ lọc quanh hệ thống AI để chặn yêu cầu và câu trả lời có hại, lạc đề hoặc không an toàn.
- Red teaming
- Cố tình tấn công hệ thống AI của chính mình như kẻ xấu sẽ làm, để tìm điểm yếu trước khi ra mắt.