12
Bài 12 · 2 phút
Temperature: an toàn hay sáng tạo
Temperature (nhiệt độ) là nút chỉnh quyết định AI chọn chữ có khả năng cao nhất hay dám liều một chút.
Nhớ lại rằng chatbot chọn mỗi chữ tiếp theo từ một danh sách các lựa chọn khả dĩ. Temperature (nhiệt độ) quyết định nó chọn mạo hiểm đến đâu.
Nhiệt độ thấp nghĩa là nó gần như luôn chọn phương án đứng đầu. Câu trả lời ổn định, dễ đoán, hợp với dữ kiện, tóm tắt và code. Nhiệt độ cao cho phép nó chọn chữ ít gặp hơn. Câu trả lời đa dạng và sáng tạo hơn, nhưng cũng dễ lạc đề hoặc sai hơn.
Phần lớn app chat không hiện nút này, nhưng công cụ cho lập trình viên thì có. Trong một cuộc chat bình thường, bạn có thể tạo hiệu ứng tương tự bằng lời: “cho tôi câu trả lời chuẩn mực nhất” hoặc “cho tôi mười ý tưởng thật điên rồ”.
Thử ngay bên dưới: kéo thanh nhiệt độ và xem khả năng của chữ tiếp theo dàn đều ra hoặc dồn lại.
Đoán từ tiếp theo
Bấm Bốc thăm để AI thêm từng từ một. Sau đó kéo thanh temperature và thử lại.
Sáng nay tôi muốn uống
Từ nào có thể đến tiếp
- cà phê46%
- trà17%
- nước13%
- một12%
- sữa8%
- bia3%
AI không hề “biết” từ tiếp theo. Nó chấm điểm mọi từ có thể đến, đổi điểm thành xác suất, rồi gieo một con xúc xắc có trọng số. Temperature quyết định con xúc xắc lệch đến mức nào: ở mức 0, AI luôn chọn từ đứng đầu nên lần nào cũng ra cùng một câu; tăng lên, những từ ít khả năng cũng có cơ hội và câu văn trở nên bất ngờ.
Làm ngay
Tăng nhiệt độ bằng lời
- 1.Nhờ AI đặt tên cho một quán cà phê nhỏ theo kiểu an toàn, bình thường.
- 2.Sau đó dùng câu lệnh bên dưới để đẩy nó mạo hiểm hơn.
- 3.So sánh hai danh sách.
Cho tôi 10 cái tên cho một quán cà phê nhỏ ở [THÀNH PHỐ CỦA BẠN]. 3 tên đầu thật an toàn và bình thường, 7 tên sau càng lúc càng lạ và bất ngờ.
Thuật ngữ trong bài
- Temperature
- Thiết lập quyết định cách chọn từ của AI dễ đoán hay đa dạng. Thấp thì ổn định, cao thì bất ngờ hơn.
- Token
- Một mẩu chữ, thường là một phần của từ, mà AI đọc và viết. Giới hạn và giá tiền được tính theo token.
- LLM
- AI học từ khối lượng chữ khổng lồ để đoán từ tiếp theo, nhờ đó viết, tóm tắt, dịch và trò chuyện được.