L012 · Hỏi cho khéo · 2 phút · Tương tác
Temperature: an toàn hay sáng tạo
Temperature (nhiệt độ) là nút chỉnh quyết định AI chọn chữ có khả năng cao nhất hay dám liều một chút.
01 · Ý chính
Nhớ lại rằng chatbot chọn mỗi chữ tiếp theo từ một danh sách các lựa chọn khả dĩ. Temperature (nhiệt độ) quyết định nó chọn mạo hiểm đến đâu.
Nhiệt độ thấp nghĩa là nó gần như luôn chọn phương án đứng đầu. Câu trả lời ổn định, dễ đoán, hợp với dữ kiện, tóm tắt và code. Nhiệt độ cao cho phép nó chọn chữ ít gặp hơn. Câu trả lời đa dạng và sáng tạo hơn, nhưng cũng dễ lạc đề hoặc sai hơn.
Phần lớn app chat không hiện nút này, nhưng công cụ cho lập trình viên thì có. Trong một cuộc chat bình thường, bạn có thể tạo hiệu ứng tương tự bằng lời: “cho tôi câu trả lời chuẩn mực nhất” hoặc “cho tôi mười ý tưởng thật điên rồ”.
Thử ngay bên dưới: kéo thanh nhiệt độ và xem khả năng của chữ tiếp theo dàn đều ra hoặc dồn lại.
02 · Hình dung thế này
Nhiệt độ thấp là đầu bếp làm đúng từng chữ trong công thức. Nhiệt độ cao là chính đầu bếp ấy ứng biến với bất cứ thứ gì có trong tủ lạnh.
03 · Chơi thử
Đoán từ tiếp theo
Bấm Bốc thăm để AI thêm từng từ một. Sau đó kéo thanh temperature và thử lại.
Sáng nay tôi muốn uống
Từ nào có thể đến tiếp
- cà phê46%
- trà17%
- nước13%
- một12%
- sữa8%
- bia3%
AI không hề “biết” từ tiếp theo. Nó chấm điểm mọi từ có thể đến, đổi điểm thành xác suất, rồi gieo một con xúc xắc có trọng số. Temperature quyết định con xúc xắc lệch đến mức nào: ở mức 0, AI luôn chọn từ đứng đầu nên lần nào cũng ra cùng một câu; tăng lên, những từ ít khả năng cũng có cơ hội và câu văn trở nên bất ngờ.
04 · Làm ngay
05 · Kiểm tra nhanh
Thuật ngữ trong bài
Xem thêm
L082Hỏi cho khéo · 2 phút
Viết prompt bằng tiếng Việt hay tiếng Anh?
Hãy viết bằng ngôn ngữ bạn suy nghĩ, và yêu cầu câu trả lời bằng ngôn ngữ bạn cần.
L006AI nghĩ thế nào · 2 phút
Context window: trí nhớ ngắn hạn của AI
Chatbot chỉ nhìn thấy một lượng chữ giới hạn mỗi lúc, nên trong một cuộc trò chuyện rất dài, phần cũ nhất có thể bị trôi mất.
L004AI nghĩ thế nào · 1 phút
Token: cách AI đọc chữ
AI không đọc từng từ; nó đọc token (mẩu chữ), những miếng chữ nhỏ thường chỉ là một phần của từ.
L003AI nghĩ thế nào · 1 phút
Chatbot thật ra đang làm gì
Chatbot viết câu trả lời từng mẩu nhỏ một, mỗi lần chọn một chữ có khả năng xuất hiện tiếp theo.