03
Bài 3 · 1 phút
Chatbot thật ra đang làm gì
Chatbot viết câu trả lời từng mẩu nhỏ một, mỗi lần chọn một chữ có khả năng xuất hiện tiếp theo.
Bên trong ChatGPT, Claude hay Gemini là các large language model, gọi tắt là LLM (mô hình ngôn ngữ lớn). Kỹ năng cốt lõi của chúng rất đơn giản: nhìn một đoạn chữ, đoán chữ tiếp theo.
Bạn hỏi công thức nấu phở, nó không đi tra công thức nào cả. Nó viết ra, từng chữ một, chọn những chữ thường đi tiếp trong các đoạn văn kiểu này. Vì nó đã học quá nhiều chữ, kết quả thường rất tốt.
Điều này giải thích nhiều chuyện. Đó là lý do câu trả lời nghe trôi chảy và tự tin. Cũng là lý do nó có thể sai: một câu nghe rất hợp lý vẫn có thể là sai sự thật.
Thử ngay bên dưới: bạn tự chọn chữ tiếp theo và xem khả năng của các chữ thay đổi thế nào khi câu dài ra.
Đoán từ tiếp theo
Bấm Bốc thăm để AI thêm từng từ một. Sau đó kéo thanh temperature và thử lại.
Sáng nay tôi muốn uống
Từ nào có thể đến tiếp
- cà phê46%
- trà17%
- nước13%
- một12%
- sữa8%
- bia3%
AI không hề “biết” từ tiếp theo. Nó chấm điểm mọi từ có thể đến, đổi điểm thành xác suất, rồi gieo một con xúc xắc có trọng số. Temperature quyết định con xúc xắc lệch đến mức nào: ở mức 0, AI luôn chọn từ đứng đầu nên lần nào cũng ra cùng một câu; tăng lên, những từ ít khả năng cũng có cơ hội và câu văn trở nên bất ngờ.
Làm ngay
Bắt quả tang nó đang đoán
- 1.Nhờ chatbot viết tiếp một câu quen thuộc, như câu lệnh bên dưới.
- 2.Sau đó nhờ nó viết tiếp chính câu ấy theo cách bất ngờ.
- 3.Để ý rằng câu đầu là kiểu phổ biến nhất, còn câu sau là kiểu ít gặp hơn.
Hãy viết tiếp câu này theo ba cách, từ dễ đoán nhất đến bất ngờ nhất: “Mỗi sáng trước khi đi làm, tôi...”
Thuật ngữ trong bài
- LLM
- AI học từ khối lượng chữ khổng lồ để đoán từ tiếp theo, nhờ đó viết, tóm tắt, dịch và trò chuyện được.
- Chatbot
- Chương trình bạn nói chuyện bằng ngôn ngữ đời thường, gõ hoặc nói, và nó trả lời lại cũng như vậy.
- Model
- Tệp chứa các quy luật đã học, làm phần việc chính bên trong sản phẩm AI. Một mô hình có thể chạy cho nhiều ứng dụng.
- Token
- Một mẩu chữ, thường là một phần của từ, mà AI đọc và viết. Giới hạn và giá tiền được tính theo token.