L003 · AI nghĩ thế nào · 1 phút · Tương tác

Chatbot thật ra đang làm gì

Chatbot viết câu trả lời từng mẩu nhỏ một, mỗi lần chọn một chữ có khả năng xuất hiện tiếp theo.

01 · Ý chính

Bên trong ChatGPT, Claude hay Gemini là các large language model, gọi tắt là LLM (mô hình ngôn ngữ lớn). Kỹ năng cốt lõi của chúng rất đơn giản: nhìn một đoạn chữ, đoán chữ tiếp theo.

Bạn hỏi công thức nấu phở, nó không đi tra công thức nào cả. Nó viết ra, từng chữ một, chọn những chữ thường đi tiếp trong các đoạn văn kiểu này. Vì nó đã học quá nhiều chữ, kết quả thường rất tốt.

Điều này giải thích nhiều chuyện. Đó là lý do câu trả lời nghe trôi chảy và tự tin. Cũng là lý do nó có thể sai: một câu nghe rất hợp lý vẫn có thể là sai sự thật.

Thử ngay bên dưới: bạn tự chọn chữ tiếp theo và xem khả năng của các chữ thay đổi thế nào khi câu dài ra.

02 · Hình dung thế này

Giống như tính năng gợi ý chữ trên bàn phím điện thoại, nhưng được học từ lượng chữ bằng cả một thư viện và có thể viết liền nhiều trang.

03 · Chơi thử

Thử ngay

Đoán từ tiếp theo

Bấm Bốc thăm để AI thêm từng từ một. Sau đó kéo thanh temperature và thử lại.

Sáng nay tôi muốn uống

Từ nào có thể đến tiếp

  • cà phê46%
  • trà17%
  • nước13%
  • một12%
  • sữa8%
  • bia3%

AI không hề “biết” từ tiếp theo. Nó chấm điểm mọi từ có thể đến, đổi điểm thành xác suất, rồi gieo một con xúc xắc có trọng số. Temperature quyết định con xúc xắc lệch đến mức nào: ở mức 0, AI luôn chọn từ đứng đầu nên lần nào cũng ra cùng một câu; tăng lên, những từ ít khả năng cũng có cơ hội và câu văn trở nên bất ngờ.

04 · Làm ngay

05 · Kiểm tra nhanh

Khi bạn hỏi chatbot, việc chính nó đang làm là gì?