Written by: Claude AI.
Curator/Editor: Học Trò.
Hiểu AI, từng khái niệm một — Bài 7
Mười một giờ đêm, Khoa nằm trong phòng ở Gò Vấp, ngoài trời đang mưa như trút — trận mưa thứ năm trong tuần. Đang ôn môn địa lý, cậu gõ vào chatbot: "Vì sao Sài Gòn mùa mưa hay mưa vào buổi chiều?" rồi bấm Enter. Chưa tới một giây, chữ bắt đầu hiện ra — không phải nguyên đoạn một lúc, mà từng chữ, từng chữ, như có ai đang gõ ở đầu bên kia. Khoa nhìn màn hình, rồi nhìn cái điện thoại đang hơi ấm trong tay, và tự hỏi: cái máy đang "nghĩ" ở đâu? Trong điện thoại này? Và vì sao nó không hiện nguyên câu trả lời một lần cho xong?
Từ lúc mình bấm Enter tới lúc câu trả lời hiện ra, thật ra đã xảy ra những chuyện gì?
Cần biết trước: Chatbot (trợ lý trò chuyện) như ChatGPT, Claude, Gemini chạy trên một mô hình ngôn ngữ lớn (large language model, LLM) — một cái máy học từ rất nhiều chữ để đoán chữ kế tiếp. Bài này kể lại, theo thứ tự thời gian, chuyện gì xảy ra trong vài giây sau khi bạn bấm Enter. Mỗi ứng dụng làm hơi khác nhau; ở đây là một quy trình điển hình, đủ để hình dung cho đúng.
Một cuộc chạy tiếp sức
Hồi đi học, chắc ai cũng từng xem — hoặc chạy — tiếp sức trong ngày hội thể thao của trường. Người thứ nhất chạy một đoạn, trao cây gậy cho người thứ hai, người thứ hai chạy tiếp, cứ thế tới đích.
Câu trả lời của chatbot cũng được làm ra theo kiểu tiếp sức, chỉ khác hai điều. Một: mỗi người chạy chỉ chạy đúng một bước — thêm đúng một mẩu chữ. Hai: trước khi chạy, mỗi người được nhìn lại toàn bộ đường đua đã chạy — đọc lại từ chữ đầu tiên của câu hỏi tới mẩu chữ vừa được thêm vào. Rồi mới quyết định bước tiếp theo đặt chân vào đâu.
Một câu trả lời vài trăm chữ là vài trăm lượt tiếp sức như vậy, nối liền nhau trong vài giây.
Sáu chặng, kể theo thời gian
Hình 1. Bước 1 đến 3 làm một lần; bước 4 đến 6 lặp lại cho mỗi mẩu chữ.
Bước 1 — Gửi đi. Câu hỏi của Khoa không ở lại trong điện thoại. Nó được gửi qua mạng tới máy chủ (server) của hãng làm ra chatbot — những tòa nhà lớn chứa hàng ngàn máy tính, gọi là trung tâm dữ liệu (data center), có khi ở tận nước khác. Cái điện thoại hơi ấm trong tay Khoa chỉ là cái cửa sổ; cái máy đang "nghĩ" thì ở xa.
Bước 2 — Ghép lại. Ở máy chủ, câu hỏi mới không đứng một mình. Ứng dụng ghép nó với hai thứ khác: những lời dặn do hãng viết sẵn mà bạn không thấy (kiểu "hãy trả lời lịch sự, rõ ràng…"), và toàn bộ những câu qua lại trước đó trong cùng cuộc trò chuyện. Tất cả xếp thành một văn bản dài, câu hỏi của Khoa nằm cuối cùng.
Bước 3 — Cắt thành token. Mô hình không đọc chữ như mình đọc. Văn bản được cắt thành những mẩu nhỏ gọi là token (mẩu chữ) — có khi là nguyên một chữ, có khi chỉ là một phần của chữ — và mỗi mẩu được đổi thành một con số. Từ đây trở đi, cái máy chỉ làm việc với những con số đó. (Chuyện token đáng một bài riêng; ở đây chỉ cần biết: chữ thành số trước khi máy "nghĩ".)
Bước 4 — Chấm điểm. Mô hình đọc hết dãy số đó một lượt và cho điểm mọi token có thể đi tiếp. Sau câu hỏi về mưa chiều, những mẩu như "Vì", "Mưa", "Do" sẽ có điểm cao; những mẩu chẳng ăn nhập gì sẽ có điểm gần bằng không. Đây là phần nặng nhất của cả quy trình — hàng tỉ phép tính cho một mẩu chữ — và là lý do máy chủ cần những con chip rất mạnh.
Bước 5 — Chọn một. Có bảng điểm rồi, máy chọn một token. Thường nó không chọn cứng ngắc mẩu điểm cao nhất, mà bốc thăm có trọng số: mẩu điểm cao dễ trúng, mẩu điểm thấp thỉnh thoảng mới trúng. Chút nữa mình nói về cái núm điều chỉnh việc bốc thăm này.
Bước 6 — Gửi về. Mẩu chữ vừa chọn được gửi ngay về điện thoại và hiện lên màn hình. Đồng thời, nó được ghép vào cuối văn bản — và quy trình quay lại bước 4: đọc lại cả văn bản giờ đã dài thêm một mẩu, chấm điểm, chọn, gửi về. Cứ thế, cho tới khi máy chọn một token đặc biệt mang nghĩa "xong rồi". Câu trả lời dừng.
Vậy câu hỏi thứ hai của Khoa — "sao không hiện nguyên câu một lần cho xong?" — đã có lời đáp: vì chính cái máy cũng chưa có nguyên câu. Nó chỉ biết chữ tiếp theo sau khi đã chọn xong chữ trước. Chữ hiện ra từng chữ không phải hiệu ứng cho đẹp; đó là đúng tốc độ cái máy đang viết.
Một phép tính nhỏ
(Con số minh họa — tốc độ thật tùy mô hình, tùy lúc đông hay vắng.)
Giả sử mỗi vòng bước 4–6 mất 0,03 giây, và câu trả lời của Khoa dài 300 token.
- 300 vòng × 0,03 giây = 9 giây để viết xong cả câu trả lời.
- Nhưng mẩu đầu tiên hiện ra chỉ sau chừng một vòng, cộng thời gian gửi đi gửi về.
Đó là lý do các hãng cho chữ hiện ra dần dần: nếu đợi viết xong 300 mẩu rồi mới gửi một lần, Khoa sẽ nhìn màn hình trắng 9 giây và tưởng máy bị treo. Hiện từng mẩu, cậu đọc được ngay từ giây đầu.
Phép tính này cũng giải thích một điều bạn có thể đã để ý: câu trả lời càng dài thì càng lâu, và cuộc trò chuyện càng dài thì mỗi vòng càng nặng — vì ở bước 4, máy phải đọc lại cả "đường đua" từ đầu.
Cái núm "nhiệt độ"
Quay lại bước 5. Việc bốc thăm có một cái núm điều chỉnh, gọi là nhiệt độ (temperature) — cái tên hơi lạ, chẳng liên quan gì tới trời nóng hay lạnh.
Hình 2. Núm không thay đổi điểm số; nó thay đổi cách bốc thăm dựa trên điểm số đó.
- Nhiệt độ thấp: máy bám sát chữ điểm cao nhất. Câu trả lời đều đặn, dễ đoán, hỏi lại thường ra gần y hệt. Hợp với việc cần chính xác: giải toán, tóm tắt.
- Nhiệt độ cao: những chữ điểm thấp hơn có nhiều cơ hội được chọn. Câu văn bay bổng hơn, bất ngờ hơn — nhưng cũng dễ lạc đề hơn. Hợp với việc cần ý mới: đặt tên, làm thơ cho vui.
Trong hầu hết chatbot thông thường, bạn không thấy cái núm này; hãng đã vặn sẵn ở một mức vừa phải. Nhưng nhờ nó mà có một hiện tượng ai cũng gặp: hỏi cùng một câu hai lần, nhận hai câu trả lời hơi khác nhau. Không phải máy đổi ý, cũng không phải nó lừa mình — chỉ là lần bốc thăm thứ hai ra mẩu chữ khác ở đâu đó, rồi từ mẩu đó trở đi, đường đua rẽ sang hướng khác.
Những chuyện không xảy ra
Biết cái gì không xảy ra cũng quan trọng không kém.
Nó không tra cứu gì cả — trừ khi được cho công cụ. Trong sáu bước trên, không có bước nào "mở sách ra xem". Mô hình viết từ những gì nó đã học trong lúc huấn luyện. Nếu chatbot có công cụ (tool) tìm kiếm web, bạn sẽ thấy thêm một chặng "đang tìm…" chen vào giữa — đó là phần gắn thêm, không phải bản thân mô hình.
Nó không học từ câu bạn vừa gõ. Trong lúc trả lời Khoa, những "núm vặn" bên trong mô hình — những tham số (parameter) chứa mọi thứ nó biết — đứng yên. Nó "nhớ" được câu Khoa hỏi hồi nãy chỉ vì câu đó vẫn nằm trong văn bản được ghép ở bước 2. Mở một cuộc trò chuyện mới, văn bản đó không còn, và nó "quên". (Một số ứng dụng có tính năng ghi nhớ riêng, lưu vài ghi chú về bạn — đó là một cơ chế khác, gắn thêm bên ngoài.)
Không có ai ngồi gõ ở đầu bên kia. Chữ hiện từng chữ giống người gõ, nhưng đó là nhịp của cuộc chạy tiếp sức, không phải ngón tay của ai.
Còn tiếng Việt thì sao?
Ở bước 3, câu tiếng Việt thường bị cắt thành nhiều token hơn một câu tiếng Anh cùng nghĩa — vì bộ cắt chữ của nhiều mô hình được xây chủ yếu quanh tiếng Anh, còn chữ Việt có dấu hay bị tách vụn. Nhiều token hơn nghĩa là nhiều vòng tiếp sức hơn cho cùng một ý: câu trả lời tiếng Việt có thể chậm hơn một chút, và tốn hơn một chút nếu bạn trả tiền theo token. Các mô hình đời mới đã cải thiện chuyện này khá nhiều — bài sau sẽ đo thử bằng con số thật.
Hiểu lầm thường gặp
"Nó soạn xong cả câu trả lời rồi, chỉ chiếu ra từ từ cho có vẻ đang gõ." Không phải. Nó chưa có chữ sau khi chưa chọn xong chữ trước.
"AI chạy trong điện thoại của tôi." Với các chatbot phổ biến, phần "nghĩ" chạy trên máy chủ ở xa. Điện thoại chỉ gửi đi và nhận về. (Vì vậy mất mạng là chatbot đứng hình.)
"Hỏi lại mà khác, chắc lần đầu nó sai." Không nhất thiết — có thể chỉ là bốc thăm ra chữ khác. Nhưng nếu hai lần khác nhau về sự việc (con số, tên người, ngày tháng), đó là dấu hiệu nên kiểm lại.
"Tôi nói gì nó cũng học được luôn." Trong lúc trò chuyện, mô hình không thay đổi. Nó chỉ đọc lại những gì đang nằm trong cuộc trò chuyện.
Thử ngay 5 phút
- Nghĩ một câu hỏi có nhiều cách trả lời, ví dụ: "Đặt giùm tôi ba cái tên cho một quán cà phê nhỏ trong hẻm ở Sài Gòn."
- Mở ba cuộc trò chuyện mới, hỏi đúng câu đó ở cả ba.
- So sánh: ba câu trả lời giống nhau tới đâu? Khác nhau bắt đầu từ chữ thứ mấy?
- Làm lại với một câu chỉ có một đáp án, như "Một tuần có mấy ngày?" Lần này ba câu trả lời có giống nhau hơn không?
Bạn vừa tận mắt thấy chỗ cuộc chạy tiếp sức rẽ nhánh — và thấy rằng khi chỉ có một đường đúng, bốc thăm cũng ít khi đi lạc.
Mang về một ý
Lần tới thấy chữ hiện ra từng mẩu trên màn hình, hãy hình dung một cuộc chạy tiếp sức ở một trung tâm dữ liệu xa xôi: mỗi người chạy nhìn lại cả đường đua, đặt thêm đúng một bước, rồi trao gậy — vài trăm lần cho một câu trả lời. Đêm đó, câu trả lời về mưa chiều của Khoa dài chừng mười dòng. Ngoài cửa sổ, cơn mưa Sài Gòn vẫn rơi như mọi chiều mùa mưa; còn trên màn hình, một cuộc tiếp sức vừa chạy xong mấy trăm vòng mà cậu không hề nghe tiếng chân.
Bảng thuật ngữ nhỏ
| Tiếng Việt | Tiếng Anh | Nghĩa ngắn |
|---|---|---|
| chatbot (trợ lý trò chuyện) | chatbot | Ứng dụng để nói chuyện với một LLM |
| máy chủ | server | Máy tính ở xa nơi mô hình thật sự chạy |
| trung tâm dữ liệu | data center | Tòa nhà chứa hàng ngàn máy chủ |
| token (mẩu chữ) | token | Mẩu chữ — đơn vị mô hình đọc và viết |
| nhiệt độ | temperature | Núm điều chỉnh bốc thăm: thấp thì đều đặn, cao thì bay bổng |
| tham số | parameter | "Núm vặn" bên trong mô hình; đứng yên trong lúc trò chuyện |
| công cụ | tool | Phần gắn thêm cho mô hình dùng, ví dụ tìm kiếm web |
Thông tin tính đến tháng 11/2026.
