Chatbot AI là gì và tạo phản hồi bằng cách nào?

Điểm quan trọng là từ “hiểu” trong chatbot AI không nên được đồng nhất với sự thấu hiểu hay ý thức của con người. Với mô hình ngôn ngữ, yêu cầu được chuyển thành các đơn vị dữ liệu, đặt trong ngữ cảnh rồi xử lý bằng những quan hệ đã học từ dữ liệu huấn luyện. Mô hình sau đó tính toán phản hồi có xác suất phù hợp, có thể kết hợp thêm tài liệu truy xuất, cơ sở dữ liệu hoặc công cụ bên ngoài nếu hệ thống được thiết kế để sử dụng chúng.

Chatbot AI là hệ thống hội thoại sử dụng trí tuệ nhân tạo

Một chatbot thông thường có thể hoạt động bằng tập luật cố định: nếu người dùng nhập một mẫu câu nhất định, hệ thống kích hoạt một câu trả lời đã được lập trình trước. Chatbot AI khác ở chỗ ít nhất một phần của quá trình nhận diện yêu cầu, lựa chọn thông tin hoặc tạo phản hồi được thực hiện bằng mô hình học máy.

Trong các hệ thống dựa trên phân loại ý định, mô hình có thể xác định rằng câu “Tôi muốn kiểm tra đơn hàng” thuộc nhóm tra cứu đơn hàng, sau đó chuyển yêu cầu sang một quy trình nghiệp vụ tương ứng. Câu trả lời cuối cùng có thể vẫn được lấy từ mẫu có sẵn.

Với chatbot sử dụng mô hình ngôn ngữ lớn, cơ chế linh hoạt hơn. Thay vì chỉ chọn một câu hoàn chỉnh trong kho phản hồi, mô hình có thể tạo chuỗi ngôn ngữ mới dựa trên nội dung người dùng vừa gửi, lịch sử hội thoại, chỉ dẫn của hệ thống và những thông tin bổ sung được cung cấp ở thời điểm xử lý.

Vì vậy, khái niệm Chatbot AI mô tả một hệ thống hoàn chỉnh chứ không nhất thiết chỉ một mô hình AI. Phía sau giao diện trò chuyện có thể tồn tại nhiều thành phần: bộ xử lý đầu vào, mô hình ngôn ngữ, hệ thống truy xuất dữ liệu, công cụ nghiệp vụ, bộ lọc an toàn và lớp định dạng phản hồi.

Sự phân biệt này giải thích tại sao hai chatbot cùng sử dụng AI nhưng khả năng có thể rất khác nhau. Chất lượng phản hồi không chỉ phụ thuộc vào “độ thông minh” của mô hình mà còn phụ thuộc vào dữ liệu được cung cấp, cách hệ thống xây dựng ngữ cảnh và những công cụ mà chatbot được phép sử dụng.

Yêu cầu của người dùng được chuyển thành dữ liệu để mô hình xử lý

Chatbot không xử lý câu chữ theo đúng hình thức con người nhìn thấy trên màn hình. Trước khi mô hình có thể suy luận, nội dung phải được chuyển thành dạng biểu diễn mà hệ thống tính toán được.

Từ câu chữ thành token

Đối với nhiều mô hình ngôn ngữ, văn bản đầu vào được chia thành các đơn vị gọi là token. Một token có thể tương ứng với một từ, một phần của từ, dấu câu hoặc một chuỗi ký tự, tùy bộ mã hóa của từng mô hình.

Ví dụ, một câu hỏi như “Chatbot AI phản hồi thế nào?” không nhất thiết được xử lý thành đúng năm đơn vị tương ứng với năm từ người dùng nhìn thấy. Bộ tokenizer có thể chia một số từ thành nhiều phần khác nhau.

Mỗi token sau đó được ánh xạ thành biểu diễn số. Qua các lớp của mô hình, những biểu diễn này được biến đổi để phản ánh ngày càng nhiều thông tin về quan hệ giữa các thành phần trong ngữ cảnh.

Cơ chế này có ý nghĩa quan trọng: mô hình không bắt đầu bằng một câu hỏi đã được “hiểu” sẵn. Nó phải suy ra các quan hệ từ chuỗi dữ liệu đầu vào.

Yêu cầu của người dùng chỉ là một phần của ngữ cảnh

Khi một chatbot trả lời, đầu vào thực tế của mô hình có thể lớn hơn rất nhiều so với tin nhắn cuối cùng người dùng vừa nhập. Ngữ cảnh có thể bao gồm chỉ dẫn hệ thống, các lượt trò chuyện trước đó, dữ liệu truy xuất từ tài liệu, kết quả của công cụ và những quy tắc định dạng phản hồi.

Giả sử người dùng chỉ hỏi “Còn loại thứ hai thì sao?”. Nếu chatbot được cung cấp đúng lịch sử hội thoại, mô hình có thể liên hệ “loại thứ hai” với nội dung đã nói trước đó. Nếu phần lịch sử cần thiết không còn trong ngữ cảnh, câu hỏi trở nên mơ hồ.

Khả năng xử lý ngữ cảnh cũng có giới hạn. Mỗi mô hình có một context window, thường được đo bằng số token. Đây là lượng thông tin tối đa mô hình có thể xử lý trong một lần suy luận, và giới hạn cụ thể khác nhau giữa các hệ thống. Vì vậy, việc chatbot từng nhận được một thông tin không đồng nghĩa thông tin đó luôn có mặt trong mọi lần phản hồi sau.

Mô hình ngôn ngữ tạo phản hồi bằng cách dự đoán token tiếp theo

Đây là cơ chế cốt lõi của nhiều chatbot AI hiện đại sử dụng mô hình ngôn ngữ tự hồi quy.

Kiến trúc Transformer, nền tảng của nhiều mô hình ngôn ngữ lớn, sử dụng cơ chế attention để tính toán quan hệ giữa các token trong ngữ cảnh. Qua nhiều lớp xử lý, mô hình hình thành biểu diễn nội bộ giúp nó xác định những thành phần nào của ngữ cảnh có liên quan đến việc tạo phần tiếp theo của câu trả lời.

Mô hình tính xác suất cho phần tiếp theo

Giả sử ngữ cảnh chứa câu:

“Thủ đô của Việt Nam là…”

Mô hình không nhất thiết lấy nguyên một câu trả lời hoàn chỉnh từ một cơ sở dữ liệu. Thay vào đó, nó tính toán phân bố xác suất trên tập token có thể xuất hiện tiếp theo. Trong ngữ cảnh này, token liên quan đến “Hà Nội” có thể nhận xác suất cao.

Sau khi một token được chọn, token đó được thêm vào chuỗi. Mô hình lại sử dụng toàn bộ ngữ cảnh hiện có để tính token tiếp theo. Quá trình được lặp lại cho đến khi tạo thành phản hồi hoặc gặp điều kiện dừng.

Có thể hình dung quá trình theo chuỗi:

Yêu cầu và ngữ cảnh → Token → Biểu diễn nội bộ → Phân bố xác suất token tiếp theo → Chọn token → Bổ sung token vào ngữ cảnh → Tiếp tục dự đoán.

Cơ chế này giải thích một điểm dễ bị hiểu sai: một câu nghe tự nhiên không tự động chứng minh rằng nội dung của nó đúng. Mô hình được tối ưu để tạo chuỗi phù hợp với ngữ cảnh và những mẫu đã học; việc kiểm chứng sự thật là một yêu cầu khác.

Cách chọn token ảnh hưởng đến câu trả lời

Hệ thống không phải lúc nào cũng chọn token có xác suất cao nhất. Các phương pháp giải mã có thể điều chỉnh mức độ đa dạng của phản hồi.

Những tham số như temperature hoặc các cơ chế lấy mẫu theo xác suất có thể làm phân bố lựa chọn tập trung hơn hoặc đa dạng hơn. Cấu hình thận trọng thường tạo câu trả lời ổn định hơn, còn cấu hình cho phép nhiều phương án có thể hữu ích khi viết sáng tạo hoặc tìm nhiều cách diễn đạt.

Đây cũng là lý do một mô hình có thể tạo ra nhiều câu trả lời hợp lý khác nhau cho cùng một câu hỏi. Không phải mọi khác biệt đều là lỗi; đôi khi chỉ có cách diễn đạt hoặc hướng triển khai khác nhau. Tuy nhiên, nếu các lần trả lời mâu thuẫn về dữ kiện khách quan thì người dùng cần kiểm chứng thay vì xem sự biến thiên đó là bình thường.

Phản hồi của chatbot có thể kết hợp dữ liệu và công cụ bên ngoài

Một mô hình ngôn ngữ không nhất thiết tự chứa tất cả thông tin mà chatbot cần để trả lời. Trong nhiều hệ thống, mô hình đóng vai trò suy luận và tạo ngôn ngữ, còn dữ liệu thực tế được cung cấp từ nguồn khác.

Một cơ chế phổ biến là Retrieval-Augmented Generation, thường gọi là RAG. Khi người dùng đặt câu hỏi, hệ thống có thể tìm những đoạn tài liệu liên quan trong kho dữ liệu rồi đưa chúng vào ngữ cảnh của mô hình. Mô hình tạo câu trả lời dựa trên cả yêu cầu của người dùng và phần tài liệu vừa được truy xuất.

Điều này khác với việc mô hình “nhớ” tài liệu bằng tham số đã học. Với RAG, thông tin được lấy ra tại thời điểm xử lý và được cung cấp trực tiếp cho lần phản hồi đó.

Chatbot cũng có thể được kết nối với công cụ. Chẳng hạn, một yêu cầu kiểm tra tình trạng đơn hàng có thể khiến hệ thống gọi API của nền tảng bán hàng. Một phép tính có thể được chuyển cho công cụ tính toán. Một câu hỏi cần dữ liệu mới có thể yêu cầu hệ thống tìm kiếm nguồn thông tin hiện hành nếu chatbot được cấp khả năng này.

Quy trình khi đó có thể diễn ra theo hai giai đoạn. Đầu tiên, mô hình xác định rằng nó cần một công cụ và tạo yêu cầu theo cấu trúc mà hệ thống hiểu được. Sau khi công cụ trả kết quả, dữ liệu được đưa trở lại ngữ cảnh để mô hình diễn giải thành câu trả lời cho người dùng.

Vì vậy, khi chatbot đưa ra một thông tin mới hoặc thông tin riêng của một tổ chức, cần phân biệt nó đến từ đâu: kiến thức nội tại của mô hình, tài liệu được truy xuất hay kết quả từ công cụ. Ba nguồn này có mức độ cập nhật và khả năng kiểm chứng khác nhau.

Không phải chatbot AI nào cũng có RAG, truy cập Internet, cơ sở dữ liệu hoặc công cụ. Giao diện trò chuyện giống nhau không đồng nghĩa khả năng truy cập thông tin giống nhau.

Cùng một yêu cầu có thể tạo ra những phản hồi khác nhau

Câu trả lời của chatbot là kết quả của toàn bộ trạng thái đầu vào tại thời điểm suy luận, không chỉ của một câu mà người dùng nhập.

Cách diễn đạt yêu cầu là yếu tố đầu tiên. “Giải thích Transformer” và “Giải thích Transformer cho người chưa biết AI bằng một ví dụ đơn giản” có cùng chủ đề nhưng tạo ra hai điều kiện phản hồi khác nhau. Câu thứ hai cung cấp thêm đối tượng người đọc và mức độ chi tiết mong muốn.

Lịch sử hội thoại cũng thay đổi kết quả. Một từ như “nó”, “phương án trên” hoặc “tiếp tục” chỉ có nghĩa rõ ràng khi phần trao đổi liên quan vẫn nằm trong ngữ cảnh.

Bên cạnh đó còn có chỉ dẫn ở cấp hệ thống. Chatbot có thể được cấu hình để ưu tiên một loại nhiệm vụ, tuân thủ quy tắc an toàn, sử dụng một định dạng nhất định hoặc từ chối một số yêu cầu. Người dùng thường không nhìn thấy toàn bộ lớp chỉ dẫn này nhưng nó vẫn có thể ảnh hưởng trực tiếp đến phản hồi.

Dữ liệu bên ngoài tạo thêm một nguồn biến thiên. Hai lần đặt cùng câu hỏi nhưng truy xuất được những tài liệu khác nhau có thể dẫn tới hai câu trả lời khác nhau. Tương tự, kết quả của một API có thể thay đổi theo thời gian.

Cuối cùng là quá trình giải mã của mô hình. Nếu hệ thống sử dụng lấy mẫu, nhiều chuỗi token khác nhau đều có thể đủ xác suất để được lựa chọn. Do đó, chatbot không nên được hình dung như một hàm tra cứu luôn ánh xạ một câu hỏi sang duy nhất một câu trả lời cố định.

Ý nghĩa thực tế là khi cần kết quả nhất quán, người dùng nên làm rõ mục tiêu, dữ kiện đầu vào, phạm vi và định dạng mong muốn. Khi cần tính chính xác của dữ kiện, điều quan trọng hơn sự nhất quán trong cách diễn đạt là nguồn thông tin mà hệ thống sử dụng để tạo câu trả lời.

Chatbot AI có giới hạn vì tạo ngôn ngữ không đồng nghĩa kiểm chứng sự thật

Khả năng tạo câu trả lời trôi chảy khiến người dùng dễ hình dung rằng chatbot đã xác minh mọi nội dung trước khi phản hồi. Đây là một trong những hiểu nhầm quan trọng nhất về chatbot dựa trên mô hình ngôn ngữ.

Một mô hình tự hồi quy lựa chọn token dựa trên ngữ cảnh và phân bố xác suất đã học. Cơ chế đó có thể tạo ra câu đúng, nhưng bản thân xác suất ngôn ngữ không phải bằng chứng về tính đúng đắn của một dữ kiện. Nếu mô hình thiếu thông tin, nhận ngữ cảnh sai hoặc kết hợp những mẫu không phù hợp, nó vẫn có thể tạo ra một câu nghe rất hợp lý nhưng chứa thông tin sai. Hiện tượng này thường được gọi là hallucination.

Yêu cầu mơ hồ tạo ra một giới hạn khác. Khi người dùng không nói rõ đang nhắc đến đối tượng nào, mô hình phải suy ra từ ngữ cảnh. Nếu có nhiều cách diễn giải hợp lý, nó có thể chọn cách không trùng với ý định thực tế của người dùng.

Giới hạn ngữ cảnh cũng ảnh hưởng đến phản hồi. Một cuộc hội thoại rất dài có thể khiến một số thông tin trước đó không còn được cung cấp cho mô hình, tùy cách hệ thống quản lý context window. Vì thế, khả năng trò chuyện liên tục không nên được đồng nhất với trí nhớ vô hạn.

Ngay cả khi chatbot sử dụng công cụ, sai sót vẫn có thể xuất hiện. Công cụ có thể trả dữ liệu không đầy đủ, truy xuất nhầm tài liệu hoặc gặp lỗi. Mô hình cũng có thể diễn giải sai kết quả nhận được. Việc bổ sung công cụ giúp hệ thống có thêm căn cứ, nhưng không biến mọi phản hồi thành kết luận chắc chắn.

Bởi vậy, cách sử dụng phù hợp phụ thuộc vào mức độ quan trọng của thông tin. Với nhiệm vụ giải thích, lên ý tưởng hoặc biến đổi văn bản, khả năng sinh ngôn ngữ của chatbot có thể trực tiếp tạo giá trị. Với dữ liệu thời gian thực, con số quan trọng, quyết định tài chính, pháp lý, y tế hoặc các thông tin có hậu quả lớn, phản hồi cần được đối chiếu với nguồn có thẩm quyền thay vì chỉ dựa vào độ tự nhiên của câu chữ.

Chatbot AI có thể được hiểu như một chuỗi xử lý: tiếp nhận yêu cầu, chuyển văn bản thành biểu diễn mà mô hình xử lý được, kết hợp ngữ cảnh, suy luận và tạo phản hồi. Với chatbot dựa trên mô hình ngôn ngữ lớn, phần tạo câu trả lời chủ yếu diễn ra bằng quá trình dự đoán token tiếp theo lặp đi lặp lại dựa trên toàn bộ ngữ cảnh đang có.

Tuy nhiên, phản hồi cuối cùng không nhất thiết chỉ đến từ mô hình. Hệ thống có thể bổ sung tài liệu truy xuất, kết quả từ API, cơ sở dữ liệu hoặc công cụ khác trước khi tạo câu trả lời. Chính kiến trúc tổng thể này quyết định chatbot biết được gì, phản hồi dựa trên căn cứ nào và giới hạn nằm ở đâu.

Hiểu cơ chế đó cũng giúp nhìn nhận chatbot chính xác hơn: khả năng tạo câu trả lời mạch lạc là kết quả của mô hình hóa ngôn ngữ và xử lý ngữ cảnh, không phải bằng chứng rằng hệ thống có sự hiểu biết giống con người hoặc luôn kiểm chứng được sự thật. Với những thông tin quan trọng, chất lượng của phản hồi cần được đánh giá cùng nguồn dữ liệu, ngữ cảnh và khả năng xác minh, chứ không chỉ qua mức độ thuyết phục của câu chữ.