Chuyên đề · AI & quản trị tri thức

RAG là gì? Vì sao chatbot có dẫn nguồn vẫn có thể trả lời sai?

RAG giúp hệ thống tìm tài liệu trước khi trả lời, nhưng không tự bảo đảm tài liệu đúng hoặc còn hiệu lực. Bài viết giải thích điều kiện dữ liệu và cách kiểm tra một trợ lý RAG.

Ban biên tập MindShiftĐăng ngày 30/07/2026 16 phút đọc
Minh họa tài liệu doanh nghiệp được truy xuất làm ngữ cảnh cho hệ thống AI tạo câu trả lời có nguồn
Sơ đồ kiến trúc RAG từ kho tài liệu đến truy xuất, tạo câu trả lời và xác minh
RAG có hai đường chính: chuẩn bị kho tri thức để lập chỉ mục và xử lý câu hỏi để truy xuất bằng chứng. Câu trả lời chỉ đáng tin khi truy xuất đúng, mô hình bám nguồn và người dùng có thể kiểm chứng.

RAG không làm mô hình ‘biết doanh nghiệp’; nó buộc câu trả lời đi qua một nguồn được chọn

RAG là viết tắt của retrieval-augmented generation: trước khi mô hình tạo câu trả lời, hệ thống tìm các đoạn tài liệu có liên quan rồi đưa chúng vào ngữ cảnh. Ý tưởng gốc của phương pháp là kết hợp khả năng sinh ngôn ngữ với một nguồn tri thức có thể truy xuất. Trong doanh nghiệp, điều này thường được hiểu đơn giản là: thay vì yêu cầu mô hình trả lời bằng trí nhớ chung, hệ thống tìm trong quy trình, hướng dẫn, chính sách hoặc tài liệu đã được cấp quyền rồi mới trả lời.

Cách nói ‘AI hiểu tài liệu nội bộ’ vì thế dễ gây hiểu nhầm. RAG không tự xác nhận tài liệu nào đúng, không tự biết phiên bản nào đang hiệu lực và cũng không tự suy ra ngoại lệ nghề nghiệp mà nguồn không ghi. Nó chỉ tạo ra một chuỗi mới có thể kiểm tra hơn: câu hỏi nào dẫn tới đoạn nào, đoạn đó có thuộc phạm vi người hỏi hay không, và câu trả lời có bám đúng bằng chứng đã lấy được không. Giá trị của RAG bắt đầu ở khả năng kiểm tra chuỗi này, không ở lời hứa về một trợ lý biết mọi thứ.

Khó nhất thường xảy ra trước khi người dùng đặt câu hỏi

Một kho tài liệu không tự trở thành nguồn tốt cho RAG. Cần biết tài liệu nào là nguồn chuẩn, ai chịu trách nhiệm, bản nào còn hiệu lực, phạm vi áp dụng là gì và phần nào không nên dùng để trả lời. Một quy trình có thể tồn tại dưới dạng PDF, slide, biểu mẫu và hướng dẫn tại hiện trường. Nếu hệ thống đưa tất cả vào chỉ mục mà không phân biệt bản nháp với bản đã duyệt, nó có thể truy xuất chính thông tin cũ với vẻ rất thuyết phục.

Cách chia tài liệu cũng ảnh hưởng trực tiếp đến chất lượng. Chia quá dài khiến đoạn truy xuất mang nhiều chi tiết không liên quan; chia quá ngắn làm mất điều kiện và ngoại lệ quan trọng. Tiêu đề, chủ sở hữu, phiên bản, ngày hiệu lực, vai trò áp dụng và quyền truy cập đôi khi hữu ích ngang với phần văn bản chính. Đây là lý do dự án RAG cần người hiểu tri thức nghiệp vụ, không thể chỉ giao cho đội kỹ thuật xử lý tệp rồi chờ mô hình tạo giá trị.

Một trích dẫn có thể nhìn đúng nhưng vẫn không trả lời đúng câu hỏi

Có ít nhất bốn cách một hệ thống RAG có thể sai. Nó có thể không tìm được đoạn đúng dù đoạn ấy tồn tại. Nó có thể tìm một đoạn gần giống nhưng khác vai trò, nhà máy hoặc phiên bản. Nó có thể ghép nhiều đoạn riêng lẻ thành một kết luận vượt quá điều nguồn nói. Hoặc nó có thể trả lời một câu hỏi vượt khỏi phạm vi tài liệu thay vì thừa nhận chưa đủ căn cứ. Việc hiển thị link nguồn không tự xử lý các lỗi này; người dùng vẫn cần biết nguồn đó có thực sự hỗ trợ điều đang được khẳng định hay không.

Một thiết kế có trách nhiệm cho phép người dùng mở đúng đoạn nguồn, xem phiên bản và biết khi nào câu trả lời chỉ là bản tóm tắt. Với nội dung có rủi ro, hệ thống nên ưu tiên nói “chưa tìm thấy hướng dẫn đủ để trả lời” hơn là lấp khoảng trống bằng ngôn ngữ chắc chắn. Câu trả lời từ chối đúng lúc là một kết quả tốt. Nó đẩy câu hỏi về chủ sở hữu tri thức và tạo tín hiệu cho đội ngũ rằng tài liệu, phân quyền hoặc quy trình cần được bổ sung.

RAG, prompt dài và fine-tuning giải những bài toán khác nhau

Đưa cả một tài liệu dài vào prompt có thể hữu ích cho một phiên làm việc đơn lẻ. Cách này ít phù hợp khi tài liệu thay đổi, có nhiều người dùng hoặc cần kiểm soát ai được xem phần nào. Fine-tuning điều chỉnh hành vi của mô hình bằng dữ liệu huấn luyện; nó có thể phù hợp với một số nhiệm vụ lặp lại, nhưng không phải cách tự nhiên để cập nhật một chính sách vừa sửa sáng nay. RAG phù hợp hơn khi doanh nghiệp cần truy xuất tri thức thay đổi và muốn giữ liên kết giữa câu trả lời với nguồn hiện hành.

Tuy nhiên, RAG không phải lựa chọn mặc định cho mọi nhu cầu. Nếu vấn đề là một biểu mẫu có quy tắc xác định, luồng công việc có cấu trúc hoặc quyền phê duyệt, một hệ thống quy tắc hay giao diện nghiệp vụ có thể rõ ràng và an toàn hơn. Nếu nguồn tài liệu quá mâu thuẫn, việc đầu tư vào chỉ mục trước khi làm rõ nguồn chuẩn thường chỉ tạo ra một lớp tìm kiếm phức tạp trên tri thức chưa được quản trị. Quyết định kiến trúc cần bắt đầu bằng dạng công việc và mức hậu quả khi sai, không bằng xu hướng công nghệ.

Đánh giá RAG phải tách việc tìm tài liệu khỏi việc viết câu trả lời

Một nhóm kiểm thử nên chuẩn bị các câu hỏi lấy từ ngôn ngữ thật của người dùng: viết tắt, câu thiếu ngữ cảnh, trường hợp ngoại lệ, câu hỏi không có nguồn và câu hỏi mà người dùng không có quyền xem. Với từng câu, cần kiểm tra trước hết hệ thống có truy xuất được đoạn đúng hay không. Nếu truy xuất sai, việc chỉnh prompt không giải quyết được gốc vấn đề. Nếu truy xuất đúng mà câu trả lời vẫn sai, đội ngũ cần xem cách mô hình tổng hợp, định dạng hướng dẫn hoặc quy tắc trích dẫn.

Lớp đánh giá tiếp theo là khả năng hành động. Người sử dụng có hiểu mình cần làm gì, có tìm được nguồn để tự kiểm tra và có biết khi nào phải chuyển cấp không? Một câu trả lời ngắn có thể tốt hơn một bài giải thích dài nếu nó đưa đúng vai trò đến đúng thủ tục. NIST khuyến nghị quản trị và đánh giá rủi ro AI theo vòng đời; với RAG, điều đó bao gồm thay đổi tài liệu, thay đổi cách chia chỉ mục, quyền truy cập và các mẫu câu hỏi mới chứ không chỉ đánh giá mô hình vào ngày ra mắt.

Quyền truy cập không thể được xử lý sau khi hệ thống đã tìm được nội dung

Một lỗi thiết kế nguy hiểm là cho hệ thống tìm trong toàn bộ kho tài liệu rồi mới cố giấu phần nhạy cảm ở cuối luồng. Kiểm soát quyền cần đi cùng truy xuất: người dùng chỉ được tìm và nhận những đoạn phù hợp với vai trò, đơn vị và mục đích của họ. Điều này đặc biệt quan trọng với tài liệu về nhân sự, khách hàng, giá, an toàn, sự cố hoặc các thông tin chịu ràng buộc hợp đồng. Nếu quyền trong kho nguồn không rõ, chatbot không thể sửa giúp phần quản trị còn thiếu đó.

Ngoài quyền, doanh nghiệp cần quyết định log nào được lưu và dùng để làm gì. Nhật ký câu hỏi có thể giúp phát hiện tài liệu khó tìm, nhưng cũng có thể chứa thông tin nhạy cảm hoặc phản ánh điều người lao động đang lo lắng. Cần có chủ sở hữu, thời hạn lưu và phạm vi xem xét rõ. Làm đúng phần này tạo niềm tin để người dùng đặt câu hỏi thật; làm mơ hồ khiến họ hoặc không dùng hệ thống, hoặc tìm một công cụ ngoài luồng.

Trong đào tạo, RAG chỉ hữu ích khi giúp người học quay về nguồn chuẩn

Một trợ lý RAG trong học tập có thể giúp giải thích thuật ngữ, chỉ ra phần quy trình liên quan đến vai trò hoặc tạo câu hỏi luyện tập từ tài liệu đã duyệt. Nhưng nó không nên trở thành một con đường tắt để người học lấy đáp án mà không hiểu điều kiện áp dụng. Cách thiết kế tốt là để câu trả lời dẫn người học về đúng nguồn, nêu rõ giới hạn và khuyến khích họ xử lý một tình huống. Khi không có bằng chứng, trợ lý phải giúp họ biết cần hỏi ai thay vì viết một câu trả lời nghe có vẻ hoàn chỉnh.

Đây là chỗ MindCoach có thể phù hợp khi doanh nghiệp đã xác định được nguồn tri thức, vai trò người học và quy trình phê duyệt nội dung. Vai trò của nền tảng không phải hứa thay chuyên gia trả lời mọi câu hỏi. Nó là giúp liên kết tri thức đã được kiểm soát với lộ trình học, câu hỏi phát sinh và phản hồi để đội phụ trách biết điểm nào của nội dung cần được sửa hoặc bổ sung.

Bước đầu tiên không phải chọn mô hình; đó là chọn một nguồn tri thức đủ đáng tin để thử

Một thí điểm hợp lý nên chọn một chủ đề có tài liệu đã được duyệt, phạm vi người dùng rõ và câu hỏi lặp lại đủ nhiều để quan sát. Đội dự án cần lập một bộ câu hỏi chuẩn gồm cả câu có đáp án, câu dễ gây nhầm lẫn và câu phải từ chối. Sau đó, so sánh chất lượng tìm nguồn, chất lượng câu trả lời, thời gian người dùng tìm được thông tin và số lần chuyên gia phải can thiệp. Bằng chứng này cho biết nên cải thiện dữ liệu, giao diện hay mô hình.

Nếu nguồn chưa đáng tin, hãy dừng ở công việc quản trị tri thức. Việc làm rõ chủ sở hữu, phiên bản và điểm áp dụng của tài liệu không phải phần việc phụ cho dự án RAG; nó là điều kiện để bất kỳ câu trả lời nào có thể được người dùng tin và dùng một cách có trách nhiệm. Một hệ thống dám giới hạn phạm vi thường tạo giá trị bền hơn một hệ thống trả lời mọi thứ nhưng không ai biết căn cứ ở đâu.

Nguồn tham khảo