Đưa càng nhiều tài liệu, AI trả lời càng tệ? Nhiễu ngữ cảnh và cách chọn lọc tài liệu trước khi hỏi
Đưa càng nhiều tài liệu, AI trả lời càng tệ? Nhiễu ngữ cảnh và cách chọn lọc tài liệu trước khi hỏi
Trả lời ngay:
- ⚠️ Thêm tài liệu không liên quan không giúp AI hiểu hơn. Nghiên cứu Context Rot (Chroma, 2025) cho thấy thông tin gây nhiễu, nhất là nhiễu cùng chủ đề, làm hiệu năng của mô hình giảm rõ hơn khi ngữ cảnh dài ra.
- 💸 Kể cả khi vẫn trả lời đúng, bạn trả giá bằng token và thời gian. Trong phép thử của chúng tôi, đưa thêm một bộ luật không cần thiết làm mỗi câu hỏi tốn gấp 58 lần token và chậm gấp 3,6 lần, mà câu trả lời không tốt hơn.
- ✅ Chọn lọc trước khi hỏi: chỉ đưa tài liệu và phần tài liệu trả lời được câu hỏi đang hỏi.
Nhiễu ngữ cảnh là gì
Nhiễu ngữ cảnh là những gì có trong ngữ cảnh nhưng không giúp trả lời câu hỏi đang hỏi: tài liệu không liên quan, phiên bản cũ của cùng tài liệu, lịch sử trò chuyện về chủ đề khác.
Loại nhiễu nguy hiểm nhất không phải loại khác hẳn chủ đề, mà là loại giống mà không phải:
- Hợp đồng năm 2025 nằm cạnh hợp đồng năm 2026 với cùng đối tác.
- Bản nháp 2 nằm cạnh bản nháp 3 của cùng một chương.
- Quy định chung về đặt cọc trong luật nằm cạnh điều khoản đặt cọc cụ thể trong hợp đồng của bạn.
Chroma ghi nhận đúng điều này trong báo cáo Context Rot khi thử 18 mô hình: nhiễu càng gần chủ đề với thông tin cần tìm thì mô hình càng dễ trả lời sai. Lý do dễ hiểu: AI phải phân biệt hai thứ gần giống nhau ở hai chỗ khác nhau trong một ngữ cảnh rất dài, và đó là việc nó làm kém dần khi ngữ cảnh dài ra. Cơ chế chung được giải thích ở bài vì sao chat với AI càng lâu càng trả lời kém.
Chúng tôi thử: thêm một bộ luật vào câu hỏi về hợp đồng
Chúng tôi lấy một bộ hồ sơ thuê văn phòng mẫu (hợp đồng + 2 phụ lục) và hỏi ba ý: tiền cọc hiện tại, ngưỡng ngày chậm trả, mức lãi chậm trả. Rồi hỏi lại đúng câu đó nhưng đưa thêm toàn văn Bộ luật Dân sự 2015, một tài liệu nói rất nhiều về đặt cọc và lãi chậm trả, tức là nhiễu cùng chủ đề. Mỗi cách chạy 12 lần trên mô hình mặc định của LOSAN:
| Chỉ hồ sơ (3 file) | Hồ sơ + Bộ luật Dân sự | |
|---|---|---|
| Token mỗi câu hỏi | 3.691 | 213.803 (×58) |
| Thời gian trung bình | 5,1 giây | 18,4 giây (×3,6) |
| Trả lời đúng đủ 3 ý | 12/12 | 12/12 |
Kết quả cần đọc cho đúng: với câu hỏi này, nhiễu không làm AI trả lời sai. Câu hỏi có đáp án là con số ghi rõ trong hồ sơ, thuộc loại dễ. Cái giá phải trả nằm ở chỗ khác: mỗi câu hỏi đắt gấp 58 lần và chậm gấp hơn 3 lần, mà không đổi được chút chính xác nào. Với các câu hỏi cần suy luận qua nhiều chỗ, nghiên cứu của Chroma cho thấy nhiễu cùng chủ đề còn làm giảm cả độ chính xác.
Với người dùng gói miễn phí hoặc gói có hạn mức theo phiên, ×58 token nghĩa là hết hạn mức sau vài câu hỏi thay vì vài trăm câu.
Cách chọn lọc tài liệu theo tình huống
Hỏi về một văn bản cụ thể
Chỉ đưa văn bản đó. Cần đối chiếu với quy định chung thì trích đúng điều luật liên quan, không đưa cả bộ luật.
Hỏi về một bộ hồ sơ nhiều văn bản
Đưa đủ các văn bản của bộ hồ sơ (hợp đồng và mọi phụ lục), vì thiếu một phụ lục thì câu trả lời sai. Nhưng bỏ các bộ hồ sơ khác, kể cả của cùng đối tác. Quy trình đối chiếu nhiều văn bản ở bài rà soát hợp đồng dài và phụ lục bằng AI.
Viết hoặc sửa bài có nhiều bản nháp
Chỉ đưa bản mới nhất. Bản nháp cũ là loại nhiễu "giống mà không phải" điển hình: AI có thể ghép câu hoặc số liệu từ bản cũ vào bản mới.
Ôn thi, học từ giáo trình
Chỉ đưa chương đang học. Đưa cả giáo trình khi hỏi về một khái niệm của chương 3 thì AI có thể trộn định nghĩa ở chương khác có dùng cùng thuật ngữ.
Bảng: đưa gì, bỏ gì
| Đang hỏi về | Nên đưa | Nên bỏ |
|---|---|---|
| Một điều khoản hợp đồng | Hợp đồng + phụ lục của nó | Hợp đồng khác, cả bộ luật |
| Đối chiếu với luật | Đúng các điều luật liên quan | Toàn văn bộ luật |
| Một chương khoá luận | Bản mới nhất của chương + tờ chuẩn | Bản nháp cũ, các chương khác |
| Một khái niệm khi ôn thi | Chương chứa khái niệm | Cả giáo trình |
| So sánh hai tài liệu | Đúng hai tài liệu đó | Tài liệu thứ ba "để tham khảo thêm" |
Checklist trước khi gửi câu hỏi
- Mọi tài liệu đưa vào đều cần để trả lời câu hỏi này
- Không có hai phiên bản của cùng một tài liệu
- Văn bản dài chỉ đưa phần liên quan (chương, điều, mục)
- Bộ hồ sơ nhiều văn bản thì đưa đủ, không thiếu phụ lục
- Cuộc trò chuyện hiện tại không chứa tài liệu của việc khác; nếu có thì mở chat mới
- Câu hỏi nói rõ dùng tài liệu nào: "dựa trên Phụ lục 02", không chỉ "dựa trên tài liệu"
Chọn đúng tài liệu cho từng câu hỏi với LOSAN AI
Chọn lọc bằng tay nghĩa là mỗi lần hỏi phải tải lên đúng mấy file cần, và nhớ tải lại khi đổi câu hỏi. Trong tính năng Dự án của LOSAN AI:
- Tài liệu nằm sẵn trong dự án, mỗi câu hỏi chỉ chọn đúng file cần dùng bằng nút kẹp giấy. Chọn hợp đồng và hai phụ lục cho câu hỏi về hồ sơ; không chọn bộ luật nếu không cần.
- Mở chat mới vẫn giữ tài liệu. Đổi sang câu hỏi khác thì mở cuộc trò chuyện mới để lịch sử của câu hỏi trước không thành nhiễu, rồi chọn lại file, không phải tải lên lại.
- Tự dọn ngữ cảnh. Nội dung tài liệu AI đã đọc ở lượt trước được thu gọn thành dòng ghi nhớ, nên những gì đã dùng xong không tiếp tục chiếm chỗ và gây nhiễu cho các câu hỏi sau.
👉 Tạo dự án: losan.ai/project
Câu hỏi thường gặp
Đưa thêm tài liệu "cho chắc" có hại gì nếu AI vẫn trả lời đúng? Tốn token và thời gian, như phép thử ở trên (×58 token, ×3,6 thời gian). Với câu hỏi khó hơn, nó còn làm tăng nguy cơ trả lời sai.
Làm sao biết phần nào của tài liệu là liên quan? Xem mục lục trước. Nếu chưa biết, hỏi AI một lượt riêng: "Phần nào trong tài liệu này nói về X? Chỉ liệt kê vị trí." rồi mới đưa đúng phần đó vào câu hỏi chính. Quy trình đọc theo mục lục ở bài tóm tắt tài liệu 100 trang bằng AI mà không bị bịa.
Cửa sổ ngữ cảnh lớn thì cứ đưa hết vào có sao không? Cửa sổ lớn cho phép đưa vào, nhưng không làm nhiễu biến mất. Chỗ chứa lớn hơn không có nghĩa là nên chứa nhiều hơn.
Tài liệu tiếng Anh và tiếng Việt cùng nội dung thì đưa cả hai được không? Chỉ đưa một bản, bản bạn sẽ trích dẫn. Hai bản cùng nội dung là nhiễu "giống mà không phải" và có thể làm AI trộn thuật ngữ.
Có cách nào để AI tự bỏ qua phần không liên quan? Nói rõ trong câu hỏi: "Chỉ dựa trên Phụ lục 02, bỏ qua các tài liệu khác." Cách này giúp, nhưng không chắc chắn bằng việc không đưa tài liệu không liên quan vào ngay từ đầu.
Lưu ý và bài liên quan
Bài viết cập nhật 26/10/2026. Phép thử trong bài thực hiện ngày 26/10/2026 trên mô hình mặc định của LOSAN (tắt chế độ suy luận) với hồ sơ mẫu minh hoạ, 12 lần mỗi cách (thời gian lấy trung bình từ 4 lần có đo giờ); thời gian đo khi chạy song song nhiều yêu cầu nên chỉ để so sánh tương đối.
Nguồn: Hong, K., Troynikov, A., & Huber, J. (2025). Context Rot: How Increasing Input Tokens Impacts LLM Performance. Chroma Research.
Đọc tiếp trong cụm suy hao ngữ cảnh: