Thuật ngữ
Ảo giác AI (hallucination)
Ảo giác AI là khi AI nói một điều sai nhưng đầy tự tin: một sự thật, nguồn, luật hay con số bịa ra. Vì AI dự đoán văn bản nghe hợp lý chứ không phải sự thật đã kiểm chứng, nên thông tin quan trọng luôn cần kiểm tra lại.
Hỏi AI giờ mở cửa của một hiệu thuốc nhỏ ở quê, bạn có thể nhận lại một câu trả lời chính xác, lịch sự và hoàn toàn bịa. Đó là ảo giác AI: không phải lỗi kỹ thuật, mà là hệ quả trực tiếp của cách một LLM hoạt động. Nó tạo ra những từ tiếp theo nghe hợp lý nhất, và một câu trả lời sai đầy tự tin thường nghe xuôi tai hơn câu “tôi không biết”.
Phần nguy hiểm nằm ở giọng điệu. Ảo giác đến với cùng một giọng bình tĩnh, trôi chảy như câu trả lời đúng, kèm theo số điều luật giả và đường link giả. Mô hình không cố nói dối; nó không có khái niệm đúng hay sai để mà nói dối.
Vài nguyên tắc thành thật: các mô hình mới ảo giác ít hơn, và việc tra cứu web hay RAG giúp ích nhiều, nhưng chưa ai loại bỏ được nó hoàn toàn. Vậy nên: cứ thoải mái lên ý tưởng, viết nháp và tóm tắt; còn tên người, con số, điều luật, giá cả và trích dẫn thì hãy kiểm tra trước khi bạn dựa vào đó để hành động. Yêu cầu AI dẫn nguồn mà bạn bấm vào xem được là thói quen tốt nhất.
Bạn gặp thuật ngữ này ở đâu
- Bất cứ khi nào AI tỏ ra chắc chắn về những thông tin có thể kiểm chứng. ChatGPT, Claude, Gemini đều có thể bịa.
- Khi hỏi về luật Việt Nam, ví dụ Nghị định 13/2023/NĐ-CP về bảo vệ dữ liệu cá nhân, AI có thể bịa số điều khoản; hãy đối chiếu trên thuvienphapluat.vn.
- Câu lệnh có thêm ý “nếu không chắc thì nói rõ” giúp giảm ảo giác rõ rệt; công cụ cải thiện prompt của chúng tôi cài sẵn rào chắn này cho bạn.