AI Hallucination: Thế nào là ‘ảo giác’ trong trí tuệ nhân tạo?

Trong lĩnh vực trí tuệ nhân tạo, thuật ngữ “ảo giác” (hallucination) được sử dụng để mô tả tình huống khi một mô hình AI tạo ra thông tin không chính xác hoặc không tồn tại trong thực tế. Ví dụ, nếu một chatbot AI được hỏi về số lượng hoa sen trên thế giới và nó trả lời rằng “có ba bông hoa sen cho mỗi người sống trên thế giới” thì đó là một “ảo giác” do AI tạo ra. Thông tin này không dựa trên dữ liệu thực tế và hoàn toàn do AI tự nghĩ ra.

Nguồn gốc sâu xa của “ảo giác” AI nằm ở chính kiến trúc và phương pháp huấn luyện của các mô hình hiện đại. Các mô hình ngôn ngữ lớn (LLM) không thực sự “hiểu” thế giới hay ý nghĩa của ngôn ngữ theo cách con người nhận thức. Thay vào đó, chúng được huấn luyện trên những kho dữ liệu văn bản khổng lồ để nhận diện và tái tạo các mẫu hình thống kê, cấu trúc ngữ pháp và mối liên hệ ngữ nghĩa giữa các từ.

AI hoạt động như những cỗ máy dự đoán từ tiếp theo có khả năng xuất hiện cao nhất trong một chuỗi văn bản nhất định. Do đó, khi đối mặt với các truy vấn nằm ngoài phạm vi kiến thức đã học, hoặc khi dữ liệu huấn luyện chứa đựng thông tin nhiễu, mâu thuẫn, thiên kiến hoặc đơn giản là không đầy đủ, mô hình có xu hướng “lấp đầy khoảng trống” bằng cách tạo ra những phản hồi nghe có vẻ hợp lý về mặt ngôn ngữ nhưng lại sai lệch về mặt nội dung thực tế. Ảnh hưởng từ cách người dùng xây dựng câu lệnh cũng là một yếu tố đáng kể, những câu hỏi mơ hồ hoặc mang tính gợi mở có thể vô tình khuyến khích mô hình suy diễn và tạo ra thông tin không xác thực.

Hiện tượng “ảo giác” có thể biểu hiện dưới nhiều hình thức đa dạng. Phổ biến nhất là việc cung cấp thông tin thực tế sai lệch về các sự kiện, số liệu hoặc nhân vật lịch sử. Một dạng tinh vi hơn là việc bịa đặt các nguồn tham khảo, trích dẫn các bài báo khoa học hoặc các công trình nghiên cứu không hề tồn tại nhằm gia tăng tính thuyết phục cho lập luận. Ngoài ra, AI cũng có thể tạo ra những nội dung hoàn toàn vô nghĩa, chứa đựng mâu thuẫn logic nội tại hoặc thể hiện sự không nhất quán về thông tin trong cùng một cuộc hội thoại hay văn bản được tạo ra.

Vấn đề này không chỉ giới hạn trong lĩnh vực xử lý ngôn ngữ tự nhiên. Các mô hình AI trong lĩnh vực thị giác máy tính cũng có thể biểu hiện những hành vi tương tự. Chúng có thể nhận dạng sai các đối tượng trong hình ảnh, ví dụ như nhầm lẫn giữa các loài động vật có hình dáng tương đồng, hoặc tạo ra các hình ảnh chứa đựng những chi tiết phi thực tế, dị dạng, đặc biệt là với các cấu trúc phức tạp như bàn tay con người. Điều này cho thấy “ảo giác” phản ánh một thách thức căn bản hơn liên quan đến khả năng của AI trong việc mô hình hóa và tái tạo chính xác thế giới thực.

Những hệ lụy tiềm tàng của “ảo giác” AI là rất đáng quan ngại. Việc các hệ thống AI tạo ra và phổ biến thông tin sai lệch với tốc độ và quy mô lớn có thể làm trầm trọng thêm vấn nạn tin giả, gây ảnh hưởng tiêu cực đến dư luận xã hội và sự ổn định chính trị. Trong các lĩnh vực đòi hỏi độ chính xác cao như y tế, tài chính hay pháp luật, việc dựa vào thông tin “ảo giác” do AI cung cấp có thể dẫn đến những quyết định sai lầm với hậu quả nghiêm trọng. Hơn nữa, sự thiếu tin cậy này có nguy cơ làm xói mòn niềm tin của công chúng vào tiềm năng và ứng dụng của công nghệ AI nói chung.

Để đối phó với thách thức này, cộng đồng nghiên cứu AI đang triển khai đồng thời nhiều giải pháp kỹ thuật. Một hướng tiếp cận quan trọng là cải thiện chất lượng và phạm vi của dữ liệu huấn luyện, bao gồm việc làm sạch, loại bỏ thiên kiến và cập nhật thông tin thường xuyên. Các kỹ thuật điển hình như Kiến trúc Tạo sinh Tăng cường Truy xuất (RAG – Retrieval – Augmented Generation) đang được chú trọng phát triển. RAG cho phép mô hình truy xuất và dựa vào thông tin từ các nguồn kiến thức bên ngoài đáng tin cậy trước khi đưa ra câu trả lời, thay vì chỉ dựa vào bộ nhớ nội tại.

Song song đó, các phương pháp căn chỉnh mô hình như Học tăng cường từ Phản hồi của Con người (RLHF) hoặc từ Phản hồi của AI (RLAIF) được áp dụng để “dạy” mô hình ưu tiên tính trung thực và hữu ích. Các nhà nghiên cứu cũng đang tìm cách phát triển cơ chế giúp AI tự đánh giá độ tin cậy của thông tin hoặc xây dựng các hệ thống phát hiện “ảo giác” tự động.

Tuy nhiên, việc loại bỏ hoàn toàn “ảo giác” vẫn là một mục tiêu đầy thách thức, nếu không muốn nói là bất khả thi với thế hệ AI hiện tại. Bản chất xác suất thống kê của các mô hình khiến chúng luôn tiềm ẩn khả năng tạo ra lỗi. Do đó, sự giám sát, kiểm tra và đánh giá của con người vẫn giữ vai trò then chốt, đặc biệt trong các ứng dụng có độ rủi ro cao. Tương lai của việc kiểm soát “ảo giác” có thể nằm ở việc phát triển các kiến trúc AI tiên tiến hơn, có khả năng suy luận logic, kiểm chứng thông tin và hiểu ngữ cảnh sâu sắc hơn. Đồng thời, việc nâng cao nhận thức và kỹ năng đánh giá thông tin cho người dùng cuối cũng là một yếu tố không thể thiếu để sử dụng AI một cách an toàn và hiệu quả.