Nghe thì có vẻ nghịch lý bởi hiện tượng ảo giác xưa giờ chỉ xảy ra với não người hay động vật, còn máy tính thì không thể. Tuy nhiên, AI nó “suy nghĩ” bằng phép toán đại số, xác suất và vector chứ không phải theo cách hoạt động của những phần mềm máy tính truyền thống. Mặt khác, bản chất của các AI chatbot là “tạo sinh” nên đó là nhiệm vụ tối thượng của thuật toán AI. Do đó, lắm trường hợp nó vẫn tạo ra một kết quả chứa thông tin sai nhưng có vẻ rất hợp lý và ảo giác ở đây chính là những thông tin đó tạo ra cho người dùng.

Một thí dụ về Ảo giác AI, câu trả lời có vẻ rất hợp lý, nhưng nó sai!

Một số tình huống mà AI chatbot sẽ dễ tạo ra ảo giác chính là hỏi nó về những thông tin liên quan tới số liệu, đặc biệt là những số liệu của cái gì đó vừa mới được công bố (thí dụ như iPhone 19 mới ra hôm qua, hôm nay hỏi chatbot thì nhiều khả năng nó sẽ tạo ra ảo giác), các vấn đề có liên quan đến logic,…

Trên thực tế, ngăn chặn ảo giác hiện đang là một thách thức đối với các đơn vị phát triển mô hình ngôn ngữ lớn, bao gồm cả OpenAI lẫn Google cùng nhiều đơn vị khác. Mặc dù sau những lần cập nhật model, các nhà phát triển sẽ cập nhật thêm dữ liệu huấn luyện với chất lượng cao, được fine tune tốt, các câu trả lời ảo giác cũ sẽ được giải quyết, nhưng chắc chắn, vẫn sẽ còn đó những thông tin mà loài người (ý ở đây là một user nào đó trong số hàng tỷ user trên khắp hành tinh) muốn truy vấn nhưng vẫn chưa được huấn luyện và ảo giác vẫn sẽ xảy ra.

Nhìn chung, Ảo giác hiện đang là một khiếm khuyết của các mô hình ngôn ngữ lớn. Trên thực tế, những người dùng đang khai thác khả năng quá lớn của các LLM để phục vụ công việc hiện vẫn chấp nhận sự tồn tại của ảo giác AI và tìm cách hạn chế ảnh hưởng của nó tới công việc. Cách duy nhất hiện tại là check lại những thông tin đáng nghi hoặc hạn chế khai thác các thông tin có liên quan lớn tới sức khỏe, các thông tin số liệu tài chính, ngân hàng,…. trước khi đưa ra quyết định ngoài đời thật.

Câu hỏi đặt ra khi tích hợp model LLM lên một dịch vụ khác, phục vụ tập người dùng khác

Tuy nhiên, “sự chấp nhận” trên đây theo cá nhân mình chỉ đúng với những user chủ động muốn làm việc với các mô hình ngôn ngữ lớn cho các công việc chuyên nghiệp cụ thể của họ cần sự trợ giúp của công nghệ này. Nhưng một khi nó được trang bị cho một trợ lý ảo trên điện thoại thì câu chuyện sẽ khác đi một chút do khi đó, tập người dùng mà nó phục vụ là người dùng iPhone/iPad hay MacBook, chứ không còn là người dùng chủ động dùng Chatbot AI cho công việc.

Những ngày gần đây, thông tin về việc Apple sẽ tích hợp model AI của OpenAI để nâng cấp Siri là câu chuyện được nhắc tới khá nhiều. Cũng có thông tin nói rằng Apple vẫn đang tiếp tục làm việc với Google để sử dụng model AI đang vận hành Gemini. Và dù có sử dụng model nào đi nữa, chắc chắn đây sẽ là một nâng cấp cực kỳ lớn đối với Siri đã 10 năm tuổi kể từ khi Steve Jobs giới thiệu nó năm xưa trước khi ông qua đời.