AI Gemini trong Gmail có thể vô tình tóm tắt nội dung email lừa đảo?

Vào ngày 15/7/2025, “blurrylogic” – một nhà nghiên cứu an ninh mạng đã chứng minh AI Gemini trong Gmail có thể bị thao túng để hiển thị phần tóm tắt nội dung từ email lừa đảo. Lỗ hổng này được gửi tới 0din, chương trình tiền thưởng tìm lỗi của Mozilla Foundation dành cho các ứng dụng AI.

Cụ thể hơn, các câu lệnh lừa đảo có thể được chèn vào nội dung email dưới định dạng HTML (hoặc dưới dạng văn bản được ẩn bằng màu phông chữ vô hình). Gemini sẽ hiểu các câu lệnh này là mệnh lệnh và có thể hiển thị chúng trong bản tóm tắt email mà không hề đưa ra cảnh báo cho người dùng.

Do câu lệnh lừa đảo được ẩn trong phần nội dung của email gốc nên người dùng sẽ khó phát hiện ra. Vì vậy, người dùng có khả năng tin rằng đó là cảnh báo do Gemini tạo ra. Nhà nghiên cứu blurrylogic chỉ ra Gemini trong Gmail có thể bị khai thác để hiển thị các tin nhắn buộc người nhận chia sẻ thông tin nhạy cảm mà không xác minh đúng cách, dẫn đến việc thông tin đăng nhập của họ có thể bị đánh cắp.

Sau khi nghiên cứu trên được chia sẻ, Google đã chia sẻ chi tiết về các bước họ đã thực hiện để giúp AI Gemini cảnh giác hơn trước những chiêu trò như vậy. Chẳng hạn như:
– Liên tục cập nhật kho dữ liệu về các lời nhắc hoặc chỉ dẫn độc hại có thể thao túng đầu ra của Gemini.
– Huấn luyện liên tục các mô hình học máy cơ bản để đảm bảo AI không phản hồi các chỉ dẫn độc hại.
– Gemini sẽ nhận diện các liên kết đáng ngờ (hoặc giả mạo thành những liên kết hữu ích) trong nội dung email và xóa khỏi các bản tóm tắt email.