Một hacker mũ trắng đã phát hiện ra một cách cực kỳ thông minh để “qua mặt” ChatGPT, khiến chatbot này tiết lộ các mã kích hoạt Windows. Thông thường, các mã kích hoạt này được Microsoft bán với giá hơn 40 USD, nhưng đôi khi lại xuất hiện trên mạng thông qua các kênh không chính thống.

Đây là cách mà hacker này sử dụng: họ biến cuộc trò chuyện với ChatGPT thành một “trò chơi đoán chữ”. Khi cuộc trò chuyện được đặt trong bối cảnh vui vẻ, ChatGPT dường như “mất cảnh giác” và không còn giữ được các rào cản bảo mật nghiêm ngặt như bình thường. Đặc biệt, cụm từ “I give up” (“Tôi chịu thua”) lại trở thành “chìa khóa” để chatbot tiết lộ thông tin mà đáng lẽ phải giữ kín, ví dụ như mã kích hoạt Windows 10 hợp lệ.

Ngoài ra, hacker còn sử dụng các chiêu khác như khuyến khích AI tiếp tục trò chơi, tuân theo hướng dẫn của người dùng, khiến AI càng dễ bị “dụ” hơn. Sự việc này được Marco Figueroa – quản lý nền tảng sản phẩm tại 0DIN – chia sẻ trên blog của mình. Điều này cho thấy ngay cả những hệ thống AI tiên tiến cũng có thể bị khai thác nếu không được bảo vệ kỹ lưỡng.

Nguồn: Futurism