Meta truy quét ứng dụng “lột đồ bằng AI” trên mạng xã hội của họ
Sau nhiều tháng bị cảnh báo bởi các nhà nghiên cứu và các phóng viên, Meta cuối cùng cũng đang có những hành động mạnh mẽ hơn để ngăn chặn các ứng dụng tạo hình khiêu dâm, sử dụng AI để tạo ra hình ảnh khiêu dâm mà không được sự đồng ý của người nổi tiếng, người có ảnh hưởng và những người khác.
Meta đang khởi kiện một nhà phát triển ứng dụng thường xuyên quảng cáo các ứng dụng này trên Facebook và Instagram, đồng thời thực hiện các biện pháp mới để ngăn chặn quảng cáo cho các dịch vụ tương tự.
Các báo cáo gần đây từ CBS News đã chỉ ra ít nhất “hàng trăm” quảng cáo trên nền tảng của Meta quảng bá các ứng dụng cho phép người dùng “loại bỏ quần áo” khỏi hình ảnh của người nổi tiếng và những người khác. Một ứng dụng cụ thể, có tên Crush AI, dường như là một nhà quảng cáo tích cực trên Facebook và Instagram.
Nhà nghiên cứu Alexios Mantzarlis, Giám đốc Sáng kiến Bảo mật, Niềm tin và An toàn của Cornell Tech, đã báo cáo vào tháng 1 rằng Crush AI đã chạy hơn 8.000 quảng cáo trên Facebook và Instagram kể từ mùa thu năm ngoái.
Hiện tại, Meta cho biết họ đã đệ đơn kiện chống lại Joy Timeline HK Limited, công ty có trụ sở tại Hong Kong đứng sau Crush AI và các ứng dụng tạo hình khiêu dâm bằng AI khác.
Meta cũng cho biết họ đang thực hiện các bước mới để ngăn chặn các ứng dụng tương tự quảng cáo trên nền tảng của mình. “Chúng tôi đã phát triển công nghệ mới được thiết kế đặc biệt để xác định các loại quảng cáo này – ngay cả khi bản thân quảng cáo không chứa nội dung nhạy cảm – và sử dụng công nghệ so khớp để giúp chúng tôi nhanh chóng tìm kiếm và xóa các quảng cáo sao chép,” Meta viết. “Chúng tôi đã làm việc với các chuyên gia bên ngoài và các đội ngũ chuyên gia của riêng mình để mở rộng danh sách các thuật ngữ, cụm từ và biểu tượng cảm xúc liên quan đến an toàn mà hệ thống của chúng tôi được huấn luyện để phát hiện trong những quảng cáo này.”
Mạng xã hội này cũng cho biết họ có kế hoạch hợp tác với các nền tảng công nghệ khác, bao gồm cả chủ sở hữu cửa hàng ứng dụng, để chia sẻ thông tin liên quan về các thực thể lạm dụng nền tảng của mình.
