Công cụ giả mạo ảnh phụ nữ khỏa thân bằng deepfake gây xôn xao trên ứng dụng nhắn tin tức thời Telegram, trở thành mối nguy hại đáng sợ trên Internet.

Mới đây, theo điều tra, phần mềm tạo ảnh khiêu dâm DeepNude đã xuất hiện trở lại trong ứng dụng nhắn tin tức thời Telegram. Tính đến tháng 7 năm nay, phần mềm này đã phát hành công khai hơn 100.000 hình ảnh khiêu dâm trên nền tảng TeleGram , nhiều dữ liệu gồm các hình ảnh được chia sẻ công khai. Quan trọng hơn, hầu hết những bức hình này đều là của những người phụ nữ có thật trên mạng xã hội, thậm chí là trẻ vị thành niên. Nói cách khác, những bức ảnh tự chụp hàng ngày được chia sẻ trên các phương tiện truyền thông xã hội như Facebook, Tiktok, có khả năng được sử dụng để tạo ra những bức ảnh không đứng đắn này.

Phần mềm DeepNude thu hút 103.585 người dùng trên toàn thế giới, trong đó 70% đến từ Nga và các khu vực lân cận của Đông Âu.

Đáng ngại hơn, DeepNude hiện đang là một phần mềm và website miễn phí, có thể tải về dùng tự do. Với gói miễn phí, người dùng nhận được những hình ảnh khoả thân giả chất lượng kém hoặc chỉ một phần ảnh khỏa thân. Nếu muốn nhận được ảnh chất lượng tốt hơn, người dùng phải trả thêm phí. Gói cho người mới bắt đầu có giá 100 rúp (tương đương khoảng 1,28 đô la), cho phép người dùng tạo 100 ảnh khỏa thân giả, gỡ bỏ watermark trên ảnh và tăng tốc quá trình ghép ảnh trong bảy ngày.

Theo một cuộc thăm dò trên một kênh chuyên chia sẻ ảnh khỏa thân deepfake, hầu hết người dùng cho biết muốn tạo hình ảnh về những phụ nữ mà họ biết trong đời thực. Ảnh: Sensity.

DeepNude xuất hiện lần đầu tiên vào tháng 6/2019, nhưng đã nhanh chóng bị gỡ xuống do bị cáo buộc gây hiểu lầm cho người dùng. Tuy nhiên, phần mềm này vẫn tiếp tục lan rộng trên các kênh không chính thống như kho mã nguồn mở và các trang web chia sẻ torrent. DeepNude hiện đang được sử dụng vì mục đích kiếm tiền bất hợp pháp trên Telegram.

Hiện Telegram chưa phản hồi về nguyên nhân cho phép những nội dung này trên ứng dụng.

DeepNude sử dụng mạng sinh GANs – một công nghệ AI tiên tiến, để tạo ảnh khoả thân giả, với các hình ảnh thu được có chất lượng khác nhau. Hầu hết hình ảnh có thể nhận biết là giả bằng mắt thường, với da thịt bị bôi bẩn hoặc làm mờ, nhưng một số lại giống y như thật.

Trước đây, khi Photoshop còn chưa xuất hiện, một số cá nhân đã có thể ra nhiều hình ảnh khỏa thân giả của phụ nữ. Nhiều diễn đàn và trang web sử dụng các công cụ thông thường, cho phép người dùng tạo và chia sẻ ảnh khoả thân của người nổi tiếng và những người họ biết. Giờ đây, với các công cụ như deepfake và Telegram, những hình ảnh này càng được lan truyền dễ dàng và nhanh chóng hơn.

Hầu hết người dùng DeepNude chỉ muốn xem các nội dung khiêu dâm bằng deepfake. Tuy nhiên, những hình ảnh và video giả này có thể được sử dụng cho các ý đồ xấu nhằm vào phụ nữ như tống tiền, quấy rối, v.v. Chưa nói tới hậu quả về mặt tâm lý, những tác hại của Deepfake gây ra có thể bị đem làm vật tống tiền, hạ thấp nhân phẩm và giá trị uy tín của nạn nhân trong khi họ chưa kịp nhận ra và trở tay. DeepNude sinh ra cũng một phần nằm trong mục đích tiêu cực và biến tướng như vậy, đại diện cho lối suy nghĩ và tư tưởng sai lệch về tác dụng của công nghệ.

Theo The Verge 

Tin liên quan: