Những ảnh được phát tán hoàn toàn không thể được kiểm soát.

Mặc dù ứng dụng DeepNude –  với khả năng xóa bỏ quần áo trên ảnh chụp phụ nữ đã bị xóa bỏ bởi chính người tạo ra nó, những bản sao của ảnh bị chỉnh sửa đã bị phát tán tới mọi ngóc ngách trên internet.

Thậm chí, một số người đang cố phát triển lại DeepNude, xây dựng phiên bản cải tiến hơn dưới dạng mã nguồn mở.

Trước phản ứng mãnh liệt của dư luận về những ảnh hưởng xấu của DeepNude, phiên bản đầu tiên của ứng dụng học máy này, với khả năng xóa quần áo của phụ nữ và từ đó tạo ra những bức ảnh khỏa thân giả – dường như đã được xóa bởi chính những nhà phát triển ra nó ở Estonia. Theo đó, trang web của ứng dụng đã hoàn toàn biến mất, còn các chức năng download và chỉnh sửa ảnh đã bị ngừng lại, chỉ vài ngày sau khi ứng dụng ra đời.

Về vấn đề ngừng dịch vụ, người lập trình ứng dụng đã công bố: “Việc download phần mềm hoặc chia sẻ trên bất cứ nguồn hay phương tiện nào khác là vi phạm điều khoản sử dụng của trang web chúng tôi. Từ giờ, DeepNude sẽ ngừng cập nhật, cũng như cung cấp quyền sử dụng vô thời hạn.” Và nhiều người đã thở phào nhẹ nhõm trước điều này.

Đáng buồn thay, nỗ lực ngăn chặn nửa vời này cũng chẳng hạn chế việc sử dụng sai mục đích của ứng dụng là bao. Vô số kẻ biến thái đã tại ứng dụng này, và đang phân tán những bức ảnh từ nó qua mọi phương thức có thể.

Theo một độc giả, hàng trăm người dùng của DeepNude đang chia sẻ những bức ảnh từ gói cao cấp của ứng dụng, vốn được bán với giá 50 đô-la một bức, trên khắp mọi trang mạng, đi kèm với đó là những phần mềm độc. Tệ hơn nữa, cách thực sử dụng phần mềm và đường link tải cũng được chia sẻ rộng rãi qua YouTube, mua bán trên những sàn giao dịch Bitcoin ngầm và phổ biến khắp Discord – một nền tảng chat cho dân máy tính và game thủ.

Những lỗi trên ứng dụng gốc thậm chí còn được sửa lại, kèm với việc xóa bỏ watermark trên hình ảnh cuối, khiến cho những hình ảnh khỏa thân không còn được đánh dấu là giả.

Trong quá trình tìm kiếm, The Register thậm chí đã tìm thấy những phiên bản được cải tiến “hoàn hảo” hơn. Một người dùng trên Discord khẳng định: “Chúng tôi vui mừng thông báo rằng đã phát triển thành công DeepNude V2 – hoàn thiện hơn và “sạch” hơn, và sẽ còn tiếp tục cải tiến nó.

Thông báo trên còn xuất hiện trên một máy chủ Discord khác, dù đã bị đánh sập từ đầu tuần. Ở một máy chủ khác, có tới 20.000 người dùng nóng lòng muốn tải DeepNude.

Trước vấn nạn về DeepNude, đại diện của Discord đã khẳng định với báo giới: “Trong điều khoản sử dụng của chúng tôi, việc chia sẻ hình ảnh khiêu dâm mà không có sự đồng thuận của chủ ảnh là hoàn toàn không được phép.

Chúng tôi sẽ ngay lập tức điều tra và ngăn chặn mọi hành vi vi phạm điều khoản. Nếu bất cứ hệ máy chủ nào xuất hiện hình ảnh khiêu dâm không có sự đồng thuận của chủ ảnh, hệ máy chủ đó sẽ bị đóng cửa ngay lập tức, và người dùng chia sẻ hình ảnh đó sẽ bị cấm dùng Discord,” đại diện này cho biết.

Giải mã DeepNude

Các lập trình viên có thể dễ dàng tái xây dựng DeepNude hoặc tạo ra các phần mềm tương đương chỉ sau khi phân tách mã nguồn và dễ dàng chia sẻ chúng lên GitHub.

DeepNude được viết bằng ngôn ngữ Python, sau đó được dịch sang hệ nhị phân thực thi. Để đạt mục đích, ứng dụng đã sử dụng PyTorch, Qt, Numpy, và một số thư viện khác, tích hợp cùng với Nvidia GPUs qua CUDA để đẩy nhanh tốc độ tạo ảnh. Mô hình học của phần mềm được chia ra làm 3 tệp khác nhau với tổng dung lượng khoảng 2,1GB, thực hiện tải đơn qua gói AWS S3 sau cài đặt. Các ứng dụng sao chép được chia sẻ rộng rãi cũng đã “học” mô hình này, và vì vậy vẫn có thể sử dụng kể cả sau khi AWS S3 bị ngưng hoạt động.

Điểm thú vị là, trong DeepNude, code sẽ tự xáo trộn dữ liệu tới 3 lần, cũng như thay thế các chuỗi byte ngắn trước khi sử dụng để ngăn chặn các ứng dụng khác sao chép mô hình đã học này.

Thuật toán của ứng dụng dựa trên pix2pix, một dự án nghiên cứu trên mạng đối nghịch chung của nhóm nghiên cứu thuộc Đại học California, Berkeley vào năm 2017. Trong đó, kỹ thuật chuyển đổi hình ảnh (image-to-image) này sẽ tạo ra các hình ảnh mới từ tranh vẽ/hình ảnh gốc và sau đó sử dụng dữ liệu học để vẽ đè lên chúng. Với pix2pix, các đường viền mô tả một con mèo có thể dễ dàng biến thành một con mèo hoàn chỉnh được tạo bởi AI, và những ảnh trắng đen cũng có thể được tô màu.

Còn đối với DeepNude, thì quần áo sẽ được thay thể bởi da thịt.

Về cơ bản, mạng nơ-ron của DeepNude sẽ “học” từ vô số các cặp hình ảnh có và không có quần áo, trong cùng một tư thế. Từ đó, mô hình sẽ ghi nhớ viền và hình dạng cơ thể người phụ nữ, cũng như hình ảnh khỏa thân của chúng. Như vậy, quần áo sẽ được thay thế bởi da thịt, làm cho người phụ nữ trong ảnh trông như đang khỏa thân. Do đa số dữ liệu “học” được lấy từ các tạp chí khiêu dâm, cơ chế này sẽ hoạt động hiệu quả hơn cả nếu hình ảnh nguồn trông giống các tư thế trong những tạp chí này.

Vào năm ngoái, một nhóm các nhà nghiên cứu tại Đại học Công giáo Pontifical ở Rio Grande do Sul, Brazil đã xây dựng một mô hình tương tự, nhưng lại theo chiều người lại: mô hình này vẽ thêm quần áo cho những bức ảnh khỏa thân.

The Register

Tin liên quan: