Phát hiện công cụ Deepfake xóa bay quần áo trong vài cú click chuột, cạm bẫy đáng sợ với các chị em hay khoe ảnh trên MXH

Việc chỉnh sửa ảnh của một người bằng Photoshop và ghép họ vào những hình ảnh nhạy cảm để bôi nhọ vốn đã không còn xa lạ. Tuy nhiên mới đây, công ty bảo mật Sensity đã phát hiện một mạng lưới những con bot Deepfake trên ứng dụng tin nhắn Telegram, với khả năng tạo ra ảnh khỏa thân của phụ nữ một cách dễ dàng.

Cụ thể, người dùng ứng dụng chỉ cần tải ảnh phụ nữ có mặc đồ cho bot, sau đó bot trả lại ảnh của người phụ nữ đó trong tình trạng khỏa thân.

Chỉ cần gửi ảnh đối tượng muốn chỉnh sửa, bot Deepfake sẽ nhanh chóng trả về hình ảnh khỏa thân

Theo The Verge, người dùng có thể gõ tìm thấy tên của con bot này trên thanh công cụ Search trên Telegram. Ngoài ra, báo cáo của Sensity (Hà Lan) cũng giải thích thực trạng này này được tạo bằng AI, chúng có thể loại bỏ hầu hết quần áo của nhân vật.

Điều khiến bot Deepfake trở nên đáng sợ chính là thay vì cần học kỹ năng chỉnh sửa ảnh và trải qua khá nhiều thao tác phức tạp, việc chỉnh sửa ác ý này có thể thực hiện một cách không thể dễ dàng hơn. Con bot chỉ yêu cầu người dùng tải lên hình ảnh của một phụ nữ, nhấp vào vài nút. Sau đó, nó sử dụng AI để xác định thứ gì sẽ nằm dưới lớp quần áo và cho ra ảnh khỏa thân.

Con bot Deepfake giới thiệu khả năng "lột đồ"

Giorgio Patrini, Giám đốc điều hành Sensity và đồng tác giả của báo cáo nói với CNET: "So với các công cụ ngầm tương tự, bot tăng đáng kể khả năng truy cập bằng cách cung cấp cho người dùng miễn phí và đơn giản, hoạt động trên điện thoại thông minh cũng như máy tính truyền thống. Để "tách" một hình ảnh, người dùng chỉ cần tải ảnh của mục tiêu lên bot và nhận hình ảnh đã xử lý sau một quá trình tạo ngắn".

Điều khiến nhiều người phẫn nộ là quản trị viên bot (được gọi là P) nói với BBC rằng dịch vụ này hoàn toàn để giải trí và nó "không mang tính xâm hại". Tuy nhiên, hành vi chỉnh sửa hình ảnh mà không có sự cho phép của chính chủ vốn đã là sai trái, đặc biệt là khi mạng lưới này có hơn 100.000 thành viên, chủ yếu ở Nga hoặc Đông Âu. Với môi trường chia sẻ rộng như vậy, rất khó để có thể kiểm soát được hành vi của mỗi thành viên trong nhóm.

Khi thử kích hoạt con bot, nó giới thiệu khả năng xoá quần áo của mọi cô gái chỉ bằng bức ảnh và người xem sẽ có hình thể của cô ấy (hoàn toàn không bị làm mờ).

Con bot còn "nhiệt tình" khuyên người dùng nên sử dụng hình ảnh áo tắm hoặc trang phục càng "thiếu vải" càng tốt để tăng độ chân thực. Tuy nhiên, điều này không có nghĩa là những người ăn mặc kín đáo có thể được an toàn, bởi con bot có khả năng xử lý với bất kỳ loại trang phục nào.

Những hình ảnh kín đáo cũng có thể bị Deepfake "hô biến" thành ảnh khỏa thân

Dĩ nhiên, con bot này cũng là công cụ kiếm tiền cho những đối tượng phát hành. Bức ảnh đầu tiên sẽ là miễn phí, nhưng đến những bức về sau, con bot sẽ yêu cầu người dùng nạp tiền để sử dụng. Giá của 1 bức ảnh sẽ là 100 RUB (khoảng 30 nghìn đồng), 1 tuần sử dụng có giá là 800 RUB (khoảng 250 nghìn đồng), còn để sử dụng trọn đời thì 1.500 RUB (gần 500 nghìn đồng).

Đã có hơn 100.000 hình ảnh khỏa thân giả mạo của hơn 10.000 phụ nữ được tạo bằng con bot này và chia sẻ trực tuyến từ tháng 7/2019 đến năm 2020. Họ cho biết phần lớn nạn nhân đều bị lấy ảnh cá nhân trên tài khoản mạng xã hội, trong đó có một số cô gái tuổi vị thành niên.

Theo cuộc khảo sát về Deepfake cho thấy, hơn 63% người dùng muốn "lột đồ" các bạn gái, phụ nữ xung quanh cuộc sống của họ, 16% muốn nhìn thấy những minh tinh họ yêu thích trong trạng thái "trần như nhộng", số còn lại thuộc diện các trường hợp khác. Với tính chất nguy hiểm như vậy, các bạn nữ luôn là đối tượng tiềm năng của những kẻ biến thái trên mạng, kể cả đó không phải là người thân quen.

Khảo sát về mục đích sử dụng Deepfake "lột đồ"

Chính vì vậy, trừ khi công việc của bạn cần thiết thu hút chú ý và tương tác trên mạng xã hội, tốt nhất không nên kết bạn cũng như đồng ý kết bạn với người mà mình không quen biết. Việc chấp nhận thành bạn bè với người không quen có thể khiến bạn gặp phải những tình huống oái oăm không đáng có, qua đó nên hạn chế đăng ảnh khêu gợi, "thiếu vải", phòng trường hợp kẻ xấu lợi dụng tấm ảnh đó để sử dụng Deepfake, sau đó phát tán trên mạng nhằm bôi xấu nhân phẩm và danh dự của bạn.

Minh Tâm (TH) (Theo Thương Hiệu và Pháp Luật)