Những ảnh deepfake đã gây ra hoang mang và hậu quả nghiêm trọng cho hàng loạt nạn nhân trên khắp thế giới. Các nạn nhân bị tống tiền, bị bắt nạt và gặp nhiều vấn đề tâm lý sau khi ảnh của họ bị chỉnh sửa bằng trí tuệ nhân tạo.
Ảnh deepfake: Sự đe dọa và hậu quả
( Ảnh: Theguardian )
Ảnh deepfake đã gây ra hoang mang và hậu quả nghiêm trọng cho hàng loạt nạn nhân trên khắp thế giới. Các nạn nhân bị tống tiền, bị bắt nạt và gặp nhiều vấn đề tâm lý sau khi ảnh của họ bị chỉnh sửa bằng trí tuệ nhân tạo.
Miriam al-Adib, một bác sĩ phụ khoa ở thị trấn Almendralejo, miền nam Tây Ban Nha, đã chấp nhận thực tế đau lòng khi con gái 14 tuổi của cô cho cô xem một bức ảnh rõ ràng của chính mình trong tư thế khiêu dâm. Đây là một ảnh deepfake, một trong số hàng chục bức ảnh nude của các nữ sinh ở Almendralejo đã được tạo ra bằng trí tuệ nhân tạo (AI) và lan truyền trong thị trấn qua một nhóm WhatsApp do các học sinh khác lập ra.
Các cô gái có hình dạng tương tự đang từ chối đi học, gặp cảnh hoảng sợ, bị tống tiền và bị bắt nạt trên đường phố. Vụ việc này đã nhanh chóng lan truyền trên toàn cầu và khiến Almendralejo, một thị trấn nhỏ với những nhà thờ và quảng trường kiến trúc thời Phục Hưng đã phai màu, trở thành tâm điểm của một chuỗi cảnh báo về một tương lai gần khi các công cụ AI cho phép bất kỳ ai tạo ra những bức ảnh siêu thực chỉ bằng vài cú nhấp chuột.
Ảnh deepfake và những ảnh nude lan truyền trên mạng
Trong khi những ảnh deepfake của các ngôi sao như Taylor Swift đã thu hút sự chú ý nhất, chúng chỉ là một phần nhỏ của một dải ảnh không được đồng ý đang lan tràn trên internet và mà cảnh sát gần như không thể ngăn chặn.
Cùng lúc khi Miriam al-Adib biết về những bức ảnh này, hàng nghìn dặm xa đó, tại trường trung học Westfield ở New Jersey, một vụ việc tương tự đang diễn ra: nhiều cô gái bị nhắm mục tiêu bởi những bức ảnh deepfake khiêu dâm do các học sinh trong lớp tạo ra. Vụ việc ở New Jersey đã gây ra một vụ kiện dân sự và góp phần thúc đẩy một nỗ lực đa phương trong Quốc hội Hoa Kỳ để cấm việc tạo ra và lan truyền những bức ảnh deepfake không có sự đồng ý.
ClothOff: Ứng dụng gây tranh cãi
Ở trung tâm của cả hai vụ việc ở Tây Ban Nha và New Jersey là cùng một ứng dụng, được gọi là ClothOff. Trong năm năm kể từ khi ứng dụng này được ra mắt, những người điều hành ClothOff đã cẩn thận bảo vệ danh tính của họ, làm méo giọng nói của họ khi trả lời câu hỏi của báo chí và thậm chí sử dụng AI để tạo ra một người hoàn toàn giả mạo mà họ tuyên bố là CEO của mình.
Một cuộc điều tra kéo dài sáu tháng đã tiết lộ tên của một số người đã làm việc cho ClothOff hoặc có liên quan đến ứng dụng này. Họ đã dẫn dắt đến Belarus và Nga nhưng đi qua các công ty đăng ký ở Châu Âu và các công ty mặt trước đặt trụ sở ở trung tâm thành phố Luân Đôn.
ClothOff, trang web của họ nhận hơn 4 triệu lượt truy cập hàng tháng, mời người dùng 'cởi trần bất cứ ai bằng AI'. Ứng dụng có thể được truy cập thông qua điện thoại thông minh bằng cách nhấp vào một nút xác nhận người dùng trên 18 tuổi và thu phí khoảng 8,5 bảng Anh cho 25 tín dụng.
Liên kết giữa ClothOff và GGSel
Một anh em ở Belarus, Dasha Babicheva và Alaiksandr Babichau, có vẻ rất liên quan đến ClothOff. Họ đã tham gia vào các cuộc trò chuyện liên quan đến ứng dụng này và có liên kết với các công ty và trang web liên quan. Tuy nhiên, khi được liên hệ, họ đã từ chối mọi sự liên quan và không đáp lại các câu hỏi chi tiết.
Cuộc điều tra đã tìm ra các liên kết giữa ClothOff và một trang web thị trường trò chơi trực tuyến có tên GGSel, được mô tả bởi CEO của nó là một cách cho game thủ Nga vượt qua lệnh trừng phạt phương Tây. Cả hai trang web này đều từng liệt kê cùng một địa chỉ kinh doanh vào năm ngoái: một công ty có trụ sở tại Luân Đôn có tên GG Technology Ltd. Tuy nhiên, cả hai trang web đều đã xóa bất kỳ tham chiếu nào đến công ty này.
Cuộc điều tra cũng đã tìm thấy các tài khoản LinkedIn liên quan đến GGSel, nhưng sau khi Guardian bắt đầu điều tra về liên kết giữa GGSel và ClothOff, các tài khoản này đã xóa bất kỳ tham chiếu nào đến công ty hoặc đã xóa họ và hình ảnh của họ.
Khó khăn trong phân biệt thực và giả
Cuộc điều tra đã tìm thấy các giao dịch tiền bạc qua Luân Đôn. Các thanh toán cho ClothOff đã dẫn đến một công ty đăng ký tại Luân Đôn có tên Texture Oasis, một công ty tuyên bố bán các sản phẩm sử dụng trong các dự án kiến trúc và thiết kế công nghiệp. Tuy nhiên, công ty này có vẻ là một doanh nghiệp giả mạo được thiết kế để che giấu các khoản thanh toán cho ClothOff.
Cuộc điều tra đã tìm ra các liên kết giữa ClothOff và một trang web thị trường trò chơi trực tuyến có tên GGSel, được mô tả bởi CEO của nó là một cách cho game thủ Nga vượt qua lệnh trừng phạt phương Tây. Cả hai trang web này đều từng liệt kê cùng một địa chỉ kinh doanh vào năm ngoái: một công ty có trụ sở tại Luân Đôn có tên GG Technology Ltd. Tuy nhiên, cả hai trang web đều đã xóa bất kỳ tham chiếu nào đến công ty này.
Cuộc điều tra cũng đã tìm thấy các tài khoản LinkedIn liên quan đến GGSel, nhưng sau khi Guardian bắt đầu điều tra về liên kết giữa GGSel và ClothOff, các tài khoản này đã xóa bất kỳ tham chiếu nào đến công ty hoặc đã xóa họ và hình ảnh của họ.
Kết luận
Cuộc điều tra về ảnh deepfake đã tiếp tục khám phá sự đe dọa và hậu quả của việc sử dụng trí tuệ nhân tạo để chỉnh sửa và tạo ra những bức ảnh giả mạo. Những nạn nhân của ảnh deepfake phải đối mặt với những vấn đề tâm lý và xã hội nghiêm trọng, bao gồm tống tiền và bị bắt nạt. Điều này đặt ra một thách thức lớn cho cảnh sát và chính phủ trong việc ngăn chặn và xử lý các trường hợp này.
