Cơn ác mộng deepfake ở Hàn Quốc: Khi hình ảnh AI giả mạo phá hủy cuộc đời thật

6 giờ trướcBài gốc

Vào mùa hè 2021, Ruma (tên nhân vật đã được thay đổi để bảo vệ quyền riêng tư - CNN) đang ăn trưa thì điện thoại của cô bỗng dồn dập tin nhắn đến. Khi mở ra xem, cô bàng hoàng: ảnh gương mặt cô bị lấy từ mạng xã hội, ghép lên một cơ thể khỏa thân và phát tán trong một phòng chat trên ứng dụng Telegram.

Những bình luận trong ảnh chụp màn hình của phòng chat đầy xúc phạm và thô tục - giống như những tin nhắn từ kẻ nặc danh đã gửi ảnh cho cô.

Sự quấy rối leo thang với những lời đe dọa sẽ phát tán hình ảnh của cô rộng rãi hơn và nhạo báng rằng cảnh sát sẽ không thể tìm ra thủ phạm. Kẻ gửi tin nhắn dường như biết rõ thông tin cá nhân của Ruma, nhưng cô không thể xác định được danh tính hắn.

“Tôi bị tấn công bởi hàng loạt hình ảnh mà chưa tôi từng dám tưởng tượng trong đời,” Ruma chia sẻ với CNN.

Nội dung cợt nhả đã gửi đến Ruma - Ảnh: Chụp màn hình video

Mặc dù "revenge porn" (phát tán hình ảnh nhạy cảm mà không được sự đồng thuận) đã tồn tại từ rất lâu, sự bùng nổ của công nghệ AI khiến bất kỳ ai cũng có thể trở thành nạn nhân của deepfake khiêu dâm, dù họ chưa bao giờ chụp hay gửi ảnh nude.

Hàn Quốc từng đối mặt với nhiều vụ tội phạm tình dục kỹ thuật số, từ camera ẩn trong nhà vệ sinh công cộng cho đến các phòng chat trên Telegram ép buộc phụ nữ và trẻ em gái quay clip nhạy cảm.

Giờ đây, deepfake đang mở ra một mối đe dọa mới, đặc biệt nghiêm trọng tại trường học. Theo báo cáo từ Bộ Giáo dục Hàn Quốc, từ tháng 1 đến đầu tháng 11.2024, hơn 900 học sinh, giáo viên và nhân viên trường học đã báo cáo bị deepfake tấn công tình dục. Con số này chưa bao gồm các trường đại học, nơi cũng ghi nhận nhiều vụ việc tương tự.

Để đối phó với tình trạng này, Bộ Giáo dục thành lập lực lượng phản ứng khẩn cấp. Tháng 9.2024, Quốc hội Hàn Quốc thông qua sửa đổi luật: sở hữu hoặc xem nội dung deepfake khiêu dâm có thể bị phạt tù tối đa 3 năm hoặc phạt tiền lên đến 30 triệu won(tương đương 20.000 USD); tạo hoặc phát tán hình ảnh deepfake khiêu dâm không có sự đồng thuận có thể bị phạt tù tối đa 7 năm, tăng từ mức 5 năm trước đó.

Cảnh sát quốc gia Hàn Quốc kêu gọi toàn lực lượng “đi đầu trong việc xóa sổ hoàn toàn tội phạm deepfake tình dục”. Cũng trong năm này, từ tháng 1 - 10, trong 964 vụ việc được báo cáo, cảnh sát chỉ bắt được 23 người.

Nghị sĩ Kim Nam-hee nói với CNN: “Điều tra và trừng phạt hiện nay còn quá thụ động.” Vì vậy, một số nạn nhân như Ruma đã phải tự tiến hành điều tra.

Nạn nhân tự hành động

Khi bị tấn công, Ruma mới 27 tuổi và còn là sinh viên đại học. Khi cô đến trình báo với cảnh sát, họ chỉ hứa sẽ yêu cầu Telegram cung cấp thông tin người dùng, nhưng cũng cảnh báo Telegram thường không không hợp tác.

Vốn là một sinh viên hoạt bát, yêu đời, vụ việc khiến cuộc sống cô hoàn toàn thay đổi. “Nó làm sụp đổ toàn bộ niềm tin của tôi về thế giới. Việc họ có thể dùng hình ảnh thô tục, tàn bạo để làm nhục bạn tới mức đó gây tổn thương gần như không thể phục hồi", Ruma nói.

Sau khi biết rằng nhiều cuộc điều tra bị khép lại chỉ sau vài tháng vì “khó xác định nghi phạm”, Ruma quyết định tự hành động.

Cô cùng một số sinh viên khác tìm đến Won Eun-ji, nhà hoạt động từng vạch trần nhóm tội phạm tình dục kỹ thuật số lớn nhất Hàn Quốc trên Telegram vào năm 2020.

Won tạo tài khoản giả, giả danh một người đàn ông ngoài 30 tuổi để xâm nhập phòng chat deepfake.

Suốt gần hai năm, Won âm thầm thu thập thông tin, trò chuyện với các thành viên trước khi phối hợp với cảnh sát thực hiện một cuộc "đánh úp".

Khi cảnh sát đối mặt với nghi phạm, Won gửi tin nhắn Telegram cho hắn. Điện thoại hắn reo lên - hắn bị bắt quả tang.

Won - nhà hoạt động xã hội - Ảnh: CNN

Tháng 5 năm ngoái, hai cựu sinh viên trường Đại học Quốc gia Seoul (SNU) bị bắt. Kẻ chủ mưu bị kết án 9 năm tù vì sản xuất và phát tán nội dung khiêu dâm. Một đồng phạm khác lãnh án 3,5 năm tù. Cảnh sát xác định ít nhất 61 nạn nhân, trong đó có 12 sinh viên và cựu sinh viên SNU.

Trong một bản trích lục phán quyết mà luật sư của Ruma chia sẻ, tòa tuyên: “Các tài liệu khiêu dâm giả được tạo ra bởi bị cáo thật kinh tởm, và những cuộc trò chuyện xung quanh chúng gây sốc... Chúng nhắm vào các nạn nhân như đang săn mồi, sỉ nhục và hủy hoại nhân phẩm họ bằng cách sử dụng ảnh tốt nghiệp, ảnh cưới và ảnh gia đình”.

Ruma chia sẻ với CNN sau phán quyết: “Tôi rất mừng, nhưng đây chỉ mới là phiên tòa sơ thẩm. Tôi chưa thể hoàn toàn yên tâm".

Xã hội thiếu cảm thông

Một giáo viên trung học tên Kim kể với CNN rằng cô phát hiện mình bị nhắm tới vào tháng 7.2023, khi một học sinh cho cô xem ảnh chụp màn hình Twitter chứa ảnh cô bị chụp lén trong lớp học, tập trung vào cơ thể cô. “Tay tôi bắt đầu run rẩy,” Kim nhớ lại.
Hai ngày sau, sự việc trở nên tồi tệ hơn: tóc cô bị chỉnh cho rối bù, cơ thể bị sửa để trông như đang quay lại, và khuôn mặt cô bị ghép vào ảnh nude.

Cảnh sát cho biết cách duy nhất để tìm thủ phạm là yêu cầu Twitter (nay là X) cung cấp thông tin người dùng - nhưng thủ tục này phức tạp và lâu.

Không chờ đợi, Kim cùng một đồng nghiệp (cũng là nạn nhân) tự điều tra. Kết quả, họ xác định được thủ phạm: một học sinh ít nói, trầm tính mà “không ai ngờ tới”.

Dù thủ phạm đã bị truy tố, Kim cho biết cuộc đời cô sẽ không bao giờ trở lại như trước. Cô cũng bức xúc và sốc trước sự thiếu cảm thông qua bình luận của một số người.

“Tôi đọc nhiều bình luận kiểu ‘Deepfake có phải cơ thể thật đâu mà làm lớn chuyện?", Kim nói.

Theo chính sách hiện hành của X, để lấy thông tin người dùng cần có trát tòa, lệnh của tòa án hoặc văn bản hợp pháp từ cơ quan thực thi pháp luật.

Áp lực lên các nền tảng số

Won cho biết trong thời gian dài, việc phát tán nội dung tình dục về phụ nữ ở Hàn Quốc không bị coi là trọng tội. Dù phim khiêu dâm bị cấm nhưng việc thực thi luật lỏng lẻo khiến tội phạm tình dục số tràn lan.

Một hành vi phổ biến là “nhục mạ người quen” bằng việc thủ phạm chia sẻ ảnh và thông tin cá nhân của phụ nữ họ quen, rồi kêu gọi tạo hoặc chia sẻ deepfake.

Hành vi này khiến các nạn nhân sống trong sợ hãi vì thủ phạm nắm thông tin địa chỉ, nơi làm việc, thậm chí là chi tiết về gia đình họ.

Sau vụ bê bối lớn năm 2020, mạng lưới tội phạm tình dục trên Telegram thu hẹp khi bị điều tra, nhưng lại nở rộ trở lại khi nhà chức trách "lơi tay".

Tất cả các nạn nhân CNN phỏng vấn đều yêu cầu hình phạt nặng hơn. Kim - một nạn nhân đã nhấn mạnh: “Ngăn chặn là quan trọng, nhưng cần xét xử nghiêm khắc các vụ việc xảy ra".

Kim - một giáo viên là nạn nhân của deepfake và thủ phạm chính là một học sinh - Ảnh: CNN

Nền tảng trực tuyến cũng đang chịu áp lực phải hành động

Telegram - nơi chứa nhiều nội dung tội phạm kỹ thuật số - tuyên bố sẽ bắt đầu chia sẻ dữ liệu người dùng với cơ quan chức năng.

Thông báo này được đưa ra sau khi CEO của Telegram, Pavel Durov, bị bắt tại Pháp vào tháng 8 vì lệnh truy nã liên quan đến việc không kiểm soát nội dung bất hợp pháp.

Tháng 9 năm ngoái, cơ quan quản lý truyền thông Hàn Quốc cho biết Telegram đã đồng ý thiết lập đường dây nóng để gỡ bỏ nội dung bất hợp pháp, và đã xóa 148 video liên quan đến tội phạm tình dục số theo yêu cầu.

Dù hoan nghênh động thái này, Won vẫn tỏ ra hoài nghi, cho rằng nếu Telegram không cải thiện nhanh chóng, chính phủ nên xóa ứng dụng khỏi các cửa hàng app.

Tháng 1 năm nay, lần đầu tiên chính quyền Hàn Quốc thành công trong việc thu thập dữ liệu tội phạm từ Telegram.

Cảnh sát Seoul bắt giữ 14 người (gồm 6 người chưa thành niên), cáo buộc khai thác tình dục hơn 200 nạn nhân.

Hơn 70 người khác đang bị điều tra vì sản xuất và chia sẻ nội dung deepfake. Trong khi đó, các nạn nhân chia sẻ với CNN rằng họ mong muốn trong tương lai cảnh sát và tòa án sẽ hỗ trợ nạn nhân nhiều hơn.

Cuối cùng, Ruma nói: “Dù hình phạt có được tăng nặng, vẫn còn quá nhiều nạn nhân đau khổ vì thủ phạm chưa bị bắt. Do đó, bản án hôm nay vẫn chưa thực sự là một sự thay đổi hay công lý. Chúng ta còn cả một chặng đường dài phải đi".

Một trường hợp đáng chú ý là Johnny Somali (SN 2000), một YouTuber người Mỹ, đã bị buộc tội tại Hàn Quốc vì tạo ra một video deepfake khiêu dâm không đồng thuận, trong đó anh ta xuất hiện cùng một nữ streamer Hàn Quốc.

Người này hiện đang đối mặt với nhiều cáo buộc, bao gồm cả tội phạm tình dục và cản trở kinh doanh. Đến tháng 5 năm nay, người này sẽ được tòa án của Hàn Quốc đưa ra xét xử.

Nhật Hạ (Theo CNN)

Nguồn Một Thế Giới : https://1thegioi.vn/con-ac-mong-deepfake-o-han-quoc-khi-hinh-anh-ai-gia-mao-pha-huy-cuoc-doi-that-231978.html