Báo động vấn nạn AI đang khuếch đại bạo lực nhằm vào phụ nữ

6 giờ trướcBài gốc

Bạo lực do AI gây ra là gì?

Theo Cơ quan Liên hợp quốc về Bình đẳng giới và Trao quyền cho Phụ nữ (UN Women), bạo lực do AI gây ra đối với phụ nữ là các hành vi lạm dụng kỹ thuật số do công nghệ trí tuệ nhân tạo (AI) tạo ra và phát tán, gây tổn hại về thể chất, tình dục, tâm lý, xã hội, chính trị hoặc kinh tế, hoặc các xâm phạm khác đối với quyền và tự do của phụ nữ.

Một báo cáo toàn cầu của UN Women công bố ngày 18/11 cho biết, 16-58% phụ nữ trên toàn thế giới bị ảnh hưởng bởi bạo lực do công nghệ. Trong đó, 38% phụ nữ từng trải qua bạo lực trực tuyến, và 85% phụ nữ được khảo sát cho biết, họ đã chứng kiến bạo lực kỹ thuật số nhắm vào người khác.

Bạo lực trực tuyến đối với phụ nữ đang được khuếch đại nhanh hơn và phức tạp hơn nhờ AI. Ảnh: UN.

“Những gì diễn ra trên mạng dễ dàng lan sang đời thực và leo thang”, báo cáo của UN Women nêu rõ. “Các công cụ AI nhắm vào phụ nữ, tạo điều kiện cho việc tiếp cận, tống tiền, theo dõi, đe dọa và quấy rối với những hậu quả đáng kể trong đời thực - về thể chất, tâm lý, nghề nghiệp và tài chính”. Nhà hoạt động nữ quyền Laura Bates và chuyên gia chính sách AI và công nghệ của UN Women Paola Gálvez-Callirgos đều chung một nhận định rằng, quy mô, tốc độ, tính ẩn danh và sự dễ dàng giao tiếp trong không gian kỹ thuật số tạo ra một bối cảnh thuận lợi cho loại bạo lực này.

Thủ phạm cảm thấy chúng có thể thoát tội, còn nạn nhân thường không biết liệu họ có thể được giúp đỡ hay không và bằng cách nào, khi hệ thống pháp luật đang phải nỗ lực để bắt kịp những thay đổi nhanh chóng của công nghệ. Quan trọng hơn, chấn thương tâm lý mà họ phải gánh chịu sẽ rất lâu dài, do hầu hết những ký ức về bạo lực nhằm vào họ vẫn tồn tại dai dẳng trên mạng.

Vì thế, bà Bates cho rằng, cách tốt nhất để giải quyết rủi ro lạm dụng kỹ thuật số và AI là “nhận thức được sự phân chia trực tuyến - ngoại tuyến chỉ là ảo tưởng”. Bà nhấn mạnh: “Kẻ bạo hành gia đình sử dụng các công cụ trực tuyến để theo dõi hoặc rình rập nạn nhân, các video khiêu dâm giả mạo khiến nạn nhân mất việc hoặc mất quyền gặp con cái, bạo hành trực tuyến dẫn đến việc bị chế giễu ngoài đời khiến các cô gái phải bỏ học…, có quá nhiều ví dụ cho thấy việc bạo hành kỹ thuật số dễ dàng và nguy hiểm như thế nào khi xâm nhập vào đời thực”.

AI đang tạo ra nhiều hình thức bạo lực mới với phụ nữ

Theo UN Women, AI không chỉ tạo ra những hình thức lạm dụng hoàn toàn mới, mà còn khuếch đại mạnh mẽ các hình thức bạo lực vốn đã tồn tại trước đây. Quy mô lan truyền lớn và khả năng khó bị phát hiện của AI khiến mức độ gây hại nghiêm trọng hơn nhiều so với các dạng bạo lực trên môi trường số trước kia. Và, hiện có rất nhiều hình thức lạm dụng phụ nữ mới do AI hỗ trợ. Đầu tiên có thể kể đến việc lạm dụng hình ảnh thông qua deepfake. Theo nghiên cứu của UN Women, 90 - 95% nội dung deepfake (hình ảnh hoặc video được tạo bằng AI, ghép mặt một người vào bối cảnh mà họ chưa từng xuất hiện) trên mạng là hình ảnh khiêu dâm được tạo ra mà không có sự đồng thuận của nạn nhân, và khoảng 90% số đó mô tả phụ nữ. Tổng số video deepfake trên mạng năm 2023 đã tăng 550% so với năm 2019. Nội dung khiêu dâm chiếm 98% toàn bộ video deepfake, và 99% nạn nhân bị nhắm tới là phụ nữ.

Mạo danh và tống tiền cũng phát tác nhờ AI. Các công cụ AI cho phép tạo ra những “phiên bản ảo” giống người thật đến mức có thể trò chuyện tự động với phụ nữ và trẻ em gái, khiến họ không biết rằng mình đang tương tác với một bot AI. Các chiêu trò “catfishing” - dùng danh tính giả để lừa tình, lừa tiền trên mạng - nay được mở rộng dễ dàng hơn vì các bot AI có thể học cách bắt chước phong cách nói chuyện của con người, tạo cảm giác tin cậy thật. Điều này đặt phụ nữ và trẻ em gái vào nguy cơ bị dụ dỗ tiết lộ thông tin riêng tư, gửi hình ảnh nhạy cảm hoặc thậm chí bị lôi kéo gặp mặt ngoài đời - từ đó dẫn đến tống tiền tình dục hoặc các hình thức bạo lực khác. Các chiến dịch doxing cũng tinh vi hơn. Các công cụ xử lý ngôn ngữ tự nhiên (NLP) có thể quét nội dung mà phụ nữ đăng tải - chẳng hạn các bài viết về quấy rối tình dục hoặc tố cáo thái độ thù ghét phụ nữ - và xác định họ như những mục tiêu dễ bị tấn công.

Tệ hơn, AI có thể được sử dụng để soạn ra các thông điệp đe dọa mang tính cá nhân hóa, dựa trên chính dữ liệu và lời nói của nạn nhân. Điều này khiến các vụ tấn công tâm lý trở nên dai dẳng và khó chống đỡ hơn, khi phụ nữ phải đối mặt với loạt tin nhắn thù địch, xúc phạm, đe dọa hoặc bôi nhọ được “đo ni đóng giày” nhằm vào từng người.

Phụ nữ là đối tượng dễ bị tổn thương nhất trước những tác hại từ mặt tối của cuộc cách mạng số. Đồ họa: Free Press.

Tại sao phụ nữ lại trở thành mục tiêu hàng đầu?

Theo nhà hoạt động nữ quyền Laura Bates, một trong những nguyên nhân deepfake đang ngày càng nhắm vào phụ nữ một cách tràn lan bắt nguồn từ sự kỳ thị phụ nữ. “Đây là một vấn đề mang tính giới tính áp đảo, và những gì chúng ta đang thấy là một biểu hiện kỹ thuật số của một sự thật ngoại tuyến lớn hơn: đàn ông nhắm vào phụ nữ để gây ra bạo lực và lạm dụng giới tính”, bà Bates nói. Nguyên nhân còn lại nằm ở cách các công cụ AI tạo điều kiện cho hành vi lạm dụng đó. Công nghệ AI đã khiến việc tạo và đăng tải deepfake trở nên dễ dàng đến mức người dùng không cần nhiều kiến thức kỹ thuật.

Trong bối cảnh đó, tình trạng “sextortion” (tống tiền tình dục) dựa trên deepfake - tức là phát tán hình ảnh nhạy cảm giả mạo của phụ nữ lên các trang web khiêu dâm để quấy rối họ - đang trở thành một mối lo ngày càng lớn. Một khi hình ảnh deepfake khiêu dâm được đăng lên mạng, chúng có thể bị sao chép vô số lần, chia sẻ rộng rãi và lưu trữ trong các thiết bị cá nhân, khiến việc truy vết và gỡ bỏ gần như bất khả thi.

Thế giới cần thay đổi để bảo vệ phái yếu

Ảnh hưởng của bạo lực trực tuyến đối với phụ nữ không chỉ là những tổn thương cá nhân họ phải gánh chịu. Theo Tổ chức Giáo dục, Khoa học và Văn hóa của Liên hợp quốc (UNESCO), tác hại còn sâu rộng tới cả sự phát triển của phụ nữ trên không gian số. “Nhiều phụ nữ cho biết họ cảm thấy không an toàn ngay cả khi tham gia các hoạt động xã hội hoặc chuyên môn trực tuyến. Điều này rất ảnh hưởng đến khả năng phát triển của họ trong môi trường kỹ thuật số”, UNESCO nêu rõ trong bài đăng nhân Ngày Quốc tế xóa bỏ bạo lực với phụ nữ (25/11).

Trong khi đó, theo dữ liệu của Ngân hàng Thế giới, hiện chưa đến 40% quốc gia có luật bảo vệ phụ nữ khỏi quấy rối hoặc theo dõi trên mạng, khiến 44% phụ nữ và trẻ em gái trên thế giới - khoảng 1,8 tỷ người - không được tiếp cận với sự bảo vệ pháp lý.

Hiện tại, một số quốc gia đang bắt đầu cập nhật luật pháp để đối phó với các hình thức bạo lực mới, dù các nỗ lực này vẫn phải vật lộn để bắt kịp với tốc độ phát triển của AI tạo sinh. Chẳng hạn, “Đạo luật An toàn Trực tuyến” của Anh cấm chia sẻ hình ảnh hoặc video khiêu dâm đã bị chỉnh sửa kỹ thuật số nhưng luật này vẫn chưa ngăn được việc tạo deepfake khiêu dâm, hoặc chia sẻ chúng nếu bị hại không thể chứng minh rằng các sản phẩm này có ý định gây tổn thương cho họ.

“Đạo luật AI” của Liên minh châu Âu thúc đẩy tính minh bạch, yêu cầu người tạo deepfake phải thông báo với công chúng rằng nội dung là giả mạo, đồng thời các nhà cung cấp công cụ AI đa năng phải gắn nhãn cho nội dung do AI tạo ra. Thế nhưng, ngay cả khi được dán nhãn, những sản phẩm deepfake này vẫn có thể gây ra những tổn thương không nhỏ cho nạn nhân nếu bị phát tán rộng rãi.

Vì thế, cuộc chiến chống lại cái ác trực tuyến nhằm vào phụ nữ vẫn còn rất nhiều thách thức. Theo bà Paola Galvez-Callirgos, chuyên gia về chính sách và quản trị công nghệ AI của UN Women, điều quan trọng nhất là phải có một cơ chế hợp tác toàn cầu và bổ sung những quy định theo ngành, chẳng hạn yêu cầu tất cả công cụ AI phải đạt tiêu chuẩn an toàn và đạo đức trước khi được triển khai. Chung quan điểm, nhà hoạt động nữ quyền Laura Bates cho rằng, các nền tảng công nghệ tạo ra và hưởng lợi từ công cụ AI cũng phải chịu trách nhiệm giải quyết vấn nạn này.

Dưới cái nhìn nhân văn mà UN Women đang đề cập, cuộc chiến với bạo lực AI không chỉ là vấn đề công nghệ, mà là phép thử cho cách các xã hội bảo vệ phụ nữ trong kỷ nguyên số. Khi AI đang tăng tốc chóng mặt, luật pháp cũng như các nền tảng công nghệ và hợp tác toàn cầu phải đi nhanh hơn nữa để bảo vệ phụ nữ - những người dễ bị tổn thương nhất từ mặt tối của cuộc cách mạng số.

Quang Anh

Nguồn ANTG : https://antg.cand.com.vn/su-kien-binh-luan-antg/bao-dong-van-nan-ai-dang-khuech-dai-bao-luc-nham-vao-phu-nu--i791065/