Dùng AI tạo ảnh khỏa thân giả của bạn học: Hình thức bắt nạt mới hay sự 'trượt dốc' đạo đức thời công nghệ?

8 giờ trướcBài gốc

Không cần kỹ thuật cao siêu, chỉ với một bức ảnh chân dung, thường lấy từ kỷ yếu trường học hoặc tài khoản mạng xã hội, các ứng dụng AI gọi là “nudify” (tạm dịch: “tự động cởi đồ”) có thể tạo ra những hình ảnh khiêu dâm trông như thật, đến mức khó phân biệt thật giả.

“Giờ đây, bạn có thể chẳng làm gì cả, nhưng vẫn thấy hình ảnh và câu chuyện về chính mình bị tung lên mạng. Chúng hoàn toàn bịa đặt bằng AI, có thể là khuôn mặt, giọng nói của bạn — một thế giới hoàn toàn mới,” ông Don Austin, giám đốc Sở Giáo dục Quận Palo Alto, chia sẻ với Fox News Digital.

Vào mùa hè năm ngoái, Văn phòng Luật sư thành phố San Francisco đã kiện 16 trang web “nudify” với cáo buộc vi phạm luật bảo vệ trẻ em và phát tán hình ảnh phi pháp. Tuy nhiên, những trang này đã thu hút hơn 200 triệu lượt truy cập chỉ trong 6 tháng đầu năm 2023.

Việc truy vết các công ty công nghệ đứng sau những công cụ này bị ví như “trò chơi đập chuột”, chúng liên tục thay đổi tên miền, nền tảng và trốn tránh pháp lý. Luật pháp các bang vẫn còn chạy sau công nghệ. Chỉ một vài bang như Minnesota đang cố gắng đề xuất luật buộc các nền tảng chịu trách nhiệm về hành vi phát tán nội dung giả mạo không đồng thuận.

Ảnh minh họa: Getty.

“Công nghệ đang vượt mặt luật pháp, và chính học sinh là người phải gánh hậu quả", ông Josh Ochs, người sáng lập tổ chức SmartSocial chuyên đào tạo an toàn mạng cho học sinh và gia đình, cảnh báo.

Ochs cho biết việc tạo ảnh khỏa thân giả bằng AI đã gây ra “tổn thương nghiêm trọng” cho nhiều học sinh. “Chỉ cần một bức ảnh chân dung, ứng dụng sẽ dựng lại cơ thể giống như thật. Điều đó không chỉ hủy hoại người trong ảnh, mà còn ảnh hưởng tới bạn bè và cả gia đình các em,” ông nói.

Bên cạnh đó, nhiều bậc phụ huynh vẫn còn quá nhẹ tay khi kiểm soát đời sống số của con trẻ. “Trước khi đưa điện thoại hay tạo tài khoản mạng xã hội cho con, hãy thẳng thắn nói rõ: đây là thiết bị cha mẹ cho mượn, và có thể thu lại bất cứ lúc nào. Bởi chỉ cần một hành động sai, con có thể làm tổn thương cả gia đình,” ông khuyên.

Ở cấp quốc gia, Thượng viện Mỹ hồi tháng 2 đã nhất trí thông qua dự luật hình sự hóa việc phát tán hoặc đe dọa phát tán nội dung deepfake khiêu dâm không có sự đồng thuận. Tuy nhiên, luật vẫn đang chờ các bước tiếp theo để chính thức có hiệu lực.

Trong khi đó, tại các trường học, giới chức giáo dục kêu gọi sự vào cuộc đồng bộ từ nhiều phía: phụ huynh, giáo viên, học sinh và cả cộng đồng.

“Vấn đề này sẽ không biến mất. Nó đang phát triển và nhanh hơn bất kỳ ai có thể tưởng tượng,” ông Austin cảnh báo.

Tác động của những bức ảnh deepfake không dừng lại ở cú sốc ban đầu. Nạn nhân có thể rơi vào trạng thái lo âu kéo dài, trầm cảm, sợ hãi đám đông, né tránh trường lớp và thậm chí là tự cô lập hoàn toàn khỏi xã hội. Trong nhiều trường hợp, đó là điểm khởi đầu của một vết nứt tâm lý khó lành, kéo theo sự sụp đổ thầm lặng của cả một giai đoạn tuổi trẻ.

Điều đáng sợ hơn cả là: nạn nhân không cần phải làm gì sai, không cần hành động thiếu suy nghĩ, thậm chí chỉ cần… xuất hiện trong trường học, hoặc đăng một bức ảnh lên mạng, và thế là đủ để trở thành mục tiêu.

Các chuyên gia cho rằng, vấn đề không nằm ở công nghệ, mà nằm ở bàn tay con người điều khiển công nghệ ấy. Khi một cú click chuột có thể biến người vô tội thành trò tiêu khiển, thì thứ đang bị đe dọa không chỉ là quyền riêng tư, mà là cả khái niệm nhân phẩm trong thời đại số.

Ngọc Bảo (Theo NYPost)

Nguồn Góc nhìn pháp lý : https://gocnhinphaply.nguoiduatin.vn/dung-ai-tao-anh-khoa-than-gia-cua-ban-hoc-hinh-thuc-bat-nat-moi-hay-su-truot-doc-dao-duc-thoi-cong-nghe-14617.html