Xuất hiện hình thức 'Bắt nạt học đường' bằng công nghệ AI tại các trường học Mỹ

5 giờ trướcBài gốc

Các thanh thiếu niên sử dụng AI để tạo ra những hình ảnh khiêu dâm giả mạo rất giống thật của bạn học của mình rồi chia sẻ chúng. Hình thức bắt nạt học đường mới này gây chấn động trong các trường học và khiến các chuyên gia giáo dục “đau đầu”, theo New York Post.

Theo đó, "người bắt nạt" sử dụng công cụ hỗ trợ AI, thường được gọi là ứng dụng “nudify”, nghe có vẻ “đáng sợ” như tên gọi của chúng. Chỉ cần một bức ảnh chân dung - thường là lấy từ ảnh trong sổ kỷ yếu hoặc hồ sơ mạng xã hội - các ứng dụng này có thể tạo ra những hình ảnh deepfake khiêu dâm trông giống thật. Và điều này đã và đang xảy ra trong các trường học ở Mỹ, New York Post cho biết.

“Chúng ta đang ở một nơi mà bạn có thể không làm gì cả nhưng câu chuyện cũng như hình ảnh về bạn được đăng tải lên mạng,” Don Austin, Giám đốc Học khu Thống nhất Palo Alto, chia sẻ với Fox News Digital. “Những hình ảnh giả mạo đã được tạo ra, chúng hoàn toàn là sản phẩm của AI và có giọng nói hoặc khuôn mặt của bạn. Đó là một thế giới khác”. Đây là một cuộc khủng hoảng kỹ thuật số thực sự.

Các ứng dụng AI "nudify" đang thúc đẩy một xu hướng đáng lo ngại ở thanh thiếu niên: tạo ra những hình ảnh khỏa thân giả mạo của các bạn cùng lớp và phát tán chúng...

Vào mùa hè năm ngoái, Văn phòng Luật sư Thành phố San Francisco của Mỹ đã kiện 16 trang web nudify vì những cáo buộc vi phạm luật về bóc lột trẻ em và hình ảnh không đồng thuận. Các trang web này đã thu hút hơn 200 triệu lượt truy cập trong nửa đầu năm 2023. Tuy nhiên, việc bắt giữ các công ty công nghệ đứng sau những công cụ này lại giống như chơi trò chơi. Hầu hết họ đã vượt qua các luật hiện hành của các bang, mặc dù một số bang - như Minnesota - đang cố gắng thông qua luật để buộc các công ty phải chịu trách nhiệm về những hậu quả đã gây ra. Dù vậy, công nghệ phát triển nhanh hơn pháp luật - và trẻ em đang bị "mắc kẹt" trong cuộc chiến này.

Josh Ochs, người sáng lập SmartSocial - một tổ chức huấn luyện về an toàn trực tuyến cho gia đình chia sẻ với Fox News Digital rằng ảnh khiêu dâm giả mạo được tạo ra bằng AI đang gây “tổn hại nghiêm trọng” cho các thiếu niên trên khắp đất nước. “Đám trẻ sẽ tải lên một bức ảnh chân dung của một đứa trẻ khác ở trường và ứng dụng sẽ tái tạo cơ thể của người đó hệt như họ đang khỏa thân,” Ochs nói với Fox News Digital.

“Điều này gây tổn hại nghiêm trọng cho đứa trẻ có mặt trong bức ảnh, đặc biệt là bạn bè và cả gia đình em,” ông lưu ý. Ông cho rằng các bậc phụ huynh cần quan tâm đến cuộc sống kỹ thuật số của con cái mình - và bắt đầu thiết lập các giới hạn. “Trước khi bạn đưa điện thoại hay cho con và để tiếp cận với mạng xã hội cần phải có cuộc trò chuyện và nên thường xuyên”, Ochs nói.

Xu hướng deepfake đang tạo ra một cuộc khủng hoảng kỹ thuật số

Vào tháng 2, Thượng viện Mỹ đã thông qua một dự luật để hình sự hóa việc đăng tải - hoặc thậm chí đe dọa đăng tải - deepfake có nội dung khiêu dâm không có sự đồng thuận.

Dự luật hiện đang chờ các hành động tiếp theo. Và trong khi chờ, Austin nói rằng cách tốt nhất là tiếp tục nói chuyện - với phụ huynh, giáo viên, học sinh, và bất kỳ những ai sẵn sàng lắng nghe.

“Tình trạng bắt nạt học đường bằng deepfake sẽ không biến mất, chúng đang phát triển và phát triển rất nhanh”, ông cảnh báo.

Phong Anh

Nguồn Một Thế Giới : https://1thegioi.vn/xuat-hien-hinh-thuc-bat-nat-hoc-duong-bang-cong-nghe-ai-tai-cac-truong-hoc-my-232037.html