Video nghi AI giả người khuyết tật bán hàng gây bức xúc

4 giờ trướcBài gốc

Tài khoản dùng AI giả mạo người bán hàng. Ảnh: TikTok.

Với sự xuất hiện của hàng loạt công cụ AI tạo sinh tiên tiến thời gian qua, việc dựng ảnh, video trở nên đơn giản hơn rất nhiều bằng vài câu lệnh. Tuy nhiên, khả năng phân biệt thật giả của người dùng mạng chưa theo kịp độ phát triển ấy, và bị một số đối tượng lợi dụng để kiếm lời.

Gần đây, mạng xã hội lan truyền tài khoản TikTok đăng hàng loạt video về một người phụ nữ bị cụt hai tay, phải bán hàng để nuôi con nhỏ. Trong các clip, người này mặc quần áo đơn giản, nói những lời thương cảm để giới thiệu sản phẩm như khăn giấy, nước tẩy rửa.

Theo ghi nhận, người phụ nữ chia sẻ hoàn cảnh chồng mất sớm do tai nạn, phải một mình nuôi con nhỏ, nhưng câu chuyện không đồng nhất qua các video. Tài khoản nhận về hơn hàng triệu lượt xem và tương tác, tăng 100.000 theo dõi trong 3 ngày lập kênh. Nhiều người bày tỏ sự cảm thông, kêu gọi ủng hộ và thậm chí đặt sản phẩm để giúp đỡ.

Người dùng tiếp tục phát hiện các tài khoản có nội dung tương tự. Điểm chung của các kênh này đều là trang cá nhân mới lập, không có lịch sử tương tác thực tế, thường chia sẻ nội dung cảm động quá mức.

Những kênh này thường mới lập, không có tiểu sử rõ ràng.

Tuy nhiên, sau một thời gian cư dân mạng đồng loạt nhận thấy điều bất thường, cũng như không mạch lạc qua từng video. Ví dụ như cánh tay cụt của người phụ nữ trông rất nhẵn nhụi, màu sơn tường nhà khác nhau hay đứa bé nằm im bất thường. Lý do vì toàn bộ các clip đều do AI tạo ra để đánh lừa người khác.

Đáng nói là, những bình luận cảnh báo hay bóc trần đều bị chủ tài khoản ẩn hay xóa đi mất. Nhiều người cảm thấy bị xúc phạm khi bị lừa dối, cũng như bức xúc về hành vi trục lợi trên chính sự thương cảm của người dân.

Ngoài ra, các video giả này cũng gây ảnh hưởng đến chính chủ, và người tàn tật khác đang mưu sinh trên cùng nền tảng. Chị Trần Thị Nga (36 tuổi) ở Phú Thọ, chủ kênh Nga Tích Cực đã phải liên tục lên tiếng rằng bản thân bị cụt tay thật.

Cuối năm 2024, người này bị mắc viêm cơ tim cấp do vi rút và buộc phải phẫu thuật cắt bỏ toàn bộ tay chân, bắt đầu lại cuộc sống với sự yêu thương của gia đình. Trong livestream gần đây, chị bày tỏ sự buồn bã vì bị hoài nghi, buông lời cay nghiệt.

Những kênh mới lập này cũng rất nhanh đã sở hữu lượt theo dõi cao, gây khó phân biệt hơn. Một tài khoản có nội dung tương tự khác có tên N. L. S. đã tăng gần 50.000 theo dõi chỉ sau một video.

Người dùng bày tỏ sự bức xúc, mất niềm tin khi bị lừa.

Do đó, không thể trách cộng đồng mạng dần mất niềm tin vào những gì họ xem, từ đó không còn thiết tha với người thật sự cần giúp đỡ. Một bình luận cho rằng đáng bị lên án là những người sử dụng công nghệ AI để trục lợi cảm xúc cộng đồng.

Các thủ đoạn lừa đảo qua không gian mạng ngày càng tinh vi, nhắm đến đối tượng ít tiếp xúc hoặc người lớn tuổi. Đa phần chủ tài khoản sử dụng hình ảnh của người đang chịu tình trạng thương tổn, như nhập viện, khuyết tật, sau đó gắn giỏ hàng hoặc để số tài khoản để kêu gọi ủng hộ.

Trước đó, tờ CNBC đã phát hiện hơn 30 tài khoản Instagram, YouTube, TikTok dùng AI giả mạo người bị hội chứng Down. Những đối tượng sử dụng câu chuyện thương tâm để thu hút người theo dõi và kêu gọi gây quỹ cho cộng đồng nhưng thực chất chiếm dụng cho bản thân.

Vụ việc trên cảnh báo về khả năng tái tạo nội dung giống thật của AI bị đối tượng xấu lợi dụng. Khi công nghệ phát triển nhanh chóng, người dùng cần phổ cập, cũng như giúp đỡ người thân xung quanh để không trở thành nạn nhân cho những trò lừa đảo qua mạng.

Nhật Tường

Nguồn Znews : https://znews.vn/video-nghi-ai-gia-nguoi-khuyet-tat-ban-hang-gay-buc-xuc-post1598306.html