Từ vụ dùng AI sản xuất 415 video kinh dị: Hệ lụy ma trận tin độc hại trên mạng

2 giờ trướcBài gốc

Ngày 2-4, Phòng Cảnh sát hình sự Công an tỉnh Lâm Đồng cho biết đã làm việc với NTK (33 tuổi, ngụ TP Hải Phòng) về hành vi sử dụng AI sản xuất 415 video mang tính chất kinh dị trên kênh YouTube có tên "Ký Sự Bí Mật".

Để thu hút sự tò mò và "câu" tương tác, người này đã dựng những kịch bản không tưởng, nhuốm màu bạo lực và chết chóc gắn liền với địa danh Đà Lạt. Các video đã thu hút hơn 10 triệu lượt xem và hơn 113.000 người đăng ký theo dõi kênh.

Thông tin trên khiến nhiều bạn đọc hoang mang, lo ngại về mức độ lan truyền của nội dung sai lệch trên không gian mạng.

Cần bảo vệ hình ảnh địa phương trên không gian số

Ông Nguyễn Minh Tuấn (phường Long Hưng, Đồng Nai) cho rằng vấn đề không đơn thuần là nội dung ‘giật gân’ mà là sự đánh tráo ranh giới giữa thật và giả bằng công nghệ AI. Khi một kênh có thể tạo ra hàng trăm video xuyên tạc, thu hút hàng triệu lượt xem, thì rõ ràng đã có sự trục lợi từ nỗi sợ hãi của cộng đồng. Nếu không xử lý nghiêm, sẽ tạo tiền lệ rất xấu, khiến những người khác tiếp tục khai thác mô hình này.

“Theo tôi, cần nhìn nhận đây là một dạng hành vi phát tán thông tin độc hại có chủ đích, phải xử lý đủ sức răn đe và truy đến cùng lợi ích mà người vi phạm thu được” - ông Tuấn nói.

Nghiêm cấm sử dụng sử dụng AI nhằm giả mạo hoặc mô phỏng người, sự kiện thật để lừa dối hoặc thao túng nhận thức, hành vi của con người một cách có chủ đích và có hệ thống, gây tổn hại nghiêm trọng đến quyền, lợi ích hợp pháp của con người.

Điều 7 Luật Trí tuệ nhân tạo

Bà Trần Ngọc Hân (phường Xuân Hương, Lâm Đồng) chia sẻ rằng bà và nhiều người sinh sống tại đây người dân địa phương đã rất hoang mang cách các video này ‘đóng đinh’ hình ảnh Đà Lạt với những câu chuyện rùng rợn, bịa đặt.

"Đà Lạt xưa nay là điểm đến an toàn, yên bình, ai cũng biết. Tuy nhiên, chúng tôi lo ngại rằng nếu những thông tin này tiếp tục lan rộng thì lâu dần sẽ làm méo mó hình ảnh trong mắt du khách, đặc biệt là những người chưa từng đến. Do đó, tôi cho rằng những nội dung sai lệch liên quan đến địa danh phải gỡ được bỏ ngay, cải chính kịp thời để thông tin sai lệch không ‘tồn tại đủ lâu’ đến mức gây hậu quả" - bà Hân nói.

Tương tự, anh Lê Quốc Khánh (phường Cầu Kiệu, TP.HCM) cho biết con anh từng xem một video kinh dị trên mạng rồi hỏi: “Nếu con ở một mình thì có bị như vậy không cha?”. Câu hỏi tưởng chừng đơn giản nhưng lại khiến anh giật mình, bởi con đã tin vào những gì mình vừa xem.

Từ đó, bé bắt đầu sợ ở trong phòng riêng, không dám tắt đèn khi ngủ, thậm chí không dám đi vệ sinh một mình vào ban đêm.

Theo anh Khánh, chỉ từ một video, nỗi sợ đã trở nên rất cụ thể và đeo bám vào thói quen sinh hoạt hằng ngày. Điều đáng lo là trẻ nhỏ dễ tin đó là thật, trong khi những nội dung như vậy ngày càng được dựng tinh vi và lan truyền rộng rãi.

Cơ quan chức năng làm việc với NTK vì đã sử dụng AI sản xuất 415 video mang tính chất kinh dị trên kênh YouTube có tên "Ký Sự Bí Mật".

Nguy cơ bóp méo nhận thức người xem

Bạn đọc Trần Đăng Khoa (phường Hiệp Bình, TP.HCM) bày tỏ việc lạm dụng AI để sản xuất hàng loạt video kinh dị, sai sự thật không chỉ phản ánh xu hướng “giải trí lệch chuẩn” mà còn trực tiếp tác động đến nhận thức người xem. Các nội dung bịa đặt thường khai thác mạnh yếu tố tò mò, rùng rợn và nỗi sợ, để giữ chân người xem, gia tăng tương tác.

Khi tiếp nhận liên tục những nội dung như vậy, người xem, đặc biệt là giới trẻ, dễ rơi vào trạng thái chai lì cảm xúc, xem bạo lực và cái chết như một dạng tiêu khiển. Nguy hiểm hơn, việc gắn các câu chuyện hư cấu với địa danh có thật khiến ranh giới giữa thực và ảo bị xóa nhòa, tạo ra những nhận thức sai lệch.

Với nhóm người dùng trẻ, vốn có thời gian sử dụng mạng cao nhưng kỹ năng kiểm chứng còn hạn chế thì nguy cơ tin vào những sự kiện chưa từng tồn tại là rất lớn. Về lâu dài, điều này làm suy giảm năng lực tư duy phản biện, hình thành thói quen tiếp nhận thông tin theo cảm xúc thay vì lý trí.

Nếu không được kiểm soát, các nội dung do AI tạo ra sẽ không dừng ở mức “câu view” đơn lẻ mà có thể phát triển thành làn sóng tin giả quy mô lớn. Khác với cách làm truyền thống, AI cho phép sản xuất nội dung nhanh, chi phí thấp và khó truy vết, khiến chỉ một cá nhân cũng có thể tạo ra hàng trăm, thậm chí hàng nghìn sản phẩm sai lệch.

Người dùng cần trang bị gì để bảo vệ bản thân và xã hội?

Trước nguy cơ nội dung xấu, độc tấn công dồn dập, dần dà tiêm nhiễm người dùng mạng xã hội, gây nhiều hệ lụy khó lường, các chuyên gia an ninh mạng cảnh báo người dùng cần tỉnh táo trước các dấu hiệu bất thường của các video như nội dung có tiêu đề giật gân, chi tiết cực đoan hoặc dù gắn với địa danh thật nhưng thiếu nguồn kiểm chứng.

Tiếp đến là trang bị kỹ năng kiểm chứng thông tin: đối chiếu với báo chí chính thống, nguồn tin uy tín hoặc tìm kiếm chéo trước khi tin và chia sẻ; không lan truyền thông tin chưa xác minh.

Cuối cùng là rèn luyện kỹ năng quản lý cảm xúc bởi phần lớn nội dung sai lệch lan truyền mạnh vì đánh trúng phản ứng tức thời. Do đó, người dùng cần “làm chậm” phản ứng sau khi tiếp nhận, không vội tin, không vội chia sẻ, nhất là với những thông tin gây sợ hãi hoặc kích động.

ThS NGUYỄN THÀNH ĐẠT, giảng viên Trường Đại học Văn Hiến

THẢO HIỀN

Nguồn PLO : https://plo.vn/tu-vu-dung-ai-san-xuat-415-video-kinh-di-he-luy-ma-tran-tin-doc-hai-tren-mang-post902406.html