Hàng loạt video bịa đặt ở Thanh Hóa, Nghệ An

4 giờ trướcBài gốc

Không phân biệt nổi thật giả

Thời gian qua, những video là sản phẩm của trí tuệ nhân tạo (AI) ̣ xuất hiện tràn lan trên các nền tảng mạng xã hội. Không dừng lại ở nội dung giải trí đơn thuần, nhiều video dựa trên kịch bản giật gân, câu chuyện không có thật để hút tương tác, gây nhiễu loạn thông tin. Một YouTuber mảng công nghệ khẳng định AI có thể giúp con người tạo ra hàng trăm video mỗi ngày, chỉ với thao tác nhập ý tưởng. Sau một cú click chuột, AI tự động viết kịch bản, lồng tiếng và tìm nguyên liệu là các nguồn video miễn phí rồi cắt ghép lại thành một sản phẩm hoàn chỉnh.

Kỹ thuật tổng hợp mặt người với sự trợ giúp của phần mềm AI (được biết đến với tên gọi deepfake) cũng gây nhiều mối nguy. Nhờ khả năng tạo ra hình ảnh, video, bản ghi âm có tính chân thực và thuyết phục cao, kẻ xấu thường lợi dụng công nghệ này để đánh cắp danh tính. Báo cáo từ McAfee cho thấy trong một số trường hợp, kẻ xấu chỉ cần 3 giây âm thanh của nạn nhân để sao chép giọng nói.

Hình ảnh minh họa cho video vụ án có nội dung rùng rợn bịa đặt lan truyền, hút hàng triệu view trên YouTube.

Nhờ nguồn tài nguyên vô hạn về ý tưởng, video AI thường có nội dung gây sốc để thu hút người xem, điển hình như bịa ra một vụ án chấn động, thông tin bạo lực. Một có tiêu đề mẹ chồng sát hại con dâu được đăng tải trên nhiều kênh YouTube, hút hàng nghìn tới hàng trăm nghìn lượt xem. Dù có cảnh báo “sản phẩm của trí tuệ nhân tạo”, nhiều người vẫn tin vào nội dung video. Những video này không chỉ gây phản cảm mà còn tác động đến cách nhìn nhận của giới trẻ về các vấn đề xã hội, văn hóa.

Một số video câu kéo người xem bằng cách giật tiêu đề về địa phương, ví dụ “Vụ án rúng động xứ Nghệ: Sát hại chồng, dựng kịch hoàn hảo để đến với nhân tình”, Trong video, người thuyết minh nêu rõ xã/phường nơi xảy ra vụ án, kể chi tiết việc nhân chứng gọi tới đường dây nóng của lực lực lượng chức năng. Tên tuổi của những người liên quan cũng được cung cấp cụ thể. Hình ảnh người phụ nữ bị còng tay trong video cũng là giả, nhưng được sắp xếp khớp với nội dung. Ở phần bình luận, nhiều người tin là thật, bày tỏ chia buồn với nạn nhân. Có người cảm thán: “Xã hội nhiều kẻ mất nhân tính, đề nghị cơ quan công an làm sáng tỏ vụ này”. Video tương tự đề cập vụ thảm sát không có thật ở Hải Phòng, hút 99.000 lượt xem chỉ sau một tuần đăng tải.

Video dựa trên kịch bản giật gân, câu chuyện không có thật ở Nghệ An, Thanh Hóa... để hút tương tác, gây nhiễu loạn thông tin tràn lan.

Một video khác do AI tạo ra mới đây cũng gây xôn xao Facebook. Nhân vật trong video là người đàn ông mặc quân ngũ, khóc nức nở vì vợ sinh bốn. Phía dưới, hàng chục nghìn người gửi lời chúc mừng.

Rẻ tiền, nguy hiểm và cần kiểm soát

Chia sẻ với Tiền Phong, ThS. Lê Anh Tú - Giảng viên Khoa Quan hệ Công chúng - Truyền thông, Trường ĐH Kinh tế - Tài chính TPHCM (UEF) - cho rằng đây là biểu hiện của lối làm nội dung rẻ tiền, cần sớm được kiểm soát.

Tình trạng này đang nổi lên như một xu hướng hút view rẻ tiền, tạo sự chú ý bằng những câu chuyện câu khách mà không mang lại bất kỳ giá trị gì. Đây là điều các cơ quan chức năng và truyền thông cần lên tiếng, vì nó không phải hướng đi lành mạnh

ThS. Lê Anh Tú

“Tình trạng này đang nổi lên như một xu hướng hút view rẻ tiền, tạo sự chú ý bằng những câu chuyện câu khách mà không mang lại bất kỳ giá trị gì. Đây là điều các cơ quan chức năng và truyền thông cần lên tiếng, vì nó không phải hướng đi lành mạnh”, ông Tú nhận định.

Theo ông, một số nội dung dù gắn nhãn “giả tưởng” nhưng vẫn dễ khiến người xem lầm tưởng là thật. Điều này cho thấy một lỗ hổng lớn trong quản lý nội dung số hiện nay, đặc biệt là sự phối hợp giữa các cơ quan chức năng và nền tảng mạng xã hội còn chưa hiệu quả.

“Cần có cơ chế phát hiện và gỡ bỏ các nội dung sai lệch ngay từ đầu. Không thể để chúng lan tràn, kéo chất lượng thông tin trên mạng đi xuống và ảnh hưởng tiêu cực đến nhận thức cộng đồng”, ông Tú nhấn mạnh.

Ngoài ra, hiện tượng lan truyền nhanh của những video kiểu này còn có sự tiếp tay của thuật toán nền tảng số. Càng nhiều người tò mò, chia sẻ, video càng được đề xuất nhiều hơn, tạo ra hiệu ứng dây chuyền khó kiểm soát.

Video sử dụng hình ảnh, giọng đọc AI.

“Thuật toán vô hình chung đang tiếp tay cho deepfake và tin giả lan rộng. Nhiều tài khoản đạt đủ điều kiện bật kiếm tiền nên càng có động lực sản xuất nội dung sai sự thật để kiếm lợi”, ông phân tích.

Ông cũng cảnh báo về những hệ lụy sâu xa hơn. Khi người dùng tiếp xúc thường xuyên với thông tin sai lệch, họ dễ bị ảnh hưởng trong tư duy và khả năng nhận định.

“Lúc đầu có thể chỉ hiểu sai về một địa phương. Nhưng về lâu dài, việc liên tục tiếp nhận thông tin thiếu chính xác sẽ khiến người xem không còn khả năng phân biệt thật - giả, từ đó ảnh hưởng tới quyết định trong đời sống. Nhiều nghiên cứu đã chỉ ra xem quá nhiều nội dung rác, vô bổ có thể làm chậm hoạt động não bộ, khiến người ta ra quyết định kém sáng suốt hơn”, ông Tú nói.

Để cân bằng giữa sáng tạo nội dung và kiểm soát tiêu cực, chuyên gia truyền thông cho rằng cần có sự phối hợp chặt chẽ giữa Chính phủ và các công ty công nghệ lớn (Big Tech) nhằm xây dựng bộ lọc và cơ chế kiểm duyệt phù hợp.

“Phải có hệ thống phát hiện từ khóa nhạy cảm, nội dung tiêu cực ngay từ bước đăng tải. Bộ máy hậu kiểm cần được vận hành mạnh hơn, phát hiện, cảnh báo, thậm chí xử phạt các tài khoản vi phạm. Không thể để hiện tượng này trôi nổi vì nó không chỉ gây hại cho hình ảnh địa phương mà còn có thể dẫn tới hậu quả chính trị nghiêm trọng nếu thông tin sai lệch bị lan truyền rộng rãi”, ông Tú đề xuất.

Ai cũng có thể là nạn nhân của AI

Video do AI tạo ra ồ ạt xuất hiện, gây hiểu lầm và lan truyền thông tin sai lệch. Nhiều nghệ sĩ như Lý Hải, Quốc Trường, Đan Trường bị cắt ghép hình ảnh, giọng nói để quảng cáo cho vay nặng lãi. Tai nạn lật tàu ở Quảng Ninh tháng 7 cũng kéo theo loạt video giả cảm động nhằm câu view. Một clip khác ghi cảnh “người lính khóc vì vợ sinh tư” thu hút hàng chục nghìn bình luận, dù hoàn toàn hư cấu. Theo báo cáo rủi ro toàn cầu 2024 của WEF, tin giả do AI tạo là mối đe dọa lớn thứ hai thế giới, chỉ sau thời tiết cực đoan.

Hà Trang - Ngọc Ánh

Nguồn Tiền Phong : https://tienphong.vn/hang-loat-video-bia-dat-o-thanh-hoa-nghe-an-post1767631.tpo