Thêu dệt tin giả trong chớp mắt

19 giờ trướcBài gốc

Tốc độ sản xuất tin giả chóng mặt

Vài năm gần đây hiện tượng sử dụng AI bịa đặt lan truyền tin giả xuất hiện dày đặc và tốc độ phát tán nhanh, gây ra không ít hoang mang.

Hồi tháng 7, mạng xã hội lan truyền loạt ảnh “bắt trend” ghép cảnh bị CSGT xử phạt khi đứng cạnh siêu xe giữa phố. Hình ảnh do AI tạo ra nhưng được dàn dựng chân thực đến mức nhiều người tưởng thật, gây hiểu lầm và phản cảm. Công an Hà Nội đã xử phạt 7,5 triệu đồng người đăng tải nội dung sai sự thật này theo Điều 101 Nghị định 15/2020.

Hình ảnh ghép cảnh bị CSGT xử phạt do AI tạo nên.

Sau vụ lật tàu Vịnh Xanh, Facebook xuất hiện nhiều bài viết bịa đặt kèm ảnh AI, dùng giọng văn bi thương để câu view. Một số hình có dòng chữ “tình tiết hư cấu” in mờ, dễ bị bỏ qua, khiến người đọc tưởng thật và tin vào câu chuyện thêu dệt.

Công an xã Tân An, Nghệ An phát hiện tài khoản Phạm Bình đăng video AI bịa đặt về “cơ sở lấy xương người nấu cao, chế thuốc trường sinh” tại một tỉnh phía Bắc. Thông tin sai sự thật này gây hoang mang dư luận và đang được cơ quan chức năng xử lý. Bên cạnh đó, trên YouTube đang tràn lan những nội dung bịa đặt tương tự về các vụ án do AI viết kịch bản, gắn với tên tỉnh thành như Hải Phòng, Thanh Hóa, Nghệ An… hút hàng triệu lượt xem.

Tại Trung Quốc, tin giả do AI nhiễu loạn cũng đang hoành hành. Cảnh sát đã bắt nhóm đối tượng dùng AI tạo nội dung giả, phát hiện vận hành 114 tài khoản, chỉ trong 6 ngày tung 268 bài, nhiều bài vượt 1 triệu lượt đọc.

Một báo cáo tháng 4/2024 của Trung tâm Nghiên cứu Truyền thông, Trường Báo chí và Truyền thông, Đại học Thanh Hoa cho thấy trong hai năm qua, tin giả AI liên quan đến kinh tế và doanh nghiệp chiếm tỷ lệ cao nhất, chiếm 43,71%. Riêng năm 2024, lượng tin giả AI dạng này tăng gần gấp đôi (99,91%), đặc biệt trong ngành giao đồ ăn, chuyển phát nhanh.

Hình ảnh được cắt từ video được tạo ra bởi AI.

Một số phần mềm AI phổ biến chỉ cần nhập từ khóa, vài giây sau đã có bản tin hoàn chỉnh, từ diễn biến chi tiết, ý kiến bình luận, tới phương án xử lý. Người dùng thêm thời gian, địa điểm, hình ảnh, nhạc nền là thành bản tin giả như thật.

Điểm chung của nhiều tin giả AI là chèn các câu như “Theo báo cáo…”, “Cơ quan chức năng đang điều tra nguyên nhân và khẩn trương khắc phục”, “Khuyến cáo người dân chú ý an toàn”… khiến người đọc khó phân biệt thật - giả. Không chỉ tin tức, mà bài viết khoa học, ảnh, video lồng tiếng, đổi mặt, giả giọng… đều có thể được AI tạo ra. Chỉ cần chỉnh sửa thủ công, trộn lẫn chút dữ liệu thật là khó nhận ra hơn.

Các chuyên gia nhận định bản chất của AI khiến việc bịa đặt trở nên dễ dàng và khoa học hơn, khi dựa vào các sự kiện nóng rồi ghép thêm tình tiết để tạo ra thông tin đúng như kỳ vọng của người đọc, từ đó lan truyền nhanh chóng.

Cơ quan chức năng Trung Quốc phát hiện có phần mềm AI sản xuất tin giả với tốc độ chóng mặt, tới 190.000 bài/ngày.

Theo cảnh sát, phần mềm này lưu hơn 1 triệu bài trong 7 ngày, phủ đủ lĩnh vực từ thời sự, đời sống đến xã hội. Người sử dụng sẽ đăng những bản tin này lên mạng để kiếm tiền từ cơ chế thưởng lượt xem của nền tảng. Các tài khoản liên quan đã bị chặn, phần mềm và máy chủ bị đóng, vụ việc vẫn đang điều tra.

Động cơ chính của các đối tượng là câu kéo lượt xem để kiếm lợi. Trên mạng, không thiếu lời rao kiểu “AI viết bài hot, giàu nhanh bất ngờ”, “1 phút 3 bài”, “một tài khoản làm 500+ bài/ngày, nhân nhiều tài khoản để tăng thu nhập”.

Hoàn thiện cơ chế chống tin giả, bắt buộc gắn nhãn nội dung AI

Để quản lý tình trạng tin giả hỗn loạn do AI tạo ra và làm sạch môi trường mạng, những năm gần đây, cơ quan chức năng tại nhiều quốc gia và các nền tảng đã ban hành quy định.

Tại Việt Nam, theo Nghị định 15/2020/NĐ-CP, các hành vi đăng tải, lưu trữ, chia sẻ hoặc phát tán thông tin giả mạo, sai sự thật, xuyên tạc, vu khống… có thể bị xử phạt hành chính từ 5 đến 70 triệu đồng tùy mức độ và đối tượng vi phạm, kèm biện pháp gỡ bỏ nội dung sai lệch, thậm chí tước giấy phép hoạt động mạng xã hội từ 3-6 tháng.

Ở mức nghiêm trọng, hành vi này có thể bị truy cứu trách nhiệm hình sự. Theo Bộ luật Hình sự, Tội vu khống có khung phạt tù 1-3 năm và phạt tiền 10-50 triệu đồng, tội đưa hoặc sử dụng trái phép thông tin mạng có thể bị phạt tiền 30-200 triệu đồng, cải tạo không giam giữ hoặc tù từ 6 tháng đến 3 năm, kèm hình phạt bổ sung như cấm hành nghề, đảm nhiệm chức vụ từ 1-5 năm.

Video bịa chuyện, dựng lên các vụ án rùng rợn, gắn tên các tỉnh thành vẫn được sản xuất hàng loạt trên YouTube.

Ở Trung Quốc có yêu cầu bắt buộc gắn nhãn rõ ràng với nội dung tạo từ AI. Nhiều nền tảng hiện cảnh báo “nội dung nghi do AI tạo, cần cân nhắc” và dán nhãn “hư cấu” cho bài vi phạm nguyên tắc, khóa tài khoản nếu tái phạm. Một số nhà phát triển mô hình AI cũng áp dụng dấu watermark trong nội dung sinh ra để người dùng biết.

Theo chuyên gia, công chúng hiện chưa hiểu đầy đủ về AI và thiếu kinh nghiệm đối phó, nên báo chí cần thường xuyên cảnh báo, đồng thời cơ quan thực thi pháp luật phải phản ứng nhanh, xử lý kịp thời các hành vi bịa đặt, lừa đảo bằng AI.

Ông Trịnh Ninh, Trưởng khoa Luật, Viện Quản lý Văn hóa - Công nghiệp, Đại học Truyền thông Trung Quốc, đề xuất hoàn thiện cơ chế phản bác tin giả. Khi một thông tin bị xác định là tin giả, cần lập tức gắn nhãn và gửi cảnh báo đến tất cả người đã từng xem, tránh lan truyền sâu rộng.

Nhiều người có thể không cố tình bịa đặt nhưng đăng tải nội dung AI tạo ra, sau đó bị chia sẻ tràn lan, khiến người khác tin và gây hại.

Biện pháp phòng ngừa đơn giản nhất là bắt buộc ghi rõ “Hình ảnh/video này do AI tạo” trên mọi sản phẩm tổng hợp từ AI.

Cách nhận biết tin giả do AI tạo

Hình ảnh do AI tạo về vụ lật tàu Vịnh Xanh, Hạ Long.

Theo Sina, tin giả do AI thường xuất hiện dưới nhiều hình thức như giả mạo các sự kiện nóng, tạo ảnh hoặc video về tai nạn nghiêm trọng kèm tiêu đề giật gân, bịa đặt lời nói của người nổi tiếng thông qua ghép giọng, chỉnh sửa video; giả danh chuyên gia để tung tin sai lệch về chính sách. Ngoài ra còn có dạng giả khoa học khi dựng số liệu nghiên cứu để quảng bá, bán các sản phẩm kém chất lượng, hoặc ghép chứng cứ giả bằng cách dùng AI thay đổi gương mặt, bối cảnh nhằm tạo ra bằng chứng hay lịch sử trò chuyện không có thật.

Để nhận biết, có thể áp dụng ba nguyên tắc. Trước hết, cần kiểm tra nguồn tin, ưu tiên những thông tin từ tác giả rõ ràng, cơ quan báo chí hoặc kênh chính thống. Tiếp đó, quan sát chi tiết, bởi ảnh AI thường mắc lỗi như số ngón tay sai, ánh sáng bất thường, video dễ lệch khẩu hình hoặc có nền méo mó. Cuối cùng, phải đối chiếu tính logic vì tin giả do AI thường chứa những mâu thuẫn về thời gian, địa điểm hoặc dữ liệu.

Hà Trang

Nguồn Tiền Phong : https://tienphong.vn/theu-det-tin-gia-trong-chop-mat-post1768451.tpo