Cảnh báo video trí tuệ nhân tạo (AI) lừa đảo trên mạng xã hội

6 giờ trướcBài gốc

Theo Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao Công an TP. Hải Phòng, hoạt động đăng tải thông tin xấu độc, xuyên tạc trên không gian mạng diễn ra ngày càng phức tạp.

Đáng chú ý, các thế lực thù địch sử dụng nền tảng mạng xã hội để tạo lập, đăng tải các thông tin, bài viết liên quan đến các sự kiện, vụ việc, vấn đề nóng xã hội đang quan tâm, qua đó gây tâm lý hoang mang trong Nhân dân.

Bên cạnh đó, nhiều tổ chức, cá nhân có mục đích xấu đã lợi dụng công nghệ AI để sản xuất các đoạn video, âm thanh hoặc hình ảnh giống người thật, gắn liền với những sự kiện “nóng” đang thu hút sự quan tâm của dư luận.

Cơ quan công an xử lý đối tượng có hành vi sử dụng video trí tuệ nhân tạo (AI) phán tán thông tin độc hại. (Ảnh CAHP).

Từ đó, thông tin độc hại gieo rắc tâm lý hoang mang, hoài nghi, thậm chí chia rẽ niềm tin của người dân vào chủ trương, chính sách của Đảng và Nhà nước.

Hiện nay, AI cho phép tạo ra những sản phẩm giả mạo chỉ trong thời gian ngắn. Chỉ cần một đoạn giọng nói hoặc vài hình ảnh, công cụ có thể tái tạo ngoại hình, giọng điệu và cử chỉ của một người nổi tiếng hay lãnh đạo để lồng ghép các phát ngôn sai lệch.

Đặc biệt, những video này thường được trình bày như các chương trình phân tích thời sự, bản tin “nóng”, hoặc các mẩu chuyện đời thường nhằm đánh lừa người xem.

Cán bộ Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao phân tích, nếu quan sát kỹ, chúng vẫn tồn tại nhiều điểm bất thường. Khuôn mặt đôi khi nhòe, cử chỉ không tự nhiên hoặc khẩu hình không khớp với lời nói. Âm thanh mang đặc điểm như được đọc từ máy, giọng đều đều, thiếu cảm xúc thật, đôi khi lẫn tạp âm không phù hợp với bối cảnh.

Hình ảnh, video được tạo bởi trí tuệ nhân tạo Al khiến nhiều người nhầm lẫn có thể bị sử dụng với mục đích xấu. Ảnh Trần Khanh.

Tâm lý con người cũng là điểm yếu dễ bị khai thác. Khi một video trùng khớp với suy nghĩ hoặc niềm tin sẵn có, người xem dễ dàng tiếp nhận mà không nghi ngờ. Cũng có khi nội dung được thiết kế để khơi gợi sự tò mò, phẫn nộ hoặc sợ hãi, khiến người xem chia sẻ ngay lập tức mà không kiểm chứng. Việc mượn hình ảnh của người có uy tín, người nổi tiếng càng làm tăng tính thuyết phục giả tạo.

Một số chuyên gia về công nghệ Al cho hay, một video giả mạo được dàn dựng giống như bản tin truyền hình, có người dẫn đọc tin về chính sách nhạy cảm. Khi so sánh với các kênh chính thống, mới nhận thấy logo và phông chữ không đúng chuẩn, giọng dẫn thiếu tự nhiên và không thể tìm thấy bản tin tương ứng trên các website chính thức.

Không chỉ vậy, video được lan truyền cho thấy một lãnh đạo trả lời phỏng vấn, nhưng khẩu hình không khớp, ánh sáng không thay đổi theo cử động, và âm thanh lại “sạch” bất thường so với khung cảnh ồn ào.

Hình ảnh, video giả mạo được dàn dựng giống như bản tin truyền hình. Ảnh Trần Khanh.

“Nội dung hội thoại thường mang tính châm biếm, thậm chí sử dụng các từ ngữ có tính dung tục, tiêu cực nhằm thu hút người xem, chia sẻ; giọng nói, ngữ điệu như được đọc từ máy đọc, đôi lúc không cùng một người phát âm”, chuyên gia về công nghệ Al cho biết thêm.

Công an TP. Hải Phòng khuyến cáo, người dân cần hết sức tỉnh táo, cẩn thận khi xem các tin tức trên mạng xã hội, nhất là đối với các trang, tài khoản không chính thống. Trước một thông tin gây sốc, hãy tạm dừng, kiểm tra nguồn phát hành, đối chiếu với kênh chính thống và quan sát chi tiết kỹ thuật. Công cụ tìm kiếm ngược hình ảnh và video có thể giúp phát hiện nguồn gốc thật.

Khi phát hiện các nguồn thông tin sai sự thật, xuyên tạc, nhanh chóng sử dụng tính năng report (báo cáo vi phạm của tài khoản hoặc nội dung bài đăng) để báo cáo cho quản trị viên nền tảng mạng xã hội đó có hình thức xử lý phù hợp như: Xóa bỏ nội dung, khóa, hoặc thậm chí cấm vĩnh viễn đối với tài khoản vi phạm quy định cộng đồng; theo dõi, nắm bắt thông tin từ các trang, tài khoản, kênh thông tin chính thống, có tính chính danh; không chia sẻ, phát tán đối với những thông tin chưa được kiểm chứng.

Song song với hành động cá nhân, các cơ quan, tổ chức cũng cần chủ động theo dõi mạng xã hội, đưa ra phản hồi nhanh chóng và cung cấp nguồn tin chính thống rõ ràng.

Việc xây dựng bộ nhận diện phát ngôn chuẩn, cũng như lưu trữ các phát biểu chính thức trên kênh uy tín, sẽ giúp người dân dễ dàng so sánh khi gặp thông tin sai lệch. Các gia đình, đặc biệt với người lớn tuổi, nên thường xuyên trao đổi và hướng dẫn cách nhận diện video giả mạo để tránh bị lợi dụng.

Về mặt pháp lý, những hành vi cung cấp hoặc chia sẻ thông tin giả mạo, sai sự thật, xuyên tạc đều có thể bị xử phạt hành chính từ 05 đến 10 triệu đồng theo Nghị định 15/2020/NĐ-CP và Nghị định 14/2022/NĐ-CP của Chính phủ.

Đồng thời, tùy tính chất, mức độ vi phạm, người vi phạm có thể bị truy cứu trách nhiệm hình sự theo Bộ luật Hình sự. Điều này nhấn mạnh rằng, việc chia sẻ, phát tán thông tin không kiểm chứng không chỉ gây hậu quả tiêu cực cho xã hội mà người thực hiện hành vi chia sẻ sẽ phải chịu trách nhiệm pháp lý khi thông tin đó không đúng sự thật.

Trần Khanh

Nguồn Công Lý : https://congly.vn/canh-bao-video-tri-tue-nhan-tao-ai-lua-dao-tren-mang-xa-hoi-491562.html