Cảnh giác video AI phản cảm

một ngày trướcBài gốc

Mạng xã hội hiện có nhiều video AI với nội dung dung tục từ âm thanh đến hình ảnh

Muốn loại nào có loại đó

Ngồi lướt điện thoại trong quán cà phê, chị Loan giật mình khi thấy trên màn hình là một cụ ông vào “quán hát”, cùng lúc gọi 5 em chân dài và nhún nhảy thả ga… “Cụ kia có khuôn mặt na ná như ông cụ nhà mình. Hình ảnh quá sức tưởng tượng, con cháu nhỏ trong nhà mà thấy những hình ảnh này thì nói sao… cũng là cả vấn đề”, chị Loan chia sẻ.

Thêm hình ảnh, một người lớn tuổi chở 3 cô gái tươi trẻ, váy áo mát mẻ trên chiếc xe máy phóng vù vù giữa phố. Người cầm lái la toáng lên: “Con kia tránh xa lưng tao ra, hai cái ốc vít ấn vào lưng làm sao tao chịu nổi…”. Hay hình ảnh cô gái trong bộ bikini đi giữa chợ phỏng vấn một cụ ông với nội dung nói xấu phụ nữ; phỏng vấn về người yêu cũ với những câu trả lời dung tục…

“Hiện trên các nền tảng mạng xã hội, có đến hàng trăm và thậm chí hàng ngàn video do các công cụ AI tạo ra, theo kiểu các cô gái ăn mặc hở hang, những lời thoại tục tĩu liên quan đến sinh lý, tình dục… và các video phá vỡ những giá trị văn hóa, đang tiếp cận theo các thuật toán thông minh với người dùng di động. Ai muốn làm video kiểu nào thì có kiểu đó”, anh Thanh Hoài, một nhân viên ngân hàng, lo ngại.

Ngày nay, các công cụ tạo video AI không còn xa lạ như HeyGen, Synthesia, Pictory, InVideo, Kling AI, Luma AI, Veed.io, FlexClip, Wave Video… Mỗi công cụ có thế mạnh riêng về tính năng, chất lượng hình ảnh, khả năng cá nhân hóa avatar, hỗ trợ đa ngôn ngữ, hoặc tích hợp AI lồng tiếng và hiệu ứng đặc biệt. Các video AI với chất lượng “như thật” và tạo những hình ảnh, âm thanh “quá đà” như kể trên, xuất hiện dày đặc trên môi trường mạng, đa phần được tạo ra từ AI Google Veo 3. Đây là mô hình AI có khả năng tạo video từ prompt, tích hợp âm thanh sống động như lời thoại giữa các nhân vật hoặc tiếng động vật, được đánh giá tiến bộ vượt bậc so với các mô hình AI khác, vốn chỉ tạo ra video “câm” hoặc có nhạc nền đơn giản.

Các video AI, nhất là các video gây tò mò, dung tục… càng nhanh chóng đến “tai, mắt” người dùng di động do không ít người có thể tự đăng ký các gói dịch vụ của nhà cung cấp công cụ AI từ vài chục USD đến vài trăm USD mỗi tháng. Song song đó, nhiều cá nhân còn cung cấp dịch vụ làm video bằng AI trọn gói, như gói cơ bản: Video ngắn, hình ảnh trung bình; gói nâng cao với video chất lượng cao, nhiều hiệu ứng; gói chuyên nghiệp thì video sáng tạo, tính năng cao cấp… với giá tùy thuộc độ dài, độ phức tạp, tính năng bổ sung như lồng tiếng, phụ đề đa ngôn ngữ, tối ưu SEO. “Anh muốn video AI loại nào có loại đó, thậm chí muốn nội dung gây cười phản cảm, hình ảnh mát mẻ giữa chốn đông người, lời thoại gây “thốn”… cũng đều làm được”, Trọng Hòa, một người chuyên làm content (làm nội dung cho mạng xã hội), khẳng định.

Nhiều hậu quả khó lường

Google cho rằng, tất cả nội dung do Veo 3 tạo ra đều được gắn nhãn bằng watermark SynthID - công nghệ từ DeepMind giúp truy vết và xác định nội dung do AI sản xuất. Ngoài ra, hãng cũng cung cấp tài liệu hướng dẫn sử dụng an toàn, nhấn mạnh mục tiêu là giúp người dùng tạo và nhận diện nội dung AI một cách có trách nhiệm…

Nhưng với sự xuất hiện của các video AI nói chung và từ công cụ Veo 3 nói riêng, vấn đề đạo đức AI được đặt ra ở góc độ cụ thể. AI làm biến dạng bản sắc văn hóa: do AI có thể tạo ra các phiên bản “lai” về văn hóa dân tộc, gây nhầm lẫn về nguồn gốc, làm mất đi cái hồn của bản sắc văn hóa, và lâu dài khiến cộng đồng khó phân biệt đâu là giá trị gốc, đâu là biến thể. Vi phạm quyền sở hữu văn hóa: do AI dễ dàng thu thập, sao chép và nhân bản các yếu tố văn hóa mà không có sự công nhận hay bảo vệ bản quyền, khiến các giá trị truyền thống bị sử dụng tràn lan. Tác động tâm lý xã hội: việc tiếp xúc thường xuyên với nội dung giả mạo khiến người dùng hoang mang, nghi ngờ về tính xác thực của mọi thông tin, ảnh hưởng đến niềm tin xã hội và các giá trị văn hóa chung.

“Sự phát triển nhanh của công nghệ này khiến các quy định pháp lý, biện pháp bảo vệ bản quyền và nhận diện thật - giả chưa theo kịp, dẫn đến nhiều thách thức trong việc bảo tồn và phát huy giá trị văn hóa truyền thống. Có thể thấy, Veo 3 không chỉ là công cụ giải trí, mà còn là bước đột phá cho lĩnh vực truyền thông, giáo dục, marketing, thậm chí cả điện ảnh. Tuy nhiên, bên cạnh cơ hội là những thách thức không nhỏ, đó là nguy cơ lạm dụng công nghệ, thay thế con người trong các ngành nghề sáng tạo và vấn đề đạo đức đi kèm. Do đó vai trò của chính sách, tiêu chuẩn đạo đức và giáo dục kỹ năng số cho cộng đồng là cực kỳ quan trọng để AI như Veo 3 được phát triển và sử dụng một cách có trách nhiệm”, anh Phan Phước Quốc, Giám đốc Công ty GenZ, chia sẻ.

Ở góc độ khác, các công cụ AI phát triển thì nguy cơ tấn công mạng cũng đi kèm. Công cụ AI tạo video càng tinh xảo, nguy cơ tấn công mạng bằng deepfake sẽ tiến đến những hình thái mới, nguy hiểm hơn. Theo công bố của Kaspersky (một trong những hãng phần mềm diệt virus lớn nhất thế giới), trung bình cứ 5 phút lại có một cuộc tấn công deepfake xảy ra, dự báo năm 2026 có thể tới 90% nội dung trực tuyến sẽ được tạo ra bằng AI. Mục tiêu chính của các cuộc tấn công deepfake vẫn nhắm vào người dùng phổ thông với thông tin cá nhân, ngân hàng và thanh toán...

“Nguy cơ về lan truyền nội dung sai lệch, nội dung giả mạo bằng công nghệ deepfake khiến nhiều người lo ngại. Các công cụ AI như Veo 3 có thể bị lợi dụng để sản xuất nội dung giả mạo, ảnh hưởng đến uy tín cá nhân, tổ chức hoặc gây rối loạn thông tin xã hội”, ông Vũ Ngọc Sơn - Trưởng Ban Nghiên cứu, tư vấn, phát triển công nghệ và Hợp tác quốc tế của Hiệp hội An ninh mạng quốc gia (NCA), cho biết.

Theo Theo BÁ TÂN (SGGP)

Nguồn Đồng Tháp : https://baodongthap.vn/khoa-hoc/canh-giac-video-ai-phan-cam-132082.aspx