Cảnh báo về những video AI độc hại

10 giờ trướcBài gốc

Video AI chứa nội dung nhảm nhí. Ảnh cắt từ clip

Tràn lan video AI phản cảm

Vài ngày trước, chị N.H.G (Hà Nội) giật mình khi con trai 8 tuổi lướt mạng xong cười khúc khích vì xem video một cụ ông bước vào một quán hát và gọi liền lúc nhiều các cô gái “chân dài” rồi vui tươi nhún nhẩy. Con chị khoe: “Mẹ ơi, ông “ăn chơi” quá, vào cả quán hát nhảy nhót, xung quanh toàn các cô xinh đẹp mẹ ạ!”. Chị G hoảng quá, cầm điện thoại xem, thì ra là một video AI. Chị phải giải thích đây không phải là người thật, những video này không tốt, con không nên xem. Từ lần đó chị G không dám cho con dùng điện thoại tự do lướt mạng như trước.

“Mình tinh mắt, cũng từng xem nhiều video AI nên nhanh chóng phát hiện ra đó là sản phẩm được tạo ra từ AI, chứ các con nhỏ hay các bác lớn tuổi ít tiếp xúc công nghệ rất có thể sẽ tin video là thật, sinh ra những hiểu lầm không đáng có” - chị G chia sẻ.

Là người mới dùng điện thoại thông minh, bà Q.T.T (Hưng Yên) rất thích lên facebook xem bài viết của những người thân và bạn bè. Mỗi ngày, bà dùng thời gian rảnh để xem những đoạn video AI hài hước như một cách giải trí sau ngày dài làm việc, đồng thời nhấn nút chia sẻ cho bạn bè cùng vui theo. Tuy nhiên, khi một người bạn góp ý, phân tích cho bà rằng những video “tấu hài” bằng AI dù gây cười nhưng có thể tiềm ẩn những ý đồ xấu dẫn đến người xem video tin vào đó và suy nghĩ lệch lạc, hành động sai thì bà mới nhận thức việc làm của mình dù vô tình nhưng đã góp phần lan tỏa những thông điệp xấu.

Mỗi khi xã hội có sự kiện gây tranh cãi hay trend (xu hướng) nào đó, trên MXH ngay lập tức xuất hiện những video đề cập đến những nội dung tương tự. Điều đáng nói là trong những video này thường chứa hình ảnh phản cảm, lời nói chỏng lỏn, tục tĩu. Tuy nhiên, lượt xem, chia sẻ, tương tác lại rất cao.

Theo các chuyên gia về trí tuệ nhân tạo, công cụ tạo video AI có nhiều loại như Hailou AI, Kling AI, AI Google Veo 3,… Trong đó, mô hình AI Google Veo 3 được sử dụng rầm rộ thời gian gần đây, có khả năng tạo ra những video có hình ảnh, âm thanh sống động, chân thực y như người thật, âm thanh thật. Cách để tạo ra video AI khá đơn giản, chỉ cần hình ảnh và câu lệnh yêu cầu là sẽ ra được video mong muốn.

Lợi dụng AI để thực hiện hành vi vi phạm pháp luật

Không phủ nhận AI mang đến nhiều lợi ích, phục vụ nhu cầu công việc, giải trí,… của con người. Thực tế, nhiều lĩnh vực như giáo dục, y tế, nghệ thuật,… cũng đang sử dụng công nghệ này để cho ra những video với mục đích giảng dạy, quay phim,… Tuy nhiên, bên cạnh những tiện ích còn tiềm ẩn nhiều rủi ro đáng ngại, đặc biệt là khi những đối tượng xấu dùng AI để thực hiện những sản phẩm câu view, câu like bất chấp, mạo danh các cá nhân, tổ chức để thực hiện hành vi gian lận, lừa đảo, gây hại cho xã hội.

Chuyên gia đào tạo lĩnh vực AI Nguyễn Phong Anh cho biết, AI phát triển vượt bậc từ năm 2023, từ hình ảnh đơn giản đầu tiên, đến nay đã cực kỳ tinh vi, khó phân biệt được là sản phẩm từ AI hay máy quay. Sống trong xã hội tràn ngập giải trí, nhu cầu được thưởng thức những “món ăn” mới, nền tảng MXH có những video mới đánh vào nhu cầu tò mò của cộng đồng mạng, chi phí rẻ,… dẫn đến việc nhiều video giả mạo, sai sự thật ngày càng tràn lan trên MXH, thu hút sự tò mò của cộng đồng mạng và thu về lượng tương tác lớn.

TS, luật sư Đặng Văn Cường - giảng viên Luật, Trường Đại học Thủy Lợi cho biết, hậu quả của những video độc hại gây ra rất nghiêm trọng. “Đặc điểm của không gian mạng là tiếp cận theo xu hướng nên khi xem video giả mạo, nhảm nhí sẽ tác động đến tư tưởng, nhận thức văn hóa của người xem. Đó là những thông tin độc hại, nếu không được kiểm soát tốt, không được nhận diện sẽ ảnh hưởng đến nhận thức, văn hóa, thậm chí tạo ra hành vi tiêu cực của những người tiếp cận” - TS Đặng Văn Cường nhấn mạnh.

Về nguyên nhân dẫn đến hiện tượng tiêu cực này, TS Đặng Văn Cường cho rằng, nhận thức về công nghệ, hiểu biết về xã hội của nhiều người dùng còn hạn chế; giao tiếp trên không gian mạng, mạo danh các cơ quan, tổ chức rất dễ dàng, thậm chí nhiều đối tượng ở những khu vực xa xôi có thể tiếp cận người dân toàn thế giới, sau đó các đối tượng xóa dấu vết, ẩn danh rất nhanh. Những điều này thúc đẩy các đối tượng thực hiện những hành vi xấu, đưa tin giả, lừa đảo người dùng mạng.

Theo các chuyên gia nghiên cứu về AI, người dùng mạng có thể phân biệt video AI và video thật bằng cách quan sát khung hình. Ở video AI, bên cạnh rìa vùng mặt của người sẽ hơi mờ. Tương tác giữa những người trong video cũng không thật, họ nhìn về các hướng khác nhau thay vì giao tiếp bằng mắt như hai người thật đang trò chuyện. Bên cạnh đó, AI không hiểu về tương tác vật lý, người trong video AI khi đưa, hay cầm, nắm đồ vật, bộ phận chạm vào vật thể có sự thay đổi, ví dụ như ngón tay có thể bị lỗi. Về âm thanh, video AI thường chỉ nghe thấy tiếng của nhân vật, còn video được quay thật thì người xem sẽ nghe thấy âm thanh phát ra từ hành động.

Các chuyên gia cũng khuyến cáo người dùng mạng nên cảnh giác, tỉnh táo khi sử dụng MXH, tránh tiếp cận những nội dung độc hại, tuyệt đối không chia sẻ, lan truyền những sản phẩm nhảm nhí, phản cảm vì điều này sẽ tiếp tay cho những hành vi vi phạm. Nếu thấy những video có dấu hiệu vi phạm pháp luật, có dấu hiệu lừa đảo có thể lưu lại, chụp lại để báo với cơ quan chức năng, cảnh báo cho mọi người. Còn những người sử dụng AI với mục đích nào cũng phải tuân thủ quy định của pháp luật để tránh gây ra những hậu quả đáng tiếc.

Những hành vi đưa thông tin sai sự thật, bịa đặt, vu khống sai sự thật, thông tin mang tính chất dâm ô, đồi trụy, bạo lực hoặc chống phá Nhà nước thì những thông tin đó được quy định trong những nội dung bị cấm trong các Điều 8, Điều 16, Điều 17 của Luật An ninh mạng, tùy tính chất, mức độ vi phạm, tùy thuộc vào hậu quả xảy ra mà tổ chức, cá nhân vi phạm sẽ bị xử phạt hành chính hoặc truy cứu trách nhiệm hình sự. Người thực hiện hành vi đó bằng AI hay sử dụng phương thức khác đều bị xử lý bằng chế tài xử phạt như nhau. Sắp tới đây, pháp luật có lẽ sẽ bổ sung, hoàn thiện để quy định riêng đối với hành vi do sử dụng công cụ AI tạo ra.

TS, luật sư Đặng Văn Cường, Đoàn Luật sư TP Hà Nội

An Nhiên

Nguồn PL&XH : https://phapluatxahoi.kinhtedothi.vn/canh-bao-ve-nhung-video-ai-doc-hai-426385.html