Trung Quốc mạnh tay dọn dẹp video giả mạo do AI tạo ra

3 giờ trướcBài gốc

Trung Quốc đang siết chặt quy định về hình ảnh và video độc hại được tạo ra bằng trí tuệ nhân tạo (AI) nhằm kiểm soát với sự gia tăng nội dung giả mạo được đăng tải trên mạng xã hội, trong đó có nội dung liên quan đến nạn nhân bị bắt cóc và thiệt hại do động đất, thiên tai.

Trong Luật an toàn Internet sửa đổi có hiệu lực từ tháng 1.2026, được Ủy ban Thường vụ Đại hội Đại biểu Nhân dân Toàn quốc (Quốc hội) thông qua vào ngày 28.10.2025, bên cạnh mục đích cải thiện an ninh cơ sở hạ tầng viễn thông, Trung Quốc đã được bổ sung phần quản lý rủi ro và giám sát an toàn AI. Động thái này cho thấy chính phủ nước này đang có những bước chủ động thắt chặt các hoạt động “dùng nội dung giả mạo” trên không gian mạng xã hội.

Sau trận động đất mạnh 6,8 độ richter xảy ra ở Tây Tạng ngày 7.1.2025, một bức ảnh chụp một em bé phủ đầy mảnh vỡ lan truyền chóng mặt trên mạng xã hội tại Trung Quốc. Bức ảnh thu hút sự thương cảm với em bé và chia sẻ của người dùng, nhưng sau đó được phát hiện ra hình ảnh do Generative AI tạo ra, và không liên quan gì đến trận động đất. Người đăng bức ảnh bị bắt giữ vì tội phát tán thông tin sai lệch.

Một chương trình tin tức ở Trung Quốc đưa tin rằng hình ảnh lan truyền về một em bé sống sót sau trận động đất thực chất là do AI tạo ra. Ảnh: CCTV

Công an Trung Quốc cũng đang tăng cường trấn áp các hoạt động liên quan. Cuối tháng 10 vừa qua, lực lượng chấp pháp Trung Quốc đã công bố một số nội dung giả mạo bất hợp pháp mà họ tìm thấy và cảnh báo sẽ truy tố những người có hành động tạo và lan truyền tin sai sự thật.

Báo chí Trung Quốc cũng ghi nhận nhiều vụ lừa đảo đã bị cơ quan chức năng nước này phanh phui. Ví dụ vụ một người đàn ông 28 tuổi ở tỉnh Chiết Giang nói con gái bị bắt cóc bằng cách sử dụng ảnh của một bé gái khác mà người này tìm thấy trên mạng. Một trường hợp khác, một phụ nữ 57 tuổi ở tỉnh Sơn Tây đăng tải các văn bản và hình ảnh cho thấy thiệt hại do trận động đất gây ra, nhưng những thông tin đó đều không có thật.

Tính đến tháng 6.2025, số người dùng Generative AI (AI tạo sinh), đã đạt 515 triệu người tại Trung Quốc, tăng gấp đôi trong sáu tháng, theo báo cáo của Trung tâm Thông tin Mạng Internet Trung Quốc. Công nghệ này phổ biến nhanh chóng sau khi công cụ DeepSeek nổi lên như một đối thủ cạnh tranh với các công cụ AI khác bao gồm ChatGPT, Grok hay Bing gây chú ý vì đạt được hiệu suất cao với chi phí tương đối thấp.

Truy cập internet tại Trung Quốc, người dùng có thể dễ dàng tìm thấy các video hướng dẫn cách tạo ảnh giả bằng Generative AI, cũng như phần mềm có thể thay đổi khuôn mặt hoặc giọng nói. Nhiều người dùng đăng tải những hình ảnh giật gân lên mạng xã hội để tăng tương tác với hy vọng thúc đẩy doanh số bán hàng hoặc doanh thu quảng cáo.

Trung Quốc đã có luật quản lý dịch vụ Generative AI, có hiệu lực từ tháng 8.2023, yêu cầu các công ty liên quan đến AI phải sử dụng công nghệ này phù hợp với các giá trị của chủ nghĩa xã hội. Luật này nghiêm cấm việc tạo ra nội dung có thể dẫn đến rối loạn xã hội hoặc lật đổ chính quyền.

DeepSeek và các Generative AI khác ở Trung Quốc được đào tạo theo luật này, nên các mô hình AI, mô hình ngôn ngữ lớn của Trung Quốc có xu hướng tránh trả lời các câu hỏi mang nội dung chính trị. Tuy nhiên, làn sóng hình ảnh và video giả mạo gần đây dường như đã khiến Trung Quốc phải điều chỉnh luật, thắt chặt kiểm soát công nghệ hơn nữa.

Một cơ quan giám sát internet trực thuộc chính phủ và Đảng Cộng sản Trung Quốc đã ban hành hướng dẫn cho các chính quyền địa phương và các nền tảng mạng xã hội lớn. Hướng dẫn bao gồm các quy định siết chặt các dịch vụ AI dễ dàng tạo ảnh khỏa thân hoặc cho phép chỉnh sửa giọng nói hoặc khuôn mặt. Trong quý II, cơ quan này đã ra lệnh khắc phục đối với 3.500 ứng dụng và 960.000 nội dung.

Trung Quốc triển khai chiến dịch Làm sạch Internet: Khắc phục tình trạng lạm dụng công nghệ AI. Ảnh: VCG

Bên cạnh đó, Cơ quan quản lý không gian mạng Trung Quốc cũng mạnh tay trấn áp việc sử dụng các video giả, mạo danh người nổi tiếng trong hoạt động thương mại điện tử phát trực tiếp.

Cục Quản lý Không gian mạng Trung Quốc (CAC) hôm 14.11 vừa qua cho biết các cơ quan chức năng gần đây đã "xử lý nghiêm khắc" một loạt tài khoản trực tuyến sử dụng AI để bắt chước người nổi tiếng nhằm quảng bá sản phẩm trong các buổi phát trực tiếp và video ngắn, gây hiểu lầm cho người dùng. Các nền tảng trực tuyến đã triển khai chiến dịch dọn dẹp, đến nay đã xóa hơn 8.700 nội dung không tuân thủ quy định và xử lý hơn 11.000 tài khoản mạo danh người nổi tiếng.

Chiến dịch này được triển khai sau một loạt vụ việc gây chú ý, trong đó có việc nữ diễn viên Wen Zhengrong phát hiện nhiều bản sao của mình (do AI tạo ra), đang quảng cáo sản phẩm trên nhiều buổi phát trực tiếp khác nhau.

Mặc dù Trung Quốc đã triển khai "các biện pháp gắn nhãn nội dung do trí tuệ nhân tạo tạo ra" từ 1.9, yêu cầu nội dung do AI tạo ra phải được gắn nhãn rõ ràng, nhưng việc thực thi vẫn còn nhiều thách thức.

Người vi phạm thường ẩn hình mờ (watermark) ở các góc khuất của video hoặc sử dụng các biện pháp kỹ thuật để xóa thông tin nhận dạng. Một số người còn chia nhỏ nội dung tổng hợp thành nhiều phần và phân phối chúng cho nhiều tài khoản, gây khó khăn cho việc phát hiện ra video giả.

Các nền tảng như Tiktok, Weibo cũng gặp khó khăn khi kiểm duyệt nội dung, thừa nhận việc xác định nội dung do AI tạo ra vì vi phạm bản quyền vẫn là một "thách thức kỹ thuật toàn ngành". Các tài khoản mạo danh liên tục sử dụng các biện pháp đối phó kỹ thuật chống lại các nền tảng.

Công nghệ Deepfake - sử dụng AI để chỉnh sửa hình ảnh, âm thanh và video lừa đảo trên mạng internet đang trở nên trầm trọng và vượt tầm kiểm soát của các cơ quan quản lý. Ảnh: Shutterstock

Đối với các nạn nhân, việc thu thập bằng chứng và chứng minh nội dung được AI tạo ra rất phức tạp về mặt kỹ thuật và tốn thời gian. Nhóm của Wen đã từng báo cáo 50 tài khoản mạo danh chỉ trong một ngày, nhưng sau đó lại nhanh chóng xuất hiện trở lại dưới các hình thức mới.

Các động thái trên thuộc chương trình "Làm sạch Internet: Khắc phục tình trạng lạm dụng công nghệ AI" của Trung Quốc.

Chương trình này đã áp đặt các quy định về thông tin sai lệch về AI, cũng như việc sử dụng AI tạo ra và lan truyền tin đồn, tạo ra hình ảnh khiêu dâm hoặc bạo lực, mạo danh người khác, thao túng lưu lượng truy cập web hoặc thực hiện "lừa bịp trực tuyến" hoặc lạm dụng trẻ vị thành niên.

Theo giới chuyên gia trong ngành AI, Trung Quốc được cho là đang đi đầu trong việc tạo ra và ban hành quy định về AI. Một báo cáo từ Hiệp hội các chuyên gia bảo mật quốc tế đầu năm nay nêu rằng "các chính quyền địa phương, chẳng hạn như ở Thượng Hải và Thâm Quyến đã ban hành các quy định thử nghiệm của riêng họ để thử nghiệm các cách tiếp cận quy định khác nhau, mặc dù các quy định này vẫn còn tương đối nhẹ về nghĩa vụ bắt buộc đối với các công ty" và chưa được "áp dụng ở cấp trung ương".

Theo Viện Tiêu chuẩn Quốc gia Mỹ, Trung Quốc đã đề xuất "thiết kế một cơ quan quốc tế để thúc đẩy hợp tác quốc tế về phát triển và quy định về AI". Cơ quan này sẽ "điều phối các nỗ lực toàn cầu, hỗ trợ công việc của Liên hợp quốc, chia sẻ những tiến bộ của Trung Quốc về AI và giúp ngăn chặn sự kiểm soát độc quyền của một số ít quốc gia hoặc tập đoàn."

Tuy nhiên, vẫn còn nhiều thách thức tồn đọng, vì nhiều nhà quan sát cho thấy chính các cơ quan chức năng nhiều lúc vẫn lạm dụng các công cụ AI cho mục đích tuyên truyền, phục vụ lợi ích chính trị của chính họ.

Generative AI (tạm dịch AI tạo sinh), là một bước phát triển vượt bậc của AI. Nếu AI truyền thống chỉ dừng lại ở việc trích xuất câu trả lời từ kho dữ liệu đầu vào, Generative AI có khả năng sáng tạo ra các nội dung mới lạ như văn bản, âm thanh, hoạt ảnh, đồ họa 3D, video và nhiều loại dữ liệu khác. Generative AI được huấn luyện trên các tài liệu và dữ liệu đã tồn tại trên mạng internet.

Lan Chi (Tổng hợp từ Nikkei Asia, Xinhua, Futurism)

Nguồn Người Đô Thị : https://nguoidothi.net.vn/trung-quoc-manh-tay-don-dep-video-gia-mao-do-ai-tao-ra-50657.html