Cần cấm dùng AI giả mạo khuôn mặt, giọng nói để xuyên tạc, gây nhầm lẫn

8 giờ trướcBài gốc

Chiều 7/11, Quốc hội thảo luận ở hội trường về dự án Luật An ninh mạng; dự án Luật Bảo vệ bí mật Nhà nước (sửa đổi).

Đại biểu Quốc hội Lê Thị Thanh Lam (đoàn Cần Thơ) phát biểu tại nghị trường. Ảnh: Media Quốc hội

Đại biểu Quốc hội Lê Thị Thanh Lam (đoàn Cần Thơ) cho rằng, hiện nay, sự phát triển mạnh mẽ của công nghệ số, đặc biệt là trí tuệ nhân tạo (AI) đã làm xuất hiện nhiều phương tiện và phương thức vi phạm mới như lừa đảo, giả mạo khuôn mặt, giọng nói.

Các thủ đoạn này rất khó nhận diện, gây ảnh hưởng lớn đến an ninh mạng và quyền lợi của người dân. Dự thảo đã bước đầu quan tâm đến bảo vệ trẻ em trên không gian mạng, nhưng thực tế cho thấy các nhóm yếu thế khác như người cao tuổi, người khuyết tật, người hạn chế năng lực hành vi cũng là đối tượng dễ bị tấn công.

Đại biểu dẫn lại vụ lừa đảo nhắm vào người cao tuổi, như vụ mạo danh cơ quan chức năng yêu cầu một cụ bà 75 tuổi ở Đà Nẵng chuyển toàn bộ số tiền tiết kiệm; hay vụ một nông dân ở Phú Thọ mang hết tiền bán trâu đi chuyển khoản... Các phương tiện thông tin đại chúng đã phản ánh nhiều về những trường hợp này.

Theo đại biểu, tội phạm công nghệ cao đang khai thác triệt để sự thiếu kỹ năng an toàn mạng của các nhóm đối tượng yếu thế. Mặc dù một số vụ việc đã được lực lượng chức năng kịp thời ngăn chặn, nhưng xu hướng lạm dụng AI để lừa đảo đang gia tăng.

Do đó, đại biểu đề nghị trong phần các hành vi bị nghiêm cấm về an ninh mạng, cần bổ sung quy định cấm sử dụng AI để giả mạo khuôn mặt, giọng nói và các công nghệ giả mạo khác nhằm mạo danh tổ chức, cá nhân để lừa đảo, xuyên tạc hoặc gây nhầm lẫn, xâm hại quyền và lợi ích hợp pháp của người dân.

Đại biểu Tô Văn Tám (đoàn Quảng Ngãi) tham gia góp ý vào dự thảo luật. Ảnh: Media Quốc hội.

Đại biểu Tô Văn Tám (đoàn Quảng Ngãi) đề nghị nghiên cứu bổ sung hành vi xuyên tạc đường lối, chính sách của Đảng và pháp luật của Nhà nước, gây hoang mang trong nhân dân.

Ngoài ra, xem xét bổ sung hành vi lợi dụng, sử dụng trí tuệ nhân tạo (AI) để xuyên tạc, bôi nhọ, giả mạo hình ảnh, giọng nói, tạo nội dung sai sự thật nhằm xúc phạm danh dự, nhân phẩm người khác hoặc gây hoang mang xã hội.

Về các quy định phòng ngừa và xử lý hành vi xâm phạm an ninh mạng, đại biểu Tám cho rằng hiện dự thảo mới quy định trách nhiệm của các cơ quan nhà nước có thẩm quyền trong xử lý khủng bố mạng, nhưng chưa nêu rõ hành vi khủng bố mạng.

Vì vậy, đề nghị nghiên cứu, bổ sung quy định cụ thể để làm căn cứ cho việc xử lý.

Trang Trần

Nguồn Xây Dựng : https://baoxaydung.vn/can-cam-dung-ai-gia-mao-khuon-mat-giong-noi-de-xuyen-tac-gay-nham-lan-192251107174025641.htm