Cần quy định cấm dùng AI để giả mạo giọng nói, hình ảnh cá nhân

11 giờ trướcBài gốc

Chiều 31-10, Quốc hội thảo luận tại tổ về dự án Luật An ninh mạng. Theo đánh giá của các đại biểu, đây là một trong những dự án luật khó nhất, bởi có sự lồng ghép giữa Luật An toàn thông tin mạng và Luật An ninh mạng.

Một trong những dự án luật khó nhất...

Đại biểu Nguyễn Minh Đức (đoàn TP.HCM) cho biết khi nhập nội dung của hai luật này sẽ phát sinh những phần trùng lẫn nên phải tính toán rất kỹ, đòi hỏi sự tham gia của các chuyên gia cả về kỹ thuật lẫn pháp lý.

"Giống như trước đây, khi xây dựng Luật An ninh mạng năm 2018, cũng có nhiều ý kiến cho rằng đã có Luật An toàn thông tin mạng rồi, sao phải xây thêm luật này nữa? Tuy nhiên, khi đặt ra câu hỏi về chủ quyền quốc gia trên không gian mạng, thì không ai trả lời được. Chính vì thế, sau quá trình nghiên cứu kỹ lưỡng, mới đi đến kết luận bắt buộc phải xây dựng Luật An ninh mạng”, ông cho biết.

Đại biểu Nguyễn Minh Đức (đoàn TP.HCM). Ảnh: QUANG PHÚC

Ông Đức tiếp tục cho hay trước đây, theo Luật An toàn thông tin mạng thì chủ thể chịu trách nhiệm trước Nhà nước, trước Chính phủ về quản lý nhà nước trong lĩnh vực an toàn thông tin mạng là Bộ TT&TT. Tuy nhiên, sau khi thực hiện Nghị quyết 18 của Bộ Chính trị chuyển một số chức năng của Bộ TT&TT sang Bộ KH&CN và toàn bộ mảng về an toàn thông tin mạng thì được chuyển về Bộ Công an.

Như vậy, hiện nay toàn bộ các thông tin, nhiệm vụ này đang được giao cho một số chủ thể, trong đó có lực lượng an ninh mạng của Bộ Công an, lực lượng an ninh mạng của Bộ Quốc phòng, trực thuộc Bộ Tư lệnh 86, lực lượng cơ yếu và một số cơ quan khác.

“Do việc lắp ghép như vậy nên đã xuất hiện sự chồng lấn cả về đối tượng điều chỉnh và chủ thể thực hiện nhiệm vụ. Chúng tôi rất lo lắng nếu không có sự thống nhất trong quản lý sẽ dẫn đến tình trạng 'cha chung không ai khóc', có thể để lại 'khoảng trống' mà các đối tượng xấu sẵn sàng lợi dụng nhằm tấn công, gây ra hậu quả rất nguy hiểm trong công tác bảo vệ Tổ quốc từ sớm, từ xa trên không gian mạng” - ông nói.

Đề nghị nghiêm cấm sử dụng trí tuệ nhân tạo để xuyên tạc, giả mạo thông tin

Đại biểu Đỗ Văn Yên (đoàn TP.HCM) cho biết ông tán thành với sự cần thiết phải ban hành Luật An ninh mạng (sửa đổi). Theo ông, việc sửa đổi toàn diện Luật An ninh mạng năm 2018 và Luật An toàn thông tin mạng năm 2015 là cần thiết, nhằm tạo cơ sở pháp lý quan trọng để bảo vệ an ninh mạng quốc gia, đồng thời bảo vệ quyền và lợi ích hợp pháp của các tổ chức, cá nhân trên không gian mạng.

Góp ý cho dự thảo luật, ông Yên cho biết, dự thảo luật đã quy định khá toàn diện các hành vi xâm phạm an ninh quốc gia, trật tự an toàn xã hội trên không gian mạng, phù hợp với đặc thù của không gian mạng.

Những quy định về hành vi bị cấm cũng thể hiện rõ tinh thần xử lý vi phạm và phù hợp với xu thế phát triển của công nghệ mạng hiện nay.

ĐBQH Đỗ Văn Yên (TP.HCM). Ảnh: QUANG PHÚC

Tuy nhiên, ông cũng cho rằng trên thực tế còn một số hành vi mới phát sinh mà dự thảo chưa đề cập đầy đủ, đặc biệt là việc sử dụng trí tuệ nhân tạo (AI).

"Hiện nay, AI được sử dụng để giả mạo thông tin, hình ảnh, âm thanh, xuyên tạc nội dung, gây hiểu nhầm, kích động hoặc lừa đảo trên không gian mạng. Đây là vấn đề rất đáng lo ngại, song trong dự thảo luật hiện nay chưa có quy định cụ thể về việc nghiêm cấm sử dụng AI cho các hành vi này” - ông nói.

Do vậy, đại biểu đoàn TP.HCM đề nghị Ban soạn thảo xem xét bổ sung quy định về hành vi nghiêm cấm sử dụng trí tuệ nhân tạo để giả mạo, xuyên tạc, gây hiểu lầm hoặc lừa đảo trên không gian mạng, nhằm bảo đảm tính toàn diện và khả thi của luật khi đi vào thực tiễn.

“Đề nghị Ban soạn thảo nghiên cứu, điều chỉnh và bổ sung điểm c, khoản 1, Điều 9 của dự thảo luật theo hướng hành vi bị nghiêm cấm là bịa đặt, vu khống, hoặc sử dụng công nghệ trí tuệ nhân tạo (AI) để giả mạo âm thanh, giọng nói, hình ảnh, video của tổ chức, cá nhân nhằm xuyên tạc sự thật, gây hiểu lầm, làm tổn hại danh dự, uy tín, quyền và lợi ích hợp pháp của người khác, hoặc gây phương hại đến an ninh quốc gia, trật tự an toàn xã hội” - đại biểu góp ý.

NHÓM PHÓNG VIÊN

Nguồn PLO : https://plo.vn/can-quy-dinh-cam-dung-ai-de-gia-mao-giong-noi-hinh-anh-ca-nhan-post878767.html