Nghiêm cấm dùng AI để giả mạo, mô phỏng người, lừa dối, thao túng có chủ đích

2 giờ trướcBài gốc

Quy định cụ thể hành vi bị nghiêm cấm

Chiều 10/12, Quốc hội thông qua Luật Trí tuệ nhân tạo với tuyệt đại đa số đại biểu tán thành. Dự thảo luật gồm 8 chương, 35 điều, có hiệu lực thi hành từ ngày 1/3/2026.

Theo đó, hệ thống trí tuệ nhân tạo được phân loại theo các mức: rủi ro cao là hệ thống có thể gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích quốc gia, lợi ích công cộng, an ninh quốc gia.

Hệ thống trí tuệ nhân tạo có rủi ro trung bình là hệ thống có khả năng gây nhầm lẫn, tác động hoặc thao túng người sử dụng do không nhận biết được chủ thể tương tác là hệ thống trí tuệ nhân tạo hoặc nội dung do hệ thống tạo ra;

Hệ thống trí tuệ nhân tạo có rủi ro thấp là các hệ thống không thuộc trường hợp quy định tại hai loại trên.

Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng (Ảnh: Phạm Thắng).

Việc phân loại rủi ro của hệ thống trí tuệ nhân tạo được xác định trên cơ sở các tiêu chí về mức độ tác động đến quyền con người, an toàn, an ninh; lĩnh vực sử dụng của hệ thống, đặc biệt là lĩnh vực thiết yếu hoặc liên quan trực tiếp đến lợi ích công cộng; phạm vi người sử dụng và quy mô ảnh hưởng của hệ thống. Luật giao Chính phủ quy định chi tiết Điều này.

Theo luật, nhà cung cấp tự phân loại hệ thống trí tuệ nhân tạo trước khi đưa vào sử dụng. Hệ thống được phân loại là rủi ro trung bình hoặc rủi ro cao phải có hồ sơ phân loại kèm theo.

Ngoài ra, Luật quy định cụ thể hành vi bị nghiêm cấm trong đó có hành vi sử dụng yếu tố giả mạo hoặc mô phỏng người, sự kiện thật để lừa dối hoặc thao túng nhận thức, hành vi của con người một cách có chủ đích và có hệ thống, gây tổn hại nghiêm trọng đến quyền, lợi ích hợp pháp của con người.

Lợi dụng điểm yếu của nhóm người dễ bị tổn thương, gồm trẻ em, người cao tuổi, người khuyết tật, người dân tộc thiểu số hoặc người mất năng lực hành vi dân sự, người bị hạn chế năng lực hành vi dân sự, người có khó khăn trong nhận thức, làm chủ hành vi, để gây tổn hại cho chính họ hoặc người khác.

Tạo ra hoặc phổ biến nội dung giả mạo có khả năng gây nguy hại nghiêm trọng đến an ninh quốc gia, trật tự, an toàn xã hội…

Kết quả biểu quyết Luật Trí tuệ nhân tạo (Ảnh: Phạm Thắng).

Theo luật, tổ chức, cá nhân có hành vi vi phạm quy định của Luật này và quy định khác của pháp luật có liên quan đến trí tuệ nhân tạo thì tùy theo tính chất, mức độ, hậu quả của hành vi vi phạm thì bị xử phạt vi phạm hành chính hoặc bị truy cứu trách nhiệm hình sự, nếu gây thiệt hại thì phải bồi thường theo quy định của pháp luật dân sự.

Trường hợp hệ thống trí tuệ nhân tạo có rủi ro cao được quản lý, vận hành và sử dụng đúng quy định nhưng vẫn phát sinh thiệt hại thì bên triển khai phải chịu trách nhiệm bồi thường cho người bị thiệt hại.

Sau khi bồi thường, bên triển khai yêu cầu nhà cung cấp, nhà phát triển hoặc các bên liên quan hoàn trả khoản tiền bồi thường nếu có thỏa thuận giữa các bên.

Trách nhiệm bồi thường thiệt hại được miễn trừ trong trường hợp thiệt hại xảy ra hoàn toàn do lỗi cố ý của người bị thiệt hại; thiệt hại xảy ra trong trường hợp bất khả kháng hoặc tình thế cấp thiết, trừ trường hợp pháp luật có quy định khác.

Trường hợp hệ thống trí tuệ nhân tạo bị bên thứ ba xâm nhập, chiếm quyền điều khiển hoặc can thiệp trái pháp luật thì bên thứ ba phải chịu trách nhiệm bồi thường thiệt hại. Trường hợp bên triển khai, nhà cung cấp có lỗi trong việc để hệ thống bị xâm nhập, chiếm quyền điều khiển hoặc can thiệp trái pháp luật thì phải liên đới bồi thường thiệt hại theo quy định của pháp luật dân sự.

Chính phủ quy định chi tiết về xử phạt vi phạm hành chính đối với hành vi vi phạm do hệ thống trí tuệ nhân tạo gây ra.

Quy định mô hình đô thị công nghệ cao

Chiều cùng ngày, Quốc hội cũng thông qua Luật sửa đổi, bổ sung một số điều của Luật Sở hữu trí tuệ. Luật này có hiệu lực thi hành từ ngày 1/4/2026.

Theo đó, luật bổ sung quy định về quản lý, khai thác quyền sở hữu trí tuệ. Cụ thể, chủ sở hữu quyền sở hữu trí tuệ được sử dụng quyền sở hữu trí tuệ để thực hiện các hoạt động giao dịch dân sự, thương mại, đầu tư và các hoạt động khác theo quy định liên quan.

Nhà nước khuyến khích khai thác quyền sở hữu trí tuệ, sử dụng quyền sở hữu trí tuệ để góp vốn hoặc thế chấp để vay vốn theo quy định của pháp luật về đầu tư, doanh nghiệp, tín dụng và quy định khác của pháp luật có liên quan. Luật giao Chính phủ quy định chi tiết điều này.

Quốc hội thông qua Luật Công nghệ cao (sửa đổi) (Ảnh: Phạm Thắng).

Quốc hội cũng thông qua Luật Công nghệ cao (sửa đổi) với tuyệt đại đa số tán thành. Trong đó quy định về mô hình đô thị công nghệ cao

Đô thị công nghệ cao là đô thị được hình thành và phát triển trên cơ sở hệ sinh thái công nghệ cao, trong đó khu công nghệ cao, các tổ chức khoa học và công nghệ giữ vai trò trung tâm.

Đô thị công nghệ cao ngoài việc đáp ứng các tiêu chí của đô thị theo quy định của pháp luật, còn phải đáp ứng các điều kiện như có khu công nghệ cao và tổ chức khoa học và công nghệ giữ vai trò trung tâm phát triển, được kết nối đồng bộ về hạ tầng kỹ thuật, hạ tầng số và hạ tầng xã hội với các khu vực phụ cận.

Có hạ tầng kỹ thuật, hạ tầng số và hạ tầng công nghệ phục vụ nghiên cứu, phát triển và ứng dụng công nghệ cao, công nghệ chiến lược.

Ngoài ra phải có hệ sinh thái đổi mới sáng tạo với sự tham gia của tổ chức nghiên cứu, cơ sở ươm tạo, doanh nghiệp công nghệ cao, doanh nghiệp khởi nghiệp sáng tạo và trung tâm chuyển giao công nghệ; có môi trường sống xanh, an toàn và phát triển bền vững; chất lượng sống được nâng cao thông qua hệ thống dịch vụ thông minh, tạo điều kiện thuận lợi cho hoạt động khoa học, công nghệ và đổi mới sáng tạo…

Luật có quy định ưu tiên đầu tư, hỗ trợ và khuyến khích hợp tác công - tư để phát triển hạ tầng kỹ thuật, hạ tầng số, hạ tầng công nghệ, hạ tầng xã hội và kết nối vùng phục vụ phát triển đô thị công nghệ cao; khuyến khích tổ chức, cá nhân đầu tư phát triển đô thị công nghệ cao.

Căn cứ yêu cầu quản lý và điều kiện thực tiễn, Chính phủ quy định về phát triển đô thị công nghệ cao.

Hoàng Thị Bích

Nguồn Người Đưa Tin : https://nguoiduatin.vn/nghiem-cam-dung-ai-de-gia-mao-mo-phong-nguoi-lua-doi-thao-tung-co-chu-dich-204251210162641518.htm