Đề xuất cấm dùng AI tạo hình ảnh, video gây nhầm lẫn hoặc lừa đảo

3 giờ trướcBài gốc

Tại dự thảo Luật Chuyển đổi số, Bộ KH-CN đề xuất nhiều hành vi bị nghiêm cấm trong chuyển đổi số.

Cụ thể, lợi dụng chuyển đổi số để xâm phạm an ninh quốc gia, trật tự an toàn xã hội, đạo đức, thuần phong mỹ tục; tạo lập, lan truyền nội dung sai sự thật, xuyên tạc giá trị văn hóa, hoặc xúc phạm danh dự, nhân phẩm, quyền và lợi ích hợp pháp của tổ chức, cá nhân; phát tán, tuyên truyền, lưu trữ, sử dụng trái phép dữ liệu số, công nghệ số phục vụ cho mục đích vi phạm pháp luật.

Cản trở, can thiệp, phá hoại, làm sai lệch, chiếm đoạt, hủy hoại hạ tầng cho chuyển đổi số, các nền tảng số, cơ sở dữ liệu quốc gia, dữ liệu số của tổ chức, cá nhân, cơ quan nhà nước; vi phạm quy định về bảo vệ dữ liệu cá nhân, an toàn thông tin, an ninh mạng trong quá trình triển khai chuyển đổi số.

Dự thảo cũng cấm việc lợi dụng nền tảng số, công nghệ số để thực hiện hành vi gian lận, lừa đảo, trục lợi hoặc sử dụng giao diện lừa đảo nhằm thao túng, ngăn cản người dùng đưa ra lựa chọn có hiểu biết và tự do.

“Tạo ra hoặc chỉnh sửa nội dung (văn bản, hình ảnh, âm thanh, video) bằng trí tuệ nhân tạo (AI) mà không dán nhãn rõ ràng, gây nhầm lẫn hoặc có mục đích lừa đảo”, dự thảo nêu.

Dự thảo Luật Chuyển đổi số cấm dùng AI tạo hình ảnh, video gây nhầm lẫn hoặc lừa đảo

Đáng chú ý, dự thảo cũng cấm lạm dụng vị trí thống lĩnh thị trường của nền tảng số để thực hiện các hành vi cạnh tranh không lành mạnh, theo pháp luật về cạnh tranh như: định giá không công bằng, phân biệt đối xử, tự ưu tiên sản phẩm, dịch vụ của nền tảng nhằm cản trở sự gia nhập thị trường, loại bỏ đối thủ cạnh tranh của các doanh nghiệp khác.

Ngoài ra, cán bộ, công chức, viên chức, người lao động trong các cơ quan thuộc hệ thống chính trị đưa vào hệ thống AI các thông tin thuộc danh mục bí mật Nhà nước, dữ liệu cá nhân chưa được sự đồng ý của chủ thể, hoặc thông tin nội bộ ảnh hưởng đến an ninh quốc gia, trật tự an toàn xã hội; sử dụng AI cho các hành vi vi phạm pháp luật như lừa đảo, tạo thông tin sai lệch, phá hoại hệ thống, hoặc xâm nhập trái phép vào hệ thống thông tin; khai thác AI tại nơi công cộng theo cách có thể rò rỉ thông tin; lưu trữ mật khẩu công vụ trên thiết bị hoặc nền tảng AI.

Bộ KH-CN cũng đề xuất quy định về trách nhiệm của cơ quan, tổ chức, cá nhân trong quản lý hệ thống AI.

Theo dự thảo, cán bộ, công chức, viên chức và người lao động trong cơ quan nhà nước khi sử dụng hệ thống AI, bao gồm mô hình ngôn ngữ lớn, phải tuân thủ pháp luật Việt Nam, đảm bảo an toàn, bảo mật và tôn trọng quyền con người.

Việc sử dụng AI trong hoạt động công vụ phải phù hợp với thuần phong mỹ tục, đạo đức xã hội, và không gây ảnh hưởng tiêu cực đến uy tín, hoạt động của cơ quan, tổ chức.

Dự thảo nêu rõ, thông tin cung cấp cho hệ thống AI phải được kiểm soát, đảm bảo không vi phạm quyền sở hữu trí tuệ, bản quyền, chủ quyền lãnh thổ, hoặc các giá trị lịch sử, văn hóa của Việt Nam.

Việc sử dụng tài khoản AI phải độc lập với tài khoản công vụ và không sử dụng các mật khẩu trùng lặp nhằm đảm bảo an toàn thông tin.

Cơ quan, đơn vị sử dụng AI có trách nhiệm tổ chức đào tạo, hướng dẫn cán bộ sử dụng đúng chức năng, mục đích; bảo đảm quản lý truy cập, phân quyền và bảo mật tài khoản; trường hợp phát hiện mất kiểm soát hoặc giả mạo tài khoản AI, cần phải thông báo kịp thời đến đơn vị triển khai để xử lý và báo cáo lên cơ quan chức năng.

Cơ quan, đơn vị sử dụng AI có trách nhiệm giám sát, xử lý vi phạm trong quá trình triển khai và sử dụng AI trong phạm vi quản lý; xây dựng cơ sở dữ liệu tri thức chuyên ngành để triển khai hệ thống AI phù hợp.

Cá nhân sử dụng AI trong công vụ phải tự chịu trách nhiệm về hành vi và nội dung cung cấp lên hệ thống.

Nhà nước ưu tiên nguồn lực đầu tư xây dựng các bộ dữ liệu lớn, chất lượng của Việt Nam, đặc biệt là dữ liệu cho việc huấn luyện các mô hình ngôn ngữ lớn tiếng Việt và các mô hình AI chuyên ngành phục vụ quản trị quốc gia.

Lam Thanh

Nguồn Một Thế Giới : https://1thegioi.vn/de-xuat-cam-dung-ai-tao-hinh-anh-video-gay-nham-lan-hoac-lua-dao-236257.html