Thiệt hại do hệ thống AI gây ra được xem là từ nguồn nguy hiểm cao độ

một giờ trướcBài gốc

Sáng 21-11, Quốc hội đã nghe Bộ trưởng Bộ KH&CN Nguyễn Mạnh Hùng, thừa ủy quyền của Thủ tướng trình bày tờ trình dự án Luật Trí tuệ nhân tạo.

Điểm đáng lưu ý, dự án luật dành riêng một chương quy định về ứng dụng trí tuệ nhân tạo, phát triển hệ sinh thái đổi mới sáng tạo và nguồn nhân lực. Trong đó, dự thảo quy định việc xây dựng Chiến lược quốc gia về trí tuệ nhân tạo, được rà soát và cập nhật định kỳ ít nhất ba năm một lần.

Các chính sách phát triển hệ sinh thái cũng được nêu rõ, bao gồm ưu tiên trong mua sắm công đối với sản phẩm trí tuệ nhân tạo trong nước, ưu đãi về thuế, tín dụng. Doanh nghiệp nhỏ và vừa và doanh nghiệp khởi nghiệp được ưu tiên truy cập dữ liệu và hưởng chính sách hỗ trợ.

Dự án luật cũng đưa ra cơ chế hỗ trợ thử nghiệm có kiểm soát (Sandbox). Qua đó, tổ chức, cá nhân được tham gia cơ chế thử nghiệm có kiểm soát đối với trí tuệ nhân tạo. Hoàn thành thử nghiệm thành công có thể được áp dụng thủ tục rút gọn trong quá trình đánh giá sự phù hợp và được ưu tiên tiếp cận hỗ trợ tài chính từ Quỹ Phát triển Trí tuệ nhân tạo Quốc gia.

Bộ trưởng Bộ KH&CN Nguyễn Mạnh Hùng. Ảnh: QH

Về nguồn nhân lực, Chính phủ cho biết sẽ có một chiến lược phát triển nhân lực toàn diện được đề ra. Giáo dục phổ thông sẽ tích hợp nội dung cơ bản về trí tuệ nhân tạo, tư duy tính toán, kỹ năng số và đạo đức công nghệ.

Nhà nước triển khai Chương trình quốc gia phát triển nhân lực trí tuệ nhân tạo, do Bộ GD&ĐT chủ trì xây dựng.

Dự thảo cũng dành một chương quy định các cơ chế giám sát, chế tài xử lý và trách nhiệm bồi thường thiệt hại. Theo đó, cơ quan quản lý nhà nước có trách nhiệm kiểm tra việc tuân thủ pháp luật về trí tuệ nhân tạo. Khi có yêu cầu thanh tra, kiểm tra (hoặc yêu cầu của tòa án, trọng tài), các bên liên quan có nghĩa vụ cung cấp hồ sơ, dữ liệu để xác định nguyên nhân vi phạm hoặc phân định trách nhiệm.

Tổ chức, cá nhân vi phạm quy định của luật này sẽ bị xử lý kỷ luật, xử phạt vi phạm hành chính hoặc truy cứu trách nhiệm hình sự; nếu gây thiệt hại thì phải bồi thường theo pháp luật dân sự.

Nội dung then chốt là thiệt hại do hệ thống trí tuệ nhân tạo có rủi ro cao gây ra được xác định là thiệt hại do nguồn nguy hiểm cao độ gây ra. Cụ thể, nhà cung cấp và bên triển khai hệ thống phải chịu trách nhiệm bồi thường kể cả khi không có lỗi, trừ các trường hợp được miễn trừ theo Bộ luật Dân sự.

Theo tờ trình của Chính phủ, mức phạt tiền tối đa đối với vi phạm hành chính là 2 tỉ đồng đối với tổ chức và 1 tỉ đồng đối với cá nhân. Với các hành vi vi phạm nghiêm trọng, mức phạt tiền tối đa có thể lên đến 2% doanh thu của năm trước liền kề của tổ chức đó.

Chủ nhiệm Ủy ban KH,CN&MT của Quốc hội Nguyễn Thanh Hải.

Trình bày báo cáo thẩm tra nội dung này, Chủ nhiệm Ủy ban KH,CN&MT của Quốc hội Nguyễn Thanh Hải cho hay trách nhiệm pháp lý là một trong những nội dung rất phức tạp đối với quản lý AI, bởi hệ thống AI vận hành tự động và các vấn đề lỗi, hành vi, ý chí rất khó xác định theo nghĩa pháp lý truyền thống.

Do đó, cơ quan thẩm tra đề nghị nghiên cứu bổ sung nguyên tắc phân định trách nhiệm giữa các chủ thể như nhà phát triển, nhà cung cấp, bên triển khai và người sử dụng.

Việc phân định này phải gắn với mức độ kiểm soát thực tế, nghĩa vụ quản lý rủi ro của từng chủ thể và đặc biệt phải phân biệt rõ trường hợp cố ý (ví dụ cố tình thao túng dữ liệu đầu vào, sử dụng AI để thực hiện hành vi gây hại) với trường hợp không cố ý hoặc lỗi phát sinh từ giới hạn kỹ thuật, không dự đoán được trước.

Về thanh tra, kiểm tra và xử lý vi phạm, cơ quan thẩm tra lưu ý bảo đảm cân bằng giữa yêu cầu quản lý và chi phí tuân thủ, không mở rộng quá mức phạm vi thanh tra gây gánh nặng cho doanh nghiệp.

Đồng thời, cần rà soát đồng bộ quy định xử lý vi phạm với Luật Xử lý vi phạm hành chính, Luật Dữ liệu và Luật An ninh mạng, để thống nhất về thẩm quyền, hình thức và trình tự xử phạt.

NHÓM PHÓNG VIÊN

Nguồn PLO : https://plo.vn/thiet-hai-do-he-thong-ai-gay-ra-duoc-xem-la-tu-nguon-nguy-hiem-cao-do-post882568.html