Cảnh báo nguy cơ 'người sẽ biến thành máy trước khi máy biến thành người'

2 giờ trướcBài gốc

Lạm dụng AI, chính sách công có thể bị “bẻ lái”

Chiều 27/11, Quốc hội thảo luận về dự án Luật Trí tuệ nhân tạo.

Theo đại biểu Phạm Trọng Nghĩa (Lạng Sơn), việc lạm dụng AI tiềm ẩn nhiều bất ổn như: Xâm phạm chủ quyền quốc gia, giảm hiệu lực quản trị công và ảnh hưởng tiêu cực đến mỗi cá nhân, mỗi gia đình, nhất là thế hệ trẻ.

Ông Nghĩa cảnh báo, đã có ý kiến khoa học lo ngại, nếu không kiểm soát tốt sẽ dẫn đến nguy cơ “người sẽ biến thành máy trước khi máy biến thành người”.

Đại biểu Phạm Trọng Nghĩa. Ảnh: Như Ý

"Đề nghị Chính phủ chỉ đạo nghiên cứu, đề xuất xây dựng điều ước quốc tế khu vực và toàn cầu về AI để Việt Nam tích cực tham gia xây dựng các nguyên tắc, định hình khung pháp lý về AI trong môi trường quốc tế. Từ đó, bảo vệ lợi ích quốc gia từ sớm, từ xa như yêu cầu của Nghị quyết số 59 về hội nhập quốc tế" - ông Phạm Trọng Nghĩa.

Đối với khu vực công, việc lạm dụng AI làm giảm tính khả thi, tính nhân văn và hiệu quả của chính sách, pháp luật. Việc cung cấp các thông tin, dữ liệu nhạy cảm vào AI, nếu không được kiểm soát chặt, có thể dẫn đến rò rỉ dữ liệu, gây tổn hại đến an ninh quốc gia và trật tự an toàn xã hội với hệ lụy khó lường.

Đại biểu Phạm Trọng Nghĩa cho rằng, lạm dụng AI có thể làm cho chính sách công bị “bẻ lái” phục vụ mục đích của người phát triển, người sở hữu công nghệ - thường ở nước ngoài.

Do đó, đại biểu đoàn Lạng Sơn đề nghị bổ sung vào dự thảo luật một điều, quy định hành vi bị nghiêm cấm như báo cáo thẩm tra đã nêu, trong đó, có cấm lạm dụng AI trong khu vực công. Chính phủ cần sớm ban hành quy định về trách nhiệm khi sử dụng AI trong công vụ và ban hành khung đạo đức trí tuệ nhân tạo.

"Dạy” AI hiểu về pháp luật Việt Nam

Nhìn nhận AI như một "con người mới sinh" chưa biết pháp luật, đạo đức, lễ nghĩa, đại biểu Trần Văn Lâm (Bắc Ninh) kiến nghị bổ sung nguyên tắc pháp lý: Mọi phần mềm AI hoạt động tại Việt Nam, dù do tổ chức trong hay ngoài nước, đều phải được trang bị "cơ sở dữ liệu nền tảng làm người chuẩn mực".

Theo ông, cơ sở dữ liệu này phải chứa đựng đầy đủ thông tin để dạy AI hiểu về pháp luật Việt Nam; chuẩn mực đạo đức, văn hóa, truyền thống tốt đẹp của dân tộc; khả năng nhận diện đúng - sai, hợp chuẩn - trái chuẩn.

Quan trọng nhất, kho dữ liệu nền tảng này phải luôn chiếm vị trí ưu tiên tuyệt đối trong việc chi phối hành vi của AI, không được phép bị ghi đè, thay thế hoặc bị vô hiệu hóa bởi bất kỳ thuật toán hoặc dữ liệu huấn luyện nào khác. "Đây chính là ‘vòng kim cô’ pháp lý và kỹ thuật bảo đảm AI không đi chệch hướng", đại biểu Trần Văn Lâm nhấn mạnh.

Theo định hướng này, đại biểu đoàn Bắc Ninh kiến nghị Bộ Khoa học và Công nghệ chủ trì xây dựng Bộ Cơ sở dữ liệu nền tảng "làm người Việt Nam" thống nhất, chuẩn hóa, cập nhật liên tục; cung cấp cho các nhà phát triển AI như một yêu cầu bắt buộc.

Đại biểu Hoàng Minh Hiếu. Ảnh: Như Ý

Đề cập đến cơ chế thử nghiệm có kiểm soát đối với AI, đại biểu Hoàng Minh Hiếu (Nghệ An) cho rằng, cơ chế này hết sức quan trọng. Bởi theo ông, AI là vấn đề rất mới, liên quan đến nhiều lĩnh vực, mục đích chính của cơ chế là gỡ bỏ rào cản pháp lý, cho phép thử nghiệm trong phạm vi giới hạn để thu thập dữ liệu, chứng minh hiệu quả, từ đó thúc đẩy cải cách pháp lý lâu dài.

Bên cạnh đó, đại biểu thuộc Ủy ban Pháp luật và Tư pháp đề nghị xem lại quy định về việc tổ chức, cá nhân tham gia thử nghiệm có kiểm soát được miễn hoặc giảm một số nghĩa vụ tuân thủ quy định tại luật này.

Phát biểu tiếp thu, giải trình, Bộ trưởng Bộ Khoa học, Công nghệ Nguyễn Mạnh Hùng cho biết, về hạ tầng trí tuệ Việt Nam, Nhà nước xây dựng Trung tâm siêu tính toán và dữ liệu AI quốc gia phục vụ nghiên cứu, huấn luyện; đồng thời khuyến khích phát triển hạ tầng AI, mô hình ngôn ngữ tiếng Việt và tiếng dân tộc thiểu số, tránh phụ thuộc hoàn toàn vào nước ngoài. Bên cạnh đó, luật cũng đặt nền tảng xây dựng tiêu chuẩn, quy chuẩn kỹ thuật AI, khuyến khích AI mã nguồn mở và ban hành khung đạo đức AI...

Luân Dũng

Nguồn Tiền Phong : https://tienphong.vn/canh-bao-nguy-co-nguoi-se-bien-thanh-may-truoc-khi-may-bien-thanh-nguoi-post1800076.tpo