Lạm dụng AI, nguy cơ 'người biến thành máy trước khi máy biến thành người'

2 giờ trướcBài gốc

AI tác động sâu rộng đến khoa học, công nghệ và đời sống

Đại biểu Quốc hội tỉnh Hưng Yên Trần Khánh Thu phát biểu. Ảnh: Doãn Tấn/TTXVN

Đại biểu Trần Khánh Thu (Hưng Yên) cho biết, trí tuệ nhân tạo đã trở thành một cuộc cách mạng công nghệ và tác động sâu rộng đến nhiều lĩnh vực khoa học, công nghệ và đời sống. Trong số đó, ngành y tế được đánh giá là một trong những lĩnh vực có nhiều tiềm năng ứng dụng trí tuệ nhân tạo nhất, với những ảnh hưởng rõ rệt lên quy trình chẩn đoán, điều trị, quản lý bệnh nhân, cũng như nghiên cứu và phát triển dược phẩm. Việc kết hợp các phần mềm như học máy, học sâu và dữ liệu lớn (Big Data) đã mở ra nhiều hướng đi mới, giúp nâng cao chất lượng chăm sóc sức khỏe và hiệu quả trong điều trị bệnh tật.

“Trí tuệ nhân tạo không chỉ giúp tối ưu hóa các quy trình trong ngành y tế, giảm tải công việc cho các bác sĩ và chuyên gia y tế, mà còn đóng vai trò quan trọng trong việc cá nhân hóa điều trị, từ đó cải thiện kết quả chăm sóc sức khỏe và tăng cường hiệu quả sử dụng nguồn lực”, đại biểu Thu nói.

Theo bà, tại Việt Nam, việc áp dụng trí tuệ nhân tạo trong y tế đang ngày càng phát triển, tuy nhiên, vẫn đối mặt với nhiều thách thức như cơ sở hạ tầng hạn chế, khả năng tiếp cận công nghệ và nhân lực y tế chưa đồng đều.

Đại biểu Trần Khánh Thu kể câu chuyện một bệnh nhân 55 tuổi, ở TP Hồ Chí Minh, được đưa đến bệnh viện cấp cứu trong tình trạng lơ mơ, không nhận biết xung quanh do được con gái “nhờ trí tuệ nhân tạo (AI) chẩn đoán” là bị tăng huyết áp và cho uống thuốc để điều trị chứng chóng mặt, khó. Sau khi uống, tình trạng người mẹ ngày càng tệ hơn. Bác sĩ xác định bệnh nhân bị tổn thương não, đột quỵ.

Từ dẫn chứng trên, đại biểu tỉnh Hưng Yên nêu quan điểm, hiện nay, Internet rất phổ biến, đặc biệt là AI - một nguồn thông tin rất tốt cho bệnh nhân khi muốn tìm hiểu thêm về bệnh lý của mình. Thế nhưng, tuyệt đối mọi người không dùng kết quả tìm kiếm để chẩn đoán hay kê đơn thuốc cho bản thân.

Hiện chưa có một khung pháp lý cụ thể và đầy đủ dành riêng cho việc ứng dụng trí tuệ nhân tạo trong y tế. Đại biểu hi vọng trong dự thảo Luật Trí tuệ nhân tạo lần này sẽ điều khoản cụ thể hơn để quản lý các sản phẩm trí tuệ nhân tạo trong y tế, đặc biệt là về trách nhiệm của các bên liên quan.

Xử lý hình sự đối tượng cố ý triển khai AI rủi ro cao mà không kiểm thử

Đại biểu Quốc hội TP Hồ Chí Minh Phạm Trọng Nhân phát biểu. Ảnh: Doãn Tấn/TTXVN

Cho rằng trong bối cảnh thế giới đang chạy đua phát triển trí tuệ nhân tạo với nhiều lựa chọn, nhiều chiến lược khác nhau, từ siết chặt bảo vệ người dân cho đến mở rộng để thúc đẩy đổi mới, không có mô hình chung cho tất cả, đại biểu Phạm Trọng Nhân (TP Hồ Chí Minh) nêu rõ: điều quan trọng là Việt Nam phải chọn đường đi phù hợp nhất cho mình.

Theo đại biểu, con đường đó phải được dẫn dắt bởi ba vấn đề cốt lõi. Thứ nhất, rủi ro về bất bình đẳng thông tin và quyền riêng tư dữ liệu. Nếu chúng ta để toàn bộ không gian dữ liệu và mô hình nằm trong tay một số ít các chủ thể, đặc biệt là nền tảng xuyên biên giới, thì khoảng cách “quyền lực dữ liệu” giữa người dân – doanh nghiệp – Nhà nước sẽ ngày càng lớn. Hiện nay, hơn 97% dữ liệu tiếng Việt chất lượng cao đang nằm trong tay 5 nền tảng xuyên biên giới. Nếu không hành động ngay, chỉ vài năm nữa, việc phát triển mô hình tiếng Việt lớn có thể bị chi phối mạnh bởi các nền tảng nước ngoài.

Thứ hai, rủi ro về chênh lệch và thiếu minh bạch trong các quyết định do AI hỗ trợ. Khi AI được dùng để chấm điểm tín dụng, tuyển dụng, đánh giá năng lực học sinh, dự báo rủi ro sức khỏe, phân luồng dịch vụ công, chúng ta không thể để một “hộp đen thuật toán” đưa ra kết quả mà người dân không hiểu, cơ quan quản lý không giải trình được, và người chịu tác động không biết dựa vào đâu để kiến nghị hay khiếu nại.

Thứ ba, rủi ro về thao túng nhận thức rất tinh vi. Chỉ trong 9 tháng năm 2025, thế giới đã ghi nhận hơn 180.000 video deepfake chính trị. Riêng tại châu Á, 40 - 41% trong số đó nhắm vào lãnh đạo các quốc gia đang phát triển.

“Một video giả vài giây có thể gây tổn hại nghiêm trọng đến uy tín, trật tự xã hội và an ninh quốc gia”, đại biểu cảnh báo.

Từ ba vấn đề này, đại biểu nhìn nhận, triết lý quan trọng nhất của luật không phải để “kiểm soát AI”, mà là định hướng AI theo cách vừa mở đường cho sáng tạo, vừa bảo vệ con người, cân bằng giữa tự do đổi mới và an toàn xã hội.

Đại biểu đề nghị dự thảo luật áp dụng cách tiếp cận dựa trên rủi ro, không dựa trên công nghệ. Phân loại rõ bốn bậc: Rủi ro thấp: tạo hành lang thông thoáng để khuyến khích sáng tạo. Rủi ro trung bình: yêu cầu gắn nhãn, minh bạch, thông báo cho người dùng. Rủi ro cao: trong các lĩnh vực như y tế, tư pháp, tín dụng… phải có cơ chế kiểm soát bắt buộc, chứng nhận an toàn, giám sát của con người và trách nhiệm giải trình rõ ràng. Rủi ro không thể chấp nhận: cần cấm tuyệt đối hoặc hạn chế nghiêm ngặt (như AI thao túng hành vi, khai thác nhóm yếu thế, deepfake gây tổn hại danh dự, chấm điểm xã hội, nhận dạng sinh trắc học thời gian thực, quảng cáo nhắm mục tiêu theo tôn giáo, sắc tộc, chính kiến…). Đây là các ứng dụng có nguy cơ xâm phạm nghiêm trọng đến nhân phẩm, quyền con người và an ninh quốc gia.

Cùng với đó, bảo vệ quyền công dân, buộc các nền tảng nước ngoài có trên 5 triệu người dùng tại Việt Nam phải đặt pháp nhân tại Việt Nam và chịu trách nhiệm quản lý như doanh nghiệp Việt, thành lập ngay Ủy ban An toàn Hệ thống AI quốc gia trực thuộc Thủ tướng Chính phủ để triển khai kịp thời chiến lược phát triển hệ thống AI, đồng bộ với chiến lược chuyển đổi số quốc gia. Luật phải có cơ chế cập nhật theo thời gian thực và chế tài phải đủ mạnh, phạt hành chính là chưa đủ, mà phải xử lý hình sự đối với các đối tượng cố ý triển khai AI rủi ro cao mà không kiểm thử và không minh bạch.

Chung quan điểm với đại biểu Trần Khánh Thu, đại biểu Nhân nêu thực tế đã có không ít “bác sĩ AI”, “luật sư AI” tư vấn sai; nếu không kiểm soát chặt, hậu quả với sức khỏe, quyền con người và tài sản của người dân là không thể lường được.

Còn theo đại biểu Phạm Trọng Nghĩa (Lạng Sơn), cùng với cơ hội, phụ thuộc quá mức vào AI làm giảm năng lực tư duy và khả năng sáng tạo. Việc lạm dụng AI tiềm ẩn nhiều bất ổn như: xâm phạm chủ quyền quốc gia, giảm hiệu lực của quản trị công và ảnh hưởng tiêu cực đến mỗi cá nhân, mỗi gia đình nhất là thế hệ trẻ. Đã có ý kiến khoa học lo ngại nếu không kiểm soát tốt sẽ dẫn đến nguy cơ “người sẽ biến thành máy trước khi máy biến thành người”.

Đại biểu Quốc hội tỉnh Lạng Sơn Phạm Trọng Nghĩa phát biểu. Ảnh: Doãn Tấn/TTXVN

Đối với khu vực công, lạm dụng AI làm giảm tính khả thi, tính nhân văn và hiệu quả của chính sách, pháp luật. Việc cung cấp các thông tin, dữ liệu nhạy cảm vào AI, nếu không được kiểm soát chặt, có thể dẫn đến rò rỉ dữ liệu, gây tổn hại đến an ninh quốc gia và trật tự an toàn xã hội với hệ lụy khó lường.

Chu Thanh Vân (TTXVN)

Nguồn Tin Tức TTXVN : https://baotintuc.vn/thoi-su/lam-dung-ai-nguy-co-nguoi-bien-thanh-may-truoc-khi-may-bien-thanh-nguoi-20251127183012327.htm