Quốc hội bàn 'nóng' kiểm soát trí tuệ nhân tạo trong y tế

2 giờ trướcBài gốc

Chiều 27/11, Quốc hội thảo luận tại hội trường dự án Luật Trí tuệ nhân tạo.

Người bán thuốc theo đơn AI kê có vi phạm pháp luật?

Tham gia thảo luận, đại biểu Trần Khánh Thu (đoàn Hưng Yên) dẫn câu chuyện mới đây, một bệnh nhân (55 tuổi, ở TP HCM) được đưa đến bệnh viện cấp cứu trong tình trạng lơ mơ, không nhận biết xung quanh.

Con gái bệnh nhân cho hay, trước đó thấy mẹ bị chóng mặt, khó thở, cô nhờ trí tuệ nhân tạo (AI) chẩn đoán, kết quả cho thấy bị tăng huyết áp. Người con đo huyết áp cho mẹ thấy cao nên càng tin tưởng và ra tiệm thuốc mua thuốc.

Thế nhưng, sau khi uống, tình trạng người mẹ ngày càng tệ hơn, mệt, ói nhiều, đến khi không còn nhận thức được thì mới đưa đi cấp cứu. Tại bệnh viện, bác sĩ xác định bệnh nhân bị tổn thương não, đột quỵ và dù được cứu qua cơn nguy kịch, song di chứng để lại khó tránh khỏi.

Theo đại biểu, hiện nay, Internet rất phổ biến, đặc biệt là AI, một công cụ giúp bệnh nhân có được nguồn thông tin rất tốt khi muốn tìm hiểu về bệnh lý của mình và chuẩn bị câu hỏi cho bác sĩ khi chưa hiểu rõ.

Song, bà nhấn mạnh tuyệt đối không nên dùng kết quả tìm kiếm để chẩn đoán hay kê đơn thuốc cho bản thân. Nữ đại biểu cũng đặt câu hỏi: Người bán thuốc theo đơn AI kê liệu có vi phạm pháp luật không?

Theo đại biểu, hiện nay, các quy định cụ thể về sản phẩm ứng dụng trí tuệ nhân tạo trong y học vẫn chưa rõ ràng. Các sản phẩm phục vụ khám bệnh, chữa bệnh dựa trên trí tuệ nhân tạo hiện vẫn phải tuân theo quy trình cấp phép chung dành cho thiết bị y tế, nhưng thiếu các tiêu chuẩn và quy định riêng về trí tuệ nhân tạo cho các sản phẩm đó.

Ngoài ra, một số vấn đề như trách nhiệm pháp lý trong trường hợp trí tuệ nhân tạo mắc sai sót, bảo mật dữ liệu y tế, bảo đảm an toàn cho bệnh nhân cũng chưa được quy định rõ ràng trong các văn bản quy phạm pháp luật hiện hành.

Do đó, đại biểu kiến nghị, trong dự thảo Luật Trí tuệ nhân tạo cần có thêm điều khoản khung pháp lý cụ thể hơn để quản lý các sản phẩm trí tuệ nhân tạo trong y tế, đặc biệt là về trách nhiệm của các bên liên quan .

Bà đề nghị cơ quan soạn thảo xem xét có phụ lục minh họa về các cấp độ rủi ro với các tiêu chí định lượng, như: mức độ tự chủ, quy mô người dùng, ảnh hưởng đến quyền cơ bản, hoặc trong các lĩnh vực nhạy cảm (giáo dục, y tế, tư pháp, hạ tầng, việc làm…).

Cần có quy định riêng về dữ liệu y tế vì đây là loại dữ liệu đặc thù

Cùng thảo luận, đại biểu Lê Văn Khảm (đoàn TP HCM) cho rằng, cần có quy định riêng cho một số lĩnh vực có rủi ro cao như y tế, tài chính, giao thông. Đặc biệt với y tế, đây là lĩnh vực có rủi ro sai số lớn, liên quan trực tiếp đến sức khỏe, tính mạng người dân nên yêu cầu kiểm soát chặt chẽ hơn.

Ví dụ, những công nghệ AI hỗ trợ ra quyết định lâm sàng như AI chẩn đoán, AI dự đoán nguy cơ tử vong hoặc biến chứng, robot phẫu thuật sử dụng AI, AI hỗ trợ kê đơn hoặc phác đồ điều trị phải được kiểm định bắt buộc.

Đồng thời, cần có quy định riêng về giám sát lưu hành AI trong y tế, như báo cáo định kỳ, cảnh báo nhanh sự cố, kiểm toán thuật toán, theo dõi sai số theo thời gian thực.

Vì vậy, đại biểu đề nghị giao trách nhiệm quản lý AI trong y tế cho Bộ Y tế phối hợp với Bộ Khoa học và Công nghệ để ban hành tiêu chuẩn, quy chuẩn và hướng dẫn kỹ thuật. Cũng cần cân nhắc quy định việc nhà cung cấp tự phân loại rủi ro đối với AI trong y tế như tại Điều 9 của dự thảo luật.

Ông cũng đề nghị dự thảo luật có quy định riêng về dữ liệu y tế vì đây là loại dữ liệu đặc thù, yêu cầu cao về tính chính xác, đồng bộ, bảo mật, đặc hiệu và khả năng so sánh đối chiếu. Việc này vừa giúp phát triển AI trong y tế, vừa bảo đảm an toàn người bệnh, chất lượng dịch vụ chăm sóc sức khỏe và giảm thiểu rủi ro xã hội.

Đại biểu Phạm Văn Hòa (đoàn Đồng Tháp) nhấn mạnh: Việc gắn nhãn cho công nghệ AI rất cần thiết, để người dân, người tiêu dùng nhận biết đâu là sản phẩm, nội dung do AI tạo ra và đâu là sản phẩm do con người, công nghệ truyền thống tạo ra.

Ông lấy ví dụ trí tuệ nhân tạo có thể tạo ra hình ảnh giống hệt con người, ghép khuôn mặt người này vào thân thể người khác, tái tạo giọng nói, khuôn mặt, ID… gây nhầm lẫn.

Trong hoạt động sản xuất, kinh doanh, việc gắn nhãn giúp người tiêu dùng phân biệt rõ giữa sản phẩm sử dụng công nghệ AI và sản phẩm truyền thống, tạo cơ sở để điều chỉnh hành vi hoặc đánh giá chất lượng, độ tin cậy của sản phẩm trước khi quyết định sử dụng.

Từ đó, đại biểu đề nghị dự thảo luật cần quy định chặt chẽ, cụ thể việc gắn nhãn, phải thông báo rõ rằng đâu là sản phẩm của AI, không phải là con người thật.

Thiên Tuấn

Nguồn Tri Thức & Cuộc Sống : https://kienthuc.net.vn/quoc-hoi-ban-nong-kiem-soat-tri-tue-nhan-tao-trong-y-te-post1588594.html