Dự thảo Luật Trí tuệ nhân tạo AI trong y tế phải được kiểm định như thiết bị y tế

2 giờ trướcBài gốc

Quang cảnh phiên thảo luận tại hội trường về dự án Luật Trí tuệ nhân tạo

Quản lý các sản phẩm AI dành cho y tế

Là đại biểu công tác trong ngành y tế, ĐBQH Trần Khánh Thu (Hưng Yên) đánh giá cao những tác động của trí tuệ nhân tạo (AI) trong ngành y tế - một trong những lĩnh vực có nhiều tiềm năng ứng dụng AI nhất, với những ảnh hưởng rõ rệt lên quy trình chẩn đoán, điều trị, quản lý bệnh nhân cũng như nghiên cứu và phát triển dược phẩm.

Tuy nhiên, mới đây, đã xuất hiện một bệnh nhân 55 tuổi ở TP. Hồ Chí Minh được đưa đến bệnh viện cấp cứu trong tình trạng lơ mơ, không nhận biết xung quanh. Con gái bệnh nhân cho hay, trước đó thấy mẹ chóng mặt, khó thở, cô đã nhờ AI chẩn đoán. Kết quả cho thấy bị tăng huyết áp.

ĐBQH Trần Khánh Thu (Hưng Yên) phát biểu

Đại biểu cho biết, người con đo huyết áp cho mẹ và thấy huyết áp có tăng thật nên đã ra hiệu thuốc mua thuốc cho mẹ uống. Nhưng sau khi uống xong, tình trạng người mẹ ngày càng tệ hơn, mệt, ói nhiều, dẫn đến không còn nhận thức thì mới đưa đi cấp cứu. Tại bệnh viện, bác sĩ xác nhận bệnh nhân bị tổn thương não, đột quỵ. Dù được cứu qua cơn nguy kịch, song di chứng để lại là khó tránh khỏi.

Đại biểu thẳng thắn, hiện nay internet rất phổ biến, đặc biệt là AI, một nguồn thông tin rất tốt cho người bệnh khi muốn tìm hiểu thêm về bệnh lý của mình… Thế nhưng, tuyệt đối mọi người không thể dùng kết quả để tìm kiếm, chẩn đoán hay kê đơn thuốc cho bản thân được - và người bán thuốc theo đơn AI có vi phạm pháp luật không? - đại biểu nêu vấn đề.

Đại biểu cũng chỉ rõ, chúng ta chưa có khung pháp lý cụ thể và đầy đủ dành riêng cho việc ứng dụng AI trong y tế. Mặc dù các Luật như: Luật Khám bệnh, chữa bệnh hay Luật Dược đã có điều chỉnh các hoạt động khám chữa bệnh, các sản phẩm y tế, song các quy định cụ thể về sản phẩm ứng dụng AI trong y học vẫn chưa rõ ràng.

Bên cạnh đó, các sản phẩm phục vụ khám, chữa bệnh dựa trên AI hiện vẫn đang tuân theo các quy trình cấp phép chung dành cho thiết bị y tế, thiếu đi các tiêu chuẩn và quy định riêng về AI cho các sản phẩm đó.

Các đại biểu tham dự phiên thảo luận

“Ngoài ra, một số vấn đề như trách nhiệm pháp lý trong trường hợp AI mắc sai sót và bảo mật dữ liệu y tế, bảo đảm an toàn cho bệnh nhân cũng chưa được đưa ra quy định rõ ràng trong các văn bản quy phạm pháp luật hiện hành”, đại biểu nhấn mạnh.

Từ thực tế trên, đại biểu Trần Khánh Thu kỳ vọng, dự thảo Luật Trí tuệ nhân tạo sẽ có thêm các điều, khoản, khung pháp lý cụ thể hơn để quản lý các sản phẩm AI dành cho y tế, đặc biệt là trách nhiệm của các bên liên quan.

Cho rằng, y tế là lĩnh vực nhạy cảm, rủi ro cao nên cần được kiểm soát chặt chẽ nhất khi ứng dụng AI, đại biểu ĐBQH Lê Văn Khảm (TP. Hồ Chí Minh) đề nghị, cần nghiên cứu quy định, AI trong y tế phải được kiểm định như thiết bị y tế. Có các danh mục bắt buộc phải kiểm định khi AI hỗ trợ ra quyết định lâm sàng như: AI chẩn đoán, AI dự đoán nguy cơ tử vong hoặc có biến chứng, robot phẫu thuật có sử dụng AI, AI hỗ trợ kê đơn hoặc ra phác đồ điều trị.

Bên cạnh đó, đại biểu đề nghị cần quy định về giám sát lưu hành dành riêng cho AI trong y tế để bảo đảm an toàn cho người bệnh, như quy định về báo cáo định kỳ, cảnh báo nhanh sự cố, kiểm toán thuật toán, theo dõi sai số theo thời gian thực. Khi có các quy định có tính nguyên tắc trong luật này thì cơ quan chức năng sẽ ban hành văn bản dưới luật để thực hiện, cũng như xây dựng công cụ quản lý và các biện pháp phù hợp trong quản trị AI y tế.

Quang cảnh phiên họp. Ảnh: Quang Khánh

Đồng thời, cơ quan soạn thảo cần cân nhắc kỹ việc để nhà cung cấp tự phân loại rủi ro đối với AI trong y tế như quy định tại Điều 9, dự thảo luật, đại biểu Lê Văn Khảm đề nghị.

Đánh giá tác động dữ liệu khi triển khai AI rủi ro cao

Nhấn mạnh phân loại rủi ro là linh hồn của Luật Trí tuệ nhân tạo, ĐBQH Thạch Phước Bình (Vĩnh Long) lưu ý, dự thảo Luật chưa đưa ra tiêu chí phân loại mang tính định lượng. Danh mục hệ thống AI rủi ro cao đang được quy định tương đối rộng, bao gồm cả lĩnh vực mà thực tiễn chưa xuất hiện rủi ro đáng kể. Điều này có thể tạo ra gánh nặng tuân thủ không cần thiết, đặc biệt là những doanh nghiệp nhỏ và vừa.

ĐBQH Thạch Phước Bình (Vĩnh Long) phát biểu. Ảnh: Phạm Thắng

Vì vậy, đại biểu đề nghị, cần rà soát danh mục rủi ro cao theo hướng chỉ tập trung vào những hệ thống có thể gây tác động lớn tới quyền con người, quyền riêng tư, sức khỏe, tài chính và an toàn xã hội. Đồng thời, thiết lập cơ chế cập nhật linh hoạt danh mục rủi ro cao trên cơ sở tham vấn chuyên gia, hiệp hội ngành hàng và tổ chức nghiên cứu. Gắn tiêu chí rủi ro vào các đặc tính kỹ thuật của mô hình như tính tự động, khả năng tự học, tính không dự đoán được và quy mô sử dụng.

Về dữ liệu, quyền riêng tư và bảo vệ người dùng, đại biểu Thạch Phước Bình cho biết, dữ liệu là “nhiên liệu” của AI, nhưng các quy định hiện hành của dự thảo Luật chưa đồng bộ với Luật Bảo vệ dữ liệu cá nhân. Cần làm rõ mức độ xử lý cho phép đối với dữ liệu nhạy cảm, dữ liệu trẻ em và dữ liệu sinh trắc học. Đồng thời, bổ sung nghĩa vụ đánh giá tác động dữ liệu khi triển khai AI rủi ro cao.

Đối với người dùng AI, dự thảo luật đã đề cập một số quyền cơ bản nhưng vẫn còn thiếu các quyền quan trọng theo chuẩn quốc tế như: quyền từ chối quyết định hoàn toàn tự động hoặc quyền yêu cầu giải thích. Đây là những quyền rất quan trọng để giúp người dân không bị tổn thương bởi các quyết định dựa trên AI trong lĩnh vực tài chính, bảo hiểm, y tế hoặc tuyển dụng lao động.

Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng giải trình ý kiến của các ĐBQH tại phiên họp. Ảnh: Hồ Long

Đại biểu nêu thực tế, deepfake, giả mạo tiếng nói, hình ảnh, video đã gây ra nhiều vụ việc ảnh hưởng nghiêm trọng đến an ninh thông tin và quyền riêng tư. Điều 9, dự thảo Luật quy định gắn nhãn đầu ra AI, nhưng vẫn cần làm rõ một số điểm như: những loại nội dung nào bắt buộc phải gắn nhãn, mức độ gắn nhãn như thế nào để vừa bảo vệ người dùng, vừa không làm giảm trải nghiệm số, trách nhiệm các nền tảng mạng xã hội trong phát hiện và gỡ bỏ nội dung giả mạo. Việc thiết kế cơ chế gắn nhãn chặt chẽ nhưng linh hoạt là yếu tố hết sức cần thiết.

Đại biểu cũng lưu ý, hệ thống đánh giá sự phù hợp là một trong những nội dung mang tính kỹ thuật cao nhất của dự thảo Luật. Tuy nhiên, nếu thiết kế cơ chế tiền kiểm quá nặng, chúng ta có thể vô tình cản trở đổi mới sáng tạo.

Do đó, đại biểu Thạch Phước Bình đề xuất chỉ yêu cầu chứng nhận đối với hệ thống rủi ro cao, cho phép tự đánh giá đối với các hệ thống rủi ro thấp và trung bình. Bảo đảm quy trình đánh giá rõ ràng, minh bạch, tránh phát sinh cơ chế xin - cho.

Anh Thảo

Nguồn Đại Biểu Nhân Dân : https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-ai-trong-y-te-phai-duoc-kiem-dinh-nhu-thiet-bi-y-te-10397661.html