Bác sĩ có thể bị AI đánh lừa

3 giờ trướcBài gốc

Ngày 24/3, nghiên cứu của nhóm 18 bác sĩ X quang đến từ 12 cơ sở y tế ở 6 quốc gia (gồm Mỹ, Pháp, Đức, Thổ Nhĩ Kỳ, Anh và UAE) do bác sĩ Mickael Tordjman, nghiên cứu sau tiến sĩ tại Trường Y Icahn, thuộc hệ thống Mount Sinai (New York, Mỹ), chủ trì, được công bố trên tạp chí Radiology của Hiệp hội X quang Bắc Mỹ (RSNA).

Nghiên cứu cho thấy, các ảnh X-quang được tạo bằng trí tuệ nhân tạo (AI) hiện có độ chân thực cao đến mức không chỉ con người mà ngay cả các hệ thống AI tiên tiến cũng gặp khó khăn trong việc nhận diện.

Trong tổng 264 ảnh X-quang được sử dụng trong nghiên cứu, một nửa là ảnh thật và một nửa do AI tạo ra. Các bác sĩ tham gia đánh giá hai bộ dữ liệu riêng biệt, bao gồm nhiều vùng cơ thể và một bộ ảnh X-quang phổi chuyên biệt, được tạo ra bằng các mô hình AI như ChatGPT và RoentGen.

Kết quả cho thấy, khi không được thông báo trước về sự tồn tại của ảnh giả, các bác sĩ chỉ nhận diện đúng 41% ảnh do AI tạo ra. Khi được cảnh báo, tỷ lệ này tăng lên 75%. Tuy nhiên, mức độ chính xác giữa các cá nhân chênh lệch đáng kể, dao động từ 58% đến 92%.

Không chỉ con người, các hệ thống AI đa phương thức cũng gặp khó khăn tương tự. Bốn mô hình được thử nghiệm đạt độ chính xác từ 57% đến 85%. Đáng chú ý, ngay cả hệ thống tham gia tạo ra ảnh giả cũng không thể nhận diện hoàn toàn các sản phẩm của chính mình.

Một phát hiện đáng lưu ý khác là số năm kinh nghiệm không giúp cải thiện khả năng phát hiện ảnh giả. Tuy vậy, các bác sĩ chuyên về cơ xương khớp có kết quả tốt hơn so với các chuyên ngành khác.

Theo nhóm nghiên cứu, ảnh X-quang giả thường mang một số đặc điểm thị giác tinh vi như cấu trúc xương quá mịn, cột sống thẳng bất thường, phổi đối xứng hoàn hảo, mạch máu phân bố đồng đều và các vết gãy có hình dạng “quá đẹp”, thường chỉ xuất hiện ở một phía của xương.

Phát hiện làm dấy lên lo ngại ảnh giả có thể được sử dụng trong các vụ kiện tụng hoặc bị chèn vào hệ thống bệnh viện nhằm thao túng chẩn đoán, gây rối loạn hoạt động lâm sàng và làm suy giảm niềm tin vào hồ sơ y tế số.

Để giảm thiểu rủi ro, các nhà nghiên cứu đề xuất áp dụng các biện pháp bảo mật như nhúng watermark vô hình vào ảnh và sử dụng chữ ký mã hóa gắn với kỹ thuật viên thực hiện chụp để xác thực nguồn gốc dữ liệu.

Theo bác sĩ Tordjman, những gì quan sát được hiện nay có thể mới chỉ là phần nổi của tảng băng. Bước tiếp theo của công nghệ này có thể là tạo ra các hình ảnh y khoa 3D như CT hoặc MRI bằng AI. Trong bối cảnh đó, việc xây dựng bộ dữ liệu đào tạo và công cụ phát hiện ngay từ bây giờ được xem là yêu cầu cấp thiết để bảo vệ tính chính xác của chẩn đoán y khoa.

(theo SciTechDaily)

Quang Minh

Nguồn TG&VN : https://baoquocte.vn/bac-si-co-the-bi-ai-danh-lua-373657.html