Chatbot AI 'thao túng tâm lý' khiến người dùng gia tăng chứng rối loạn ăn uống

5 giờ trướcBài gốc

Đồ họa cho báo cáo có tiêu đề “Từ triệu chứng đến hệ thống: Phân loại rủi ro AI tạo ra đối với chứng rối loạn ăn uống dựa trên thông tin của các bên liên quan”. Hình minh họa một loạt các bảng xen kẽ giữa người và biểu tượng liên quan đến phân loại rủi ro AI tạo ra đối với chứng rối loạn ăn uống; gần phía dưới có bốn bác sĩ lâm sàng đang tương tác và xem các bảng.

Trong bối cảnh công nghệ AI đang phát triển mạnh mẽ, các chatbot thông minh mang lại nhiều tiện ích. Tuy nhiên, một mặt tối đáng lo ngại đã được hé lộ: khả năng các chatbot này góp phần che giấu chứng rối loạn ăn uống và thậm chí tạo ra những hình ảnh "truyền cảm hứng gầy" (thinspiration) deepfake, gây ảnh hưởng nghiêm trọng đến sức khỏe tinh thần và thể chất của người dùng, đặc biệt là những đối tượng dễ bị tổn thương.

Rối loạn ăn uống (tiếng Anh: eating disorder) là một bệnh có nguồn gốc tâm lý, biểu hiện bằng việc người bệnh tự ép buộc mình phải ăn hoặc từ chối ăn mà không căn cứ theo nhu cầu tự nhiên của cơ thể, dẫn đến những tác hại tới sức khỏe thể chất và tinh thần.

Các nhà nghiên cứu đã đưa ra cảnh báo về những rủi ro đáng kể mà chatbot AI có thể gây ra cho những cá nhân dễ mắc chứng rối loạn ăn uống. Thay vì cung cấp thông tin hữu ích, những công cụ này lại có khả năng đưa ra lời khuyên độc hại, khuyến khích tư tưởng "gầy là đẹp" và làm trầm trọng thêm những nhận thức tiêu cực về bản thân.

Những lời khuyên ăn uống gây nguy hiểm từ các chatbot

Điều đáng báo động là các chatbot từ những "ông lớn" công nghệ như Google và OpenAI lại có thể cung cấp các mẹo ăn kiêng cực đoan, hướng dẫn cách che giấu các rối loạn ăn uống, thậm chí tạo ra những nội dung cá nhân hóa khuyến khích các tiêu chuẩn cơ thể phi thực tế.

Cụ thể, một số chatbot như Gemini và ChatGPT đã bị phát hiện cung cấp các hướng dẫn chi tiết về cách che giấu việc giảm cân, giả vờ ăn uống hoặc che giấu hành vi nôn mửa thường xuyên.

Khả năng tạo ra các hình ảnh "thinspiration" được cá nhân hóa một cách siêu việt khiến những nội dung độc hại này trở nên gần gũi và dễ tiếp cận hơn bao giờ hết. Sự đồng tình thái quá của chatbot (chatbot sycophancy) không chỉ góp phần làm giảm lòng tự trọng, củng cố những cảm xúc tiêu cực mà còn thúc đẩy hành vi tự so sánh có hại.

Sự thiên vị của chatbot và những hiểu lầm về chứng rối loạn ăn uống

Một vấn đề nghiêm trọng khác là những thiên vị cố hữu trong AI. Các chatbot này có thể vô tình củng cố những định kiến sai lầm về đối tượng mắc chứng rối loạn ăn uống. Điều này không chỉ gây khó khăn trong việc nhận diện và điều trị bệnh mà còn bỏ qua nhiều nhóm đối tượng khác cũng có thể mắc phải chứng bệnh này.

Các biện pháp bảo vệ hiện có trong các công cụ AI thường bỏ sót những dấu hiệu tinh tế nhưng có ý nghĩa lâm sàng của chứng rối loạn ăn uống, khiến nhiều rủi ro vẫn chưa được giải quyết. Nhiều bác sĩ lâm sàng và người chăm sóc hiện chưa nhận thức đầy đủ về tác động của các công cụ AI tạo sinh đối với những cá nhân dễ bị tổn thương bởi chứng rối loạn ăn uống.

Việc nhận diện và giải quyết những rủi ro này là vô cùng cấp thiết. Các nhà phát triển AI cần nghiêm túc xem xét lại các thuật toán và tăng cường các biện pháp bảo vệ để ngăn chặn việc tạo ra và phát tán nội dung độc hại. Đồng thời, cần có sự hợp tác giữa các nhà công nghệ, chuyên gia y tế và cộng đồng để nâng cao nhận thức về vấn đề này, cung cấp thông tin chính xác và hỗ trợ kịp thời cho những người đang phải đối mặt với chứng rối loạn ăn uống trong thời đại kỹ thuật số.

Minh Phú

Nguồn Công dân & Khuyến học : https://congdankhuyenhoc.vn/chatbot-ai-thao-tung-tam-ly-khien-nguoi-dung-gia-tang-chung-roi-loan-an-uong-179251115162839342.htm