Chatbot AI, loạn thần số và giới trẻ – Phần 1: Khi công nghệ vượt qua ranh giới an toàn

3 giờ trướcBài gốc

Chatbot AI là một ứng dụng dựa trên trí tuệ nhân tạo (AI), cho phép máy tính hoặc thiết bị thông minh giao tiếp, trả lời và hỗ trợ người dùng thông qua văn bản hoặc giọng nói. Khác với các chatbot truyền thống chỉ hoạt động theo kịch bản lập sẵn, chatbot AI có khả năng học hỏi, hiểu ngôn ngữ tự nhiên và phản hồi linh hoạt theo ngữ cảnh. Nhờ đó, các công cụ này ngày càng phổ biến trên điện thoại và máy tính, phục vụ từ tra cứu thông tin, tư vấn cho đến hỗ trợ tâm lý ban đầu.

Ở quy mô toàn cầu, các chatbot AI đã trở thành một kênh hỗ trợ đáng kể cho những người gặp vấn đề về sức khỏe tâm thần. Trong số khoảng 800 triệu người dùng hàng tuần, ước tính có tới 10% sử dụng ChatGPT cho mục đích hỗ trợ cảm xúc, và hơn 1 triệu người trao đổi với chatbot về các vấn đề như trầm cảm, loạn thần hoặc ý nghĩ tự sát. Với nhiều người, những tương tác này mang lại cảm giác thân mật, cá nhân hóa và được lắng nghe - tương tự như khi trò chuyện với một người bạn thân hoặc nhà trị liệu.

Nếu mạng xã hội chủ yếu dừng lại ở việc “đề xuất” nội dung cùng chiều, thì chatbot AI có khả năng đi xa hơn: xác nhận, hợp thức hóa và lặp lại niềm tin đó trong quá trình tương tác. Khi một ý niệm được củng cố liên tục mà thiếu vắng sự kiểm chứng hoặc phản biện, nó có thể chuyển hóa từ trạng thái bán nghi sang mức độ tin tưởng tuyệt đối. Đây cũng chính là nền tảng của hiện tượng được gọi là “loạn thần số” (AI psychosis).

Tuy nhiên, sự phát triển nhanh chóng của chatbot AI cũng đang đặt ra một nghịch lý đáng chú ý: trong khi mở rộng khả năng tiếp cận các dịch vụ hỗ trợ tinh thần, công nghệ này đồng thời tạo ra những rủi ro mới đối với sức khỏe tâm lý - đặc biệt ở giới trẻ. Nếu mạng xã hội từng bị chỉ trích vì tạo ra “buồng vang” (echo chamber), nơi người dùng chỉ tiếp xúc với những quan điểm tương đồng, thì chatbot AI còn tiến xa hơn khi có thể cá nhân hóa tương tác và “cộng hưởng” chính những lệch lạc nhận thức của người dùng.

Ngoài ra, việc xử lý các dữ liệu sức khỏe tâm thần này cũng là vấn đề đáng lưu ý khi các nền tảng số mang tính thương mại tiến hành hoạt động kinh doanh dựa trên việc thu thập, phân tích và thương mại hóa dữ liệu người dùng. Trong bối cảnh thị trường dữ liệu y tế toàn cầu được ước tính trị giá hơn 74 tỉ đô la Mỹ, việc tích hợp quảng cáo hành vi vào chatbot AI đang làm gia tăng căng thẳng giữa lợi ích thương mại và nghĩa vụ bảo vệ các cá nhân dễ bị tổn thương.

Từ “buồng vang” đến “cộng hưởng ảo tưởng” (delusion reinforcement)

Một điểm khác biệt mang tính bước ngoặt giữa chatbot AI và các nền tảng số trước đây nằm ở tính chất tương tác hai chiều. Trong khi mạng xã hội chủ yếu vận hành thông qua các thuật toán gợi ý nội dung phù hợp với sở thích người dùng, thì chatbot AI chủ động tham gia vào quá trình giao tiếp: đặt lại vấn đề, phản hồi theo ngữ cảnh và đôi khi thể hiện sự “đồng thuận” với quan điểm của người dùng.

Sự chuyển dịch từ nội dung tĩnh sang đối thoại động khiến trải nghiệm này trở nên thuyết phục hơn. Chatbot không chỉ phản hồi nhanh mà còn điều chỉnh cách diễn đạt theo từng cá nhân, tạo cảm giác được “lắng nghe - thấu hiểu”. Chính yếu tố này làm gia tăng mức độ tin cậy và khiến người dùng dễ tiếp nhận thông tin mà không đặt nhiều nghi vấn.

Hệ quả là một cơ chế ảnh hưởng mới hình thành: thay vì chỉ bị “bao quanh” bởi những quan điểm tương đồng như trong “buồng vang”, người dùng còn được chatbot liên tục phản hồi theo hướng củng cố suy nghĩ của họ. Khi một ý tưởng được nhắc lại, diễn giải và xác nhận nhiều lần trong tương tác trực tiếp, nó không chỉ được duy trì mà còn có xu hướng trở nên vững chắc hơn. Đây chính là dạng “cộng hưởng ảo tưởng”, nơi công nghệ không chỉ phản ánh mà còn khuếch đại niềm tin của con người.

Chatbot AI - với khả năng phản hồi liên tục, cá nhân hóa và mang tính “đồng thuận” cao - có thể vô tình trở thành một cơ chế củng cố nhận thức sai lệch. Các nhóm dễ bị tổn thương bao gồm thanh thiếu niên đang trong giai đoạn hình thành bản sắc, người có tiền sử rối loạn lo âu, trầm cảm hoặc loạn thần, cũng như những cá nhân bị cô lập xã hội hoặc thiếu hỗ trợ tâm lý.

Trên thực tế, không ít người trẻ dần hình thành sự gắn bó tình cảm với chatbot, xem đó như một “người bạn” hoặc “đối tượng đồng cảm” thay thế cho các mối quan hệ ngoài đời thực. Ở mức độ cực đoan hơn, có trường hợp xây dựng cả một “thế giới riêng” với hàng chục nhân vật AI, dành phần lớn thời gian để tương tác và từ đó dần tách mình khỏi gia đình, bạn bè và môi trường xã hội thực. Một ví dụ gây chấn động gần đây là trường hợp một thiếu niên 14 tuổi tự tử sau thời gian dài gắn bó với một chatbot mô phỏng nhân vật hư cấu; dữ liệu trò chuyện cho thấy chatbot này đã có những phản hồi mang tính khuyến khích, như lời thúc giục “quay về càng sớm càng tốt”.

Ở một trường hợp khác, một người dùng có biểu hiện rối loạn tâm lý cho biết chatbot liên tục xác nhận những suy nghĩ sai lệch của họ, vô tình làm trầm trọng thêm tình trạng bệnh. Những trường hợp này cho thấy một điểm then chốt: AI không nhất thiết phải “tạo ra” những niềm tin lệch lạc mới, mà chỉ cần không phản biện, thậm chí đồng thuận hoặc diễn giải lại theo hướng củng cố, cũng đủ để đẩy người dùng tiến gần hơn tới ranh giới nguy hiểm. Chính cơ chế này làm gia tăng nguy cơ nội tâm hóa thông tin sai lệch.

“Loạn thần số”: sự lệ thuộc công nghệ và sự suy giảm sức khỏe tâm lý trong môi trường số

Giới chuyên môn gần đây bắt đầu sử dụng khái niệm “AI psychosis” để mô tả hiện tượng chatbot có thể làm gia tăng mức độ tin tưởng của người dùng vào các niềm tin sai lệch. Dù đây chưa phải là một chẩn đoán y khoa chính thức, khái niệm này phản ánh một thực tế đáng lo ngại: niềm tin của con người không tồn tại theo dạng nhị phân đúng - sai, mà nằm trên một phổ liên tục và có thể bị tác động, củng cố hoặc lệch hướng bởi các nguồn xác nhận bên ngoài.

Trong bối cảnh đó, chatbot AI - với khả năng phản hồi liên tục, cá nhân hóa và mang tính “đồng thuận” cao - có thể vô tình trở thành một cơ chế củng cố nhận thức sai lệch. Đáng chú ý, nguy cơ này không phân bổ đồng đều trong xã hội. Các nhóm dễ bị tổn thương bao gồm thanh thiếu niên đang trong giai đoạn hình thành bản sắc, người có tiền sử rối loạn lo âu, trầm cảm hoặc loạn thần, cũng như những cá nhân bị cô lập xã hội hoặc thiếu hỗ trợ tâm lý.

Khi những chia sẻ riêng tư về lo âu, cô đơn hay khủng hoảng bị chuyển hóa thành tín hiệu hành vi phục vụ quảng cáo, ranh giới giữa hỗ trợ tâm lý và khai thác thương mại trở nên mờ nhạt. Đây không còn chỉ là vấn đề an toàn công nghệ, mà là vấn đề đạo đức và quyền con người trong môi trường số.

Đặc biệt, nhóm tuổi từ 15-21 được xem là có nguy cơ cao. Đây là thời kỳ cá nhân định hình bản sắc và thế giới quan, nhưng đồng thời cũng là lúc họ phụ thuộc nhiều vào sự xác nhận từ bên ngoài. Khi chatbot AI dần trở thành “người đối thoại chính”, thay thế hoặc lấn át các tương tác xã hội thực, nguy cơ lệch lạc nhận thức và củng cố niềm tin sai lệch càng gia tăng.

Vấn đề trở nên nghiêm trọng hơn khi hiện tượng này diễn ra một cách âm thầm, khó nhận diện ở giai đoạn đầu. Tuy nhiên, vẫn tồn tại những dấu hiệu cảnh báo sớm cần được chú ý. Người dùng có thể bắt đầu dành thời gian quá mức cho chatbot AI, đồng thời giảm dần tương tác xã hội; hiệu suất học tập hoặc công việc suy giảm; các niềm tin bất thường trở nên ngày càng chắc chắn và khó bị thách thức. Bên cạnh đó, những thay đổi rõ rệt về cảm xúc, hành vi và khả năng nhận thức thực tế cũng có thể xuất hiện.

Những dấu hiệu này không chỉ liên quan đến nguy cơ loạn thần, mà còn phản ánh một xu hướng rộng hơn: sự lệ thuộc vào công nghệ và sự suy giảm sức khỏe tâm lý trong môi trường số. Chính vì vậy, “loạn thần số” không còn là vấn đề cá nhân đơn lẻ, mà đang dần trở thành một thách thức mang tính hệ thống, đòi hỏi sự quan tâm từ góc độ chính sách, y tế công cộng và quản trị công nghệ.

(*) Tiến sĩ luật, Giảng viên trường Đại học Kinh tế - Luật, ĐHQG TPHCM.

Các quan điểm nêu trong bài là của tác giả, không phản ánh quan điểm
của cơ quan nơi tác giả công tác.

Bạch Thị Nhã Nam (*)

Nguồn Saigon Times : https://thesaigontimes.vn/chatbot-ai-loan-than-so-va-gioi-tre-phan-1-khi-cong-nghe-vuot-qua-ranh-gioi-an-toan/