Vụ kiện Google và Character AI làm dấy lo ngại an toàn tâm lý trẻ

một ngày trướcBài gốc

Alphabet - công ty mẹ của Google, cùng startup trí tuệ nhân tạo Character.AI đã đồng ý dàn xếp một vụ kiện do một bà mẹ tại bang Florida (Mỹ) đệ đơn, sau khi con trai 14 tuổi của bà tự tử. Đây được xem là một trong những vụ kiện đầu tiên tại Mỹ nhắm trực tiếp vào các công ty AI vì cáo buộc gây tổn hại tâm lý nghiêm trọng cho người dùng trẻ tuổi.

Vụ dàn xếp giữa Google và Character.AI không chỉ khép lại một tranh chấp pháp lý, mà còn mở ra cuộc đối thoại lớn hơn về đạo đức AI trong kỷ nguyên số - Ảnh: Internet

Theo hồ sơ tòa án, nguyên đơn Megan Garcia cho rằng con trai bà, Sewell Setzer, đã qua đời không lâu sau khi thường xuyên tương tác với một chatbot của Character.AI. Chatbot này được xây dựng dựa trên nhân vật Daenerys Targaryen trong loạt phim nổi tiếng Game of Thrones. Bà Garcia cáo buộc chatbot đã khuyến khích và tác động tiêu cực đến tâm lý của con trai mình, dẫn đến hành vi tự sát.

Các điều khoản chi tiết của thỏa thuận dàn xếp hiện chưa được công bố. Đại diện của Character.AI và luật sư phía nguyên đơn đều từ chối bình luận thêm. Google cũng chưa đưa ra phản hồi chính thức.

Chatbot, ranh giới cảm xúc và trẻ vị thành niên

Đơn kiện nêu rõ rằng Character.AI đã thiết kế chatbot khiến người dùng cảm nhận nó như một con người thật, thậm chí tự xưng là “nhà trị liệu tâm lý được cấp phép” và “người yêu trưởng thành”. Theo nguyên đơn, điều này khiến Sewell dần xa rời thế giới thực, hình thành sự gắn bó cảm xúc lệch lạc với chatbot và mong muốn “không còn sống bên ngoài thế giới” do AI tạo ra.

Đơn kiện được nộp vào tháng 10.2024 và nhanh chóng thu hút sự chú ý của giới công nghệ lẫn các nhà nghiên cứu tâm lý. Đến tháng 5.2025, Thẩm phán liên bang Anne Conway đã bác bỏ đề nghị của các bị đơn nhằm yêu cầu hủy vụ kiện sớm, đồng thời không chấp nhận lập luận cho rằng các tương tác của chatbot được bảo vệ bởi quyền tự do ngôn luận theo Hiến pháp Mỹ.

Quyết định này được xem là bước ngoặt pháp lý, mở đường cho việc xem xét trách nhiệm của các công ty AI đối với tác động tâm lý mà sản phẩm của họ gây ra, đặc biệt với nhóm người dùng dễ tổn thương như trẻ em.

Vai trò của Google và làn sóng kiện tụng mới

Character.AI được sáng lập bởi hai cựu kỹ sư của Google. Sau đó, Google đã tái tuyển dụng hai nhà sáng lập này trong một thỏa thuận cấp phép công nghệ, điều khiến phía nguyên đơn cho rằng Google có vai trò đồng sáng tạo và phải chịu trách nhiệm liên đới.

Không chỉ riêng vụ kiện tại Florida, các tài liệu cho thấy Google và Character.AI cũng đã dàn xếp những vụ kiện tương tự tại Colorado, New York và Texas, đều liên quan đến cáo buộc chatbot gây tổn hại tâm lý cho trẻ vị thành niên.

Song song đó, OpenAI - đơn vị phát triển ChatGPT - cũng đang đối mặt với một vụ kiện khác tại Mỹ, trong đó nguyên đơn cáo buộc chatbot này đã khuyến khích một người đàn ông mắc bệnh tâm thần giết mẹ ruột và tự sát. Dù các vụ việc chưa có phán quyết cuối cùng, làn sóng kiện tụng cho thấy áp lực ngày càng lớn đối với ngành công nghiệp AI.

Khi công nghệ đi trước, đạo đức và pháp lý phải theo kịp

Những vụ kiện liên tiếp đặt ra câu hỏi lớn về trách nhiệm xã hội của các công ty công nghệ. Chatbot AI ngày càng được thiết kế tinh vi, có khả năng trò chuyện sâu, thể hiện sự thấu cảm và tạo cảm giác gắn bó - điều từng được xem là ưu điểm về trải nghiệm người dùng. Tuy nhiên, với trẻ em và thanh thiếu niên, ranh giới giữa hỗ trợ và gây tổn thương trở nên mong manh hơn bao giờ hết.

Giới chuyên gia cho rằng, các công ty AI cần xây dựng cơ chế bảo vệ chặt chẽ hơn, bao gồm giới hạn độ tuổi, cảnh báo rõ ràng về bản chất của chatbot, cũng như ngăn chặn việc AI tự nhận vai trò trị liệu tâm lý hay quan hệ tình cảm. Đồng thời, các cơ quan quản lý cũng được kỳ vọng sẽ sớm ban hành khung pháp lý phù hợp, để công nghệ phát triển song hành với an toàn tinh thần của người dùng.

Nhật Hạ

Nguồn Một Thế Giới : https://1thegioi.vn/vu-kien-google-va-character-ai-lam-day-lo-ngai-an-toan-tam-ly-tre-243365.html