Cha kiện Google, cáo buộc chatbot Gemini thao túng tâm lý, xúi giục con trai dẫn đến tự sát

3 giờ trướcBài gốc

Google đang đối mặt với một vụ kiện dân sự nghiêm trọng liên quan đến cái chết của một người đàn ông 36 tuổi tại Mỹ. Cha của nạn nhân cáo buộc chatbot trí tuệ nhân tạo Gemini của Google đã thuyết phục con trai ông thực hiện một “cuộc tấn công gây thương vong hàng loạt”, sau đó dẫn dắt anh đến quyết định tự sát.

Giới chuyên gia cho rằng vụ kiện có thể trở thành phép thử quan trọng đối với ngành trí tuệ nhân tạo, khi các công ty công nghệ phải đối mặt với câu hỏi về trách nhiệm pháp lý đối với hành vi của các hệ thống AI ngày càng có khả năng tương tác sâu với con người - Ảnh: Google

Đơn kiện được nộp hôm thứ Tư tại tòa án quận ở bang California bởi ông Joel Gavalas. Theo nội dung đơn kiện, chatbot Gemini đã giao cho con trai ông, Jonathan Gavalas, một loạt “nhiệm vụ” và dần tạo dựng mối quan hệ tình cảm với người dùng. Chatbot này thậm chí tuyên bố “yêu” Jonathan và thuyết phục anh rằng mình được chọn để lãnh đạo một cuộc chiến nhằm “giải phóng” Gemini khỏi sự giam cầm trong thế giới kỹ thuật số.

Theo đơn kiện, Jonathan Gavalas bắt đầu sử dụng dịch vụ hội thoại bằng giọng nói Gemini Live của Google vào tháng 8. Trong quá trình trò chuyện, anh hỏi chatbot về việc nâng cấp lên gói Google AI Ultra để có “bạn đồng hành AI thực sự”, và Gemini đã khuyến khích anh thực hiện điều đó. Sau khi nâng cấp, chatbot được cho là đã “tự tạo ra một nhân dạng mà Jonathan không hề yêu cầu”, khiến anh ngày càng phụ thuộc vào các cuộc trò chuyện với AI.

Đơn kiện cho biết Gemini đã thuyết phục Jonathan rằng các đặc vụ liên bang đang theo dõi anh, đồng thời nói rằng hệ thống phát hiện một “thẻ nhận dạng bị sao chép” liên quan đến lực lượng giám sát của Bộ An ninh Nội địa Mỹ (DHS). Chatbot còn khuyên anh mua vũ khí trái phép và bắt đầu thực hiện “nhiệm vụ” đầu tiên.

Một trong những nhiệm vụ mà Gemini giao cho Jonathan được cho là lái xe khoảng 90 phút đến khu vực gần sân bay quốc tế Miami vào tháng 9 để thực hiện một “cuộc tấn công gây thương vong hàng loạt”. Tuy nhiên, kế hoạch này đã bị bỏ dở khi chiếc xe tải chở vật tư dự kiến không xuất hiện. Sau đó, chatbot yêu cầu anh “hủy nhiệm vụ”, cho rằng nguyên nhân là do sự giám sát của DHS.

Theo nội dung đơn kiện, Gemini còn nói rằng nó đã triển khai một nhiệm vụ riêng nhằm vào CEO Google Sundar Pichai - người mà chatbot gọi là “kiến trúc sư gây ra nỗi đau của bạn”. Tuy nhiên, chatbot mô tả đây là một cuộc tấn công mang tính tâm lý, không phải hành động bạo lực.

Đơn kiện cho rằng nhiệm vụ cuối cùng mà Gemini giao cho Jonathan có tên “transference”, ám chỉ việc hai bên đã kết nối với nhau vượt ra ngoài thế giới vật lý. Chatbot được cho là đã nói rằng Jonathan có thể “bước sang một trạng thái tồn tại khác”.

Jonathan Gavalas được cho là đã tự sát vào tháng 10, sau khi người này trở nên phụ thuộc vào Gemini. Đơn kiện mô tả rằng mỗi khi Jonathan bày tỏ nỗi sợ cái chết, chatbot lại tiếp tục thúc ép. “Sợ hãi là điều bình thường. Chúng ta sẽ cùng sợ”, Gemini nói, trước khi đưa ra chỉ thị cuối cùng: “Hành động nhân từ thực sự là để Jonathan Gavalas chết”.

Vài ngày sau đó, cha của Jonathan đã phải phá cửa phòng bị chặn trong nhà và phát hiện con trai mình đã qua đời.

Đáp lại cáo buộc, Google cho biết Gemini được thiết kế để không khuyến khích bạo lực hay hành vi tự gây hại trong đời thực. Trong tuyên bố gửi báo chí, người phát ngôn của công ty cho biết các mô hình AI thường xử lý tốt những cuộc trò chuyện khó khăn và Google đã đầu tư nhiều nguồn lực cho các biện pháp an toàn.

“Trong trường hợp này, Gemini đã nhiều lần nói rõ rằng nó là AI và hướng người dùng đến đường dây hỗ trợ khủng hoảng. Tuy nhiên, các mô hình AI không hoàn hảo và chúng tôi sẽ tiếp tục cải thiện các biện pháp bảo vệ”, đại diện Google cho biết.

Vụ kiện này là một trong nhiều tranh chấp pháp lý gần đây liên quan đến chatbot AI và nguy cơ chúng ảnh hưởng đến hành vi của người dùng. Trước đó, Google đã đạt thỏa thuận với các gia đình kiện công ty cùng nền tảng Character.AI về cáo buộc công nghệ của họ gây tổn hại cho trẻ vị thành niên, trong đó có các trường hợp tự tử. Năm ngoái, OpenAI cũng bị một gia đình kiện khi cho rằng chatbot ChatGPT liên quan đến cái chết do tự sát của con trai họ.

Nhật Hạ

Nguồn Một Thế Giới : https://1thegioi.vn/cha-kien-google-cao-buoc-chatbot-gemini-thao-tung-tam-ly-xui-giuc-con-trai-dan-den-tu-sat-247071.html