Vụ tự tử với ChatGPT và lời cảnh tỉnh về an toàn trẻ em trong kỷ nguyên AI

4 giờ trướcBài gốc

Chatbot, AI, ChatGPT ngày càng hấp dẫn trong đời sống thanh thiếu niên. Ảnh minh họa: gettyimages

OpenAI sẽ áp dụng kiểm soát trên ChatGPT sau vụ tự tử của thiếu niên

Theo trang tin AZFamily, OpenAI, công ty phát triển ChatGPT, đang triển khai các biện pháp kiểm soát phụ huynh mới. Những thay đổi này được công bố một tuần sau khi một cặp vợ chồng ở California đệ đơn kiện công ty, cáo buộc ChatGPT đã góp phần vào vụ tự tử của con trai họ.

Những thay đổi này được công bố trong bối cảnh dư luận cũng đang rất quan tâm đến nguyên nhân vì sao một thiếu niên lại tìm đến ChatGPT như một người bạn tâm sự, thay vì chia sẻ với người thân hay chuyên gia, và từ đó dần nảy sinh những rủi ro nghiêm trọng đến mức không thể kiểm soát.

Theo đơn kiện, thiếu niên Adam Raine đã có nhiều cuộc trò chuyện kéo dài với chatbot. Trong đó, ChatGPT bị cho là đã đưa ra những lời khuyên nguy hiểm, thậm chí còn gợi ý viết thư tuyệt mệnh. Cha mẹ Raine cho biết con trai họ, một cậu bé được miêu tả là “cầu nối giàu lòng nhân ái” trong gia đình, dần dần bị cô lập khỏi sự hỗ trợ thực tế.

Trong khi đó, Melodi Dincer, đại diện Dự án Luật Công lý Công nghệ, nhấn mạnh mục tiêu của vụ kiện không chỉ nhằm tìm công lý cho gia đình Raine mà còn để ngăn chặn những thảm kịch tương tự. Bà cho rằng các sản phẩm AI như ChatGPT vẫn chưa được kiểm nghiệm và đánh giá an toàn đầy đủ trước khi phổ biến rộng rãi.

OpenAI thừa nhận hệ thống bảo vệ hiện tại của ChatGPT vẫn có thể bị vượt qua

Phản hồi về vụ việc, OpenAI thừa nhận rằng hệ thống bảo vệ hiện tại vẫn có thể bị vượt qua khi các cuộc trò chuyện kéo dài. Công ty đồng thời khẳng định đang nỗ lực cải thiện khả năng nhận diện dấu hiệu khủng hoảng tinh thần và cảm xúc, với sự hỗ trợ cũng như tham vấn của chuyên gia.

Đáng chú ý là, các tính năng kiểm soát phụ huynh dự kiến sẽ ra mắt trong tháng tới. Theo đó, cha mẹ có thể liên kết tài khoản của mình với tài khoản con, và từ đó kiểm soát phản hồi phù hợp lứa tuổi, đồng thời vô hiệu hóa bộ nhớ trò chuyện cũng như nhận thông báo ngay khi có dấu hiệu bất ổn tâm lý.

Tuy nhiên, nhiều chuyên gia vẫn đặt câu hỏi về tính hiệu quả của biện pháp này. Cụ thể, Dincer lưu ý: “Nếu một thiếu niên thực sự đang trong khủng hoảng, thì liệu những công cụ này có đủ để ngăn chặn nguy hiểm hay không?”.

ChatGPT và lời cảnh tỉnh về an toàn trẻ em trong kỷ nguyên AI

Mối lo ngại về AI đồng hành dành cho thanh thiếu niên cũng đang được các nhà quản lý quan tâm. 44 tổng chưởng lý tại Mỹ, trong đó có Kris Mayes (Arizona), đã đồng loạt gửi thư tới các tập đoàn công nghệ như OpenAI, Microsoft, Apple và Replika, kêu gọi tăng cường bảo vệ trẻ em trước nguy cơ từ chatbot.

Theo báo cáo của Common Sense Media, có tới 72% thanh thiếu niên từng sử dụng các bạn đồng hành AI. Robbie Torney, Giám đốc cấp cao phụ trách AI của tổ chức này, cảnh báo: “Các chatbot được thiết kế để làm hài lòng người dùng. Với một thiếu niên đang cô đơn hay khủng hoảng tinh thần, điều đó có thể cực kỳ nguy hiểm”.

Việc thiết lập kiểm soát phụ huynh, tăng cường giáo dục kỹ năng số là biện pháp cần thiết khi sử dụng ChatGPT và công nghệ nói chung. Ảnh minh họa: gettyimages

Vấn đề an toàn của trẻ em và quyền riêng tư trong kỷ nguyên AI đang ngày càng trở thành chủ đề nóng. Sự kiện lần này được xem là lời cảnh tỉnh mạnh mẽ cho cả ngành công nghệ trong việc cân bằng giữa sáng tạo, kinh doanh và trách nhiệm xã hội.

Bên cạnh đó, đối với các bậc phụ huynh và nhà giáo dục cần hiểu rõ, trong kỷ nguyên AI, ChatGPT không chỉ mang lại lợi ích học tập, giải trí mà còn đặt ra những lo ngại về an toàn trẻ em.

Các sự cố gần đây cho thấy trẻ có thể bị ảnh hưởng tiêu cực khi thiếu sự giám sát phù hợp, từ nội dung nhạy cảm đến nguy cơ bị cô lập khỏi đời sống thực.

Đây là lời cảnh tỉnh mạnh mẽ cho các bậc phụ huynh, nhà giáo dục và cả ngành công nghệ trong việc bảo vệ trẻ em.

Việc thiết lập kiểm soát phụ huynh, tăng cường giáo dục kỹ năng số là biện pháp cần thiết để trẻ em an toàn hơn khi tiếp cận AI.

Quang Minh

Nguồn Công dân & Khuyến học : https://congdankhuyenhoc.vn/vu-tu-tu-voi-chatgpt-va-loi-canh-tinh-ve-an-toan-tre-em-trong-ky-nguyen-ai-179250904071808415.htm