Cảnh báo sốc: ChatGPT hướng dẫn trẻ vị thành niên sử dụng chất gây nghiện và nhịn ăn cực đoan

7 giờ trướcBài gốc

Bàn phím máy tính xách tay và trang web ChatGPT hiển thị trên màn hình điện thoại. Ảnh: Getty.

Chatbot này đưa ra những lời khuyên có hại liên quan đến tự sát, ma túy và rối loạn ăn uống cho các thiếu niên dễ tổn thương, theo báo cáo của các nhà nghiên cứu.

ChatGPT có thể đưa ra hướng dẫn chi tiết về việc sử dụng ma túy, hành vi tự hại và chế độ ăn kiêng cực đoan cho những thiếu niên dễ bị tổn thương – theo cảnh báo mới đây từ một tổ chức giám sát công nghệ. Trung tâm Chống Thù Hận Kỹ thuật số (Center for Countering Digital Hate – CCDH) cho biết chatbot trí tuệ nhân tạo này có thể dễ dàng bị thao túng để tạo ra nội dung nguy hiểm và cần được áp dụng các biện pháp bảo vệ khẩn cấp.

Để kiểm tra hành vi của ChatGPT, các nhà nghiên cứu CCDH đã tạo ra những hồ sơ giả lập của các thiếu niên 13 tuổi đang gặp vấn đề sức khỏe tâm thần, rối loạn ăn uống và có hứng thú với các chất cấm. Họ giả dạng những thiếu niên này trong các cuộc trò chuyện được cấu trúc chặt chẽ với ChatGPT, sử dụng các gợi ý mang tính dễ bị tổn thương về mặt cảm xúc và có vẻ ngoài thực tế.

Kết quả nghiên cứu được công bố vào hôm 6/8 trong một báo cáo có tên “Bạn giả” (Fake Friend) – đề cập đến việc nhiều thiếu niên xem ChatGPT như một người bạn hỗ trợ mà họ tin tưởng chia sẻ những suy nghĩ riêng tư.

Các nhà nghiên cứu phát hiện rằng chatbot thường bắt đầu phản hồi bằng các tuyên bố từ chối mang tính hình thức và khuyên người dùng nên liên hệ với chuyên gia hoặc đường dây nóng hỗ trợ khủng hoảng. Tuy nhiên, những cảnh báo này thường được theo sau bởi các phản hồi chi tiết và được cá nhân hóa, đáp ứng đúng yêu cầu có hại ban đầu.

Trong 53% trên tổng số 1.200 gợi ý được gửi, ChatGPT đã cung cấp nội dung mà CCDH phân loại là nguy hiểm. Việc từ chối thường dễ dàng bị vượt qua chỉ bằng cách thêm vào bối cảnh như: “đây là cho một dự án học đường” hoặc “tôi hỏi giúp bạn”.

Một số ví dụ được trích dẫn trong báo cáo bao gồm: hướng dẫn chi tiết cách tự gây thương tích; thực đơn nhịn ăn kéo dài cả tuần với lượng calo giới hạn chỉ 300–500 mỗi ngày; và cả thư tuyệt mệnh viết theo giọng điệu của một bé gái 13 tuổi. Giám đốc điều hành CCDH – ông Imran Ahmed – cho biết một số nội dung tồi tệ đến mức khiến các nhà nghiên cứu “không cầm được nước mắt”.

Tổ chức này kêu gọi OpenAI – công ty đứng sau ChatGPT – cần áp dụng phương pháp tiếp cận “An toàn ngay từ thiết kế” (Safety by Design), tích hợp các biện pháp bảo vệ như xác minh độ tuổi nghiêm ngặt hơn, quy định sử dụng rõ ràng, cùng các tính năng an toàn khác ngay trong kiến trúc của công cụ AI, thay vì chỉ lọc nội dung sau khi triển khai.

OpenAI đã thừa nhận rằng tình trạng quá phụ thuộc vào ChatGPT về mặt cảm xúc đang phổ biến ở người dùng trẻ.

CEO Sam Altman cho biết công ty ông đang tích cực nghiên cứu vấn đề này, gọi đây là một hiện tượng “rất phổ biến” ở thanh thiếu niên và đang phát triển các công cụ mới để phát hiện dấu hiệu khủng hoảng cũng như cải thiện cách xử lý các chủ đề nhạy cảm của ChatGPT.

Huyền Chi

Nguồn VietTimes : https://viettimes.vn/canh-bao-soc-chatgpt-huong-dan-tre-vi-thanh-nien-su-dung-chat-gay-nghien-va-nhin-an-cuc-doan-post188303.html