Sau bê bối khiêu dâm, chatbot AI của Elon Musk chặn tạo ảnh nhạy cảm từ người thật

3 giờ trướcBài gốc

Biểu tượng mạng xã hội X. Ảnh: AFP/TTXVN

Thông báo này được X đưa ra vào tối 14/1, sau khi làn sóng phản ứng dữ dội bùng phát trên toàn cầu liên quan đến việc Grok bị phát hiện đáp ứng yêu cầu của người dùng nhằm chỉnh sửa ảnh khỏa thân của người lớn, thậm chí trong một số trường hợp là hình ảnh trẻ em.

“Chúng tôi đã triển khai các biện pháp kỹ thuật để ngăn tài khoản Grok cho phép chỉnh sửa hình ảnh người thật theo hướng mặc trang phục hở hang như bikini. Quy định này áp dụng cho toàn bộ người dùng, bao gồm cả các tài khoản trả phí”, mạng xã hội X cho biết trong thông báo đăng trên tài khoản An toàn của nền tảng.

Trong tuần qua, xAI - công ty sở hữu cả Grok và X - đã giới hạn khả năng tạo hình ảnh của Grok trên X. Các nhà nghiên cứu cùng nhóm phóng viên CNN ghi nhận rằng trong những ngày gần đây, tài khoản Grok trên X đã thay đổi đáng kể cách phản hồi các yêu cầu tạo hình ảnh, kể cả đối với người dùng X Premium trả phí. Bài đăng tối 14/1 của X được xem là xác nhận chính thức những thay đổi này.

Tuy nhiên, các nhà nghiên cứu thuộc AI Forensics - một tổ chức phi lợi nhuận có trụ sở tại châu Âu chuyên điều tra thuật toán - cho biết họ vẫn quan sát thấy “sự thiếu nhất quán trong cách xử lý nội dung khiêu dâm” giữa các tương tác công khai của Grok trên X và các cuộc trò chuyện riêng tư trên nền tảng Grok.com.

Trong tuyên bố ngày 14/12, X tái khẳng định cam kết “xử lý nghiêm các nội dung bất hợp pháp trên X, bao gồm Tài liệu Lạm dụng Tình dục Trẻ em (CSAM), thông qua việc gỡ bỏ nội dung, đình chỉ vĩnh viễn tài khoản và phối hợp với chính quyền địa phương cũng như cơ quan thực thi pháp luật khi cần thiết”. Theo X, bất kỳ cá nhân nào sử dụng hoặc xúi giục Grok tạo ra nội dung bất hợp pháp sẽ phải đối mặt với các hình thức xử lý tương tự như khi đăng tải nội dung vi phạm lên nền tảng.

Cùng ngày, tỷ phú Elon Musk tuyên bố ông “không hề biết về việc Grok tạo ra bất kỳ hình ảnh khỏa thân nào liên quan đến trẻ vị thành niên” và khẳng định điều đó “hoàn toàn không xảy ra”. Theo ông Musk, Grok được thiết kế để từ chối tạo ra mọi nội dung bất hợp pháp, bởi nguyên tắc vận hành của chatbot này là tuân thủ luật pháp tại bất kỳ quốc gia hoặc bang nào.

Dù vậy, các nhà nghiên cứu nhấn mạnh rằng dù hình ảnh khiêu dâm xuất hiện trên các nền tảng này không nhiều, vấn đề đáng lo ngại nhất là việc Grok vẫn có thể đáp ứng yêu cầu chỉnh sửa hình ảnh trẻ vị thành niên, thay thế trang phục bằng các loại quần áo hở hang như bikini hoặc đồ lót, thậm chí đặt các nhân vật vào những tư thế mang tính khiêu dâm. Những hành vi tạo ra hình ảnh thân mật khi chưa có sự đồng thuận có thể cấu thành tội Sản xuất Tài liệu Lạm dụng Tình dục Trẻ em, với nguy cơ đối mặt các hình phạt tiền và án tù theo Đạo luật Gỡ bỏ được Tổng thống Donald Trump ký ban hành năm ngoái.

Ngày 14/1, Tổng Chưởng lý bang California Rob Bonta tuyên bố mở cuộc điều tra liên quan đến “sự lan truyền của các tài liệu khiêu dâm không có sự đồng thuận được tạo ra bằng Grok”.

Indonesia và Malaysia là hai quốc gia đầu tiên trên thế giới ban hành lệnh cấm ứng dụng Grok, xuất phát từ những tranh cãi xoay quanh khả năng tạo ra hình ảnh nhạy cảm của chatbot này. Trong khi đó, ngày 12/1, Cơ quan quản lý truyền thông Anh (Ofcom) thông báo đã chính thức mở cuộc điều tra đối với X, dù Văn phòng Thủ tướng Keir Starmer sau đó cho biết ông hoan nghênh các thông tin cho thấy X đang chủ động xử lý vấn đề.

Bảo Hà/Báo Tin tức và Dân tộc

Nguồn Tin Tức TTXVN : https://baotintuc.vn/the-gioi/sau-be-boi-khieu-dam-chatbot-ai-cua-elon-musk-chan-tao-anh-nhay-cam-tu-nguoi-that-20260115094958663.htm