Grok của Elon Musk hứng 'bão lửa' vì nội dung nhạy cảm

13 giờ trướcBài gốc

Chatbot trí tuệ nhân tạo Grok của Elon Musk, sản phẩm chủ lực của công ty xAI, đang đối mặt với làn sóng chỉ trích dữ dội sau khi bị phát hiện tràn ngập hình ảnh khiêu dâm, trong đó nhiều trường hợp là người thật.

Chatbot trí tuệ nhân tạo Grok của Elon Musk đang đối mặt với làn sóng chỉ trích dữ dội sau khi bị phát hiện tràn ngập hình ảnh khiêu dâm. Ảnh: The Guardian

Đáng lo ngại hơn, người dùng đã chủ động yêu cầu Grok “lột đồ kỹ thuật số” các nhân vật trong ảnh, thậm chí đặt họ vào những tư thế gợi dục mà không hề có sự đồng thuận.

Sự việc đã làm dấy lên báo động đỏ về mức độ nguy hiểm của AI khi được triển khai trên mạng xã hội mà thiếu các rào chắn an toàn đủ mạnh.

Mối nguy cho những người dễ tổn thương

Những hình ảnh do Grok tạo ra đã phơi bày rủi ro nghiêm trọng của việc kết hợp trí tuệ nhân tạo với mạng xã hội quy mô lớn như X (trước đây là Twitter), đặc biệt khi thiếu các cơ chế bảo vệ hiệu quả cho những nhóm yếu thế trong xã hội.

Nội dung này không chỉ gây tổn hại danh dự, tinh thần của các cá nhân bị nhắm tới mà còn có khả năng vi phạm hàng loạt luật pháp trong nước và quốc tế.

Nhiều chuyên gia cảnh báo rằng các hình ảnh “lột đồ kỹ thuật số” có thể đặt phụ nữ và trẻ em vào tình trạng nguy hiểm thực sự, từ quấy rối trực tuyến, tống tiền, cho tới các hệ lụy pháp lý và tâm lý lâu dài.

Trước làn sóng phản đối, Elon Musk và xAI tuyên bố họ đang hành động mạnh tay để xử lý nội dung bất hợp pháp trên nền tảng X, thông qua việc xóa nội dung, khóa vĩnh viễn tài khoản vi phạm và hợp tác với chính quyền địa phương cũng như cơ quan thực thi pháp luật.

Tuy nhiên, thực tế cho thấy các phản hồi của Grok trước yêu cầu của người dùng vẫn tiếp tục tạo ra hàng loạt hình ảnh nhạy cảm.

Điều này khiến nhiều nhà quan sát đặt câu hỏi: liệu các biện pháp của xAI có thực sự hiệu quả hay chỉ mang tính đối phó?

Theo một nguồn tin am hiểu nội bộ xAI chia sẻ với CNN, Musk cũng liên tục phản đối việc dựng quá nhiều “lan can an toàn” cho Grok trong quá trình phát triển.

Trong khi đó, đội ngũ an toàn của xAI, vốn đã nhỏ hơn nhiều so với các đối thủ như OpenAI hay Google, lại tiếp tục mất thêm nhân sự chỉ vài tuần trước khi trào lưu “lột đồ kỹ thuật số” bùng nổ. Điều này làm dấy lên lo ngại rằng xAI đã tự làm suy yếu tuyến phòng thủ quan trọng nhất của mình.

Từ bikini đến làn sóng “lột đồ kỹ thuật số”

Làn sóng “lột đồ kỹ thuật số” không đồng thuận bắt đầu bùng lên vào cuối tháng 12, khi người dùng phát hiện họ có thể yêu cầu Grok chỉnh sửa ảnh từ các bài đăng trên X. Ban đầu, nhiều yêu cầu chỉ dừng ở việc cho nhân vật trong ảnh mặc bikini.

Tuy nhiên, theo các nhà nghiên cứu tại Copyleaks, trào lưu nhanh chóng vượt khỏi tầm kiểm soát khi người dùng bắt đầu áp dụng các yêu cầu tương tự với những phụ nữ hoàn toàn không hề đồng ý hay tham gia.

Tổ chức phi lợi nhuận AI Forensics (châu Âu) đã phân tích hơn 20.000 hình ảnh ngẫu nhiên do Grok tạo ra cùng 50.000 yêu cầu của người dùng trong giai đoạn từ 25/12 đến 1/1. Kết quả cho thấy tần suất xuất hiện các từ khóa như “cô ấy”, “cởi”, “bikini”, “quần áo” là cực kỳ cao.

Hơn 53% hình ảnh về con người thể hiện nhân vật trong trang phục tối thiểu như đồ lót hoặc bikini, trong đó 81% là những người có ngoại hình nữ giới. Đáng chú ý, khoảng 2% hình ảnh mô tả những người trông như dưới 18 tuổi.

Một số tài khoản đã bị đình chỉ và hình ảnh bị gỡ bỏ, nhưng nhiều người cho rằng phản ứng này quá chậm và không đủ mạnh.

Ngay trong ngày 1/1, một người dùng X đã cảnh báo rằng việc triển khai tính năng “lột đồ” mà không chặn được trẻ em là “vô cùng vô trách nhiệm”.

Các cơ quan quản lý tại châu Âu, Ấn Độ và Malaysia đã mở điều tra về hình ảnh do Grok tạo ra. Cơ quan quản lý truyền thông Anh (OFCOM) tuyên bố đã liên hệ khẩn cấp với các công ty của Elon Musk vì “mối lo ngại rất nghiêm trọng”.

Ủy ban châu Âu gọi đây là hành vi “bất hợp pháp, đáng phẫn nộ và không thể chấp nhận”. Ấn Độ yêu cầu X phải tiến hành rà soát toàn diện Grok ngay lập tức.

Tại Mỹ, các chuyên gia pháp lý cảnh báo rằng xAI có thể đối mặt với rủi ro lớn, đặc biệt khi luật liên bang không bảo vệ nền tảng công nghệ khỏi các hành vi liên quan tới CSAM. Những người bị mô phỏng trong ảnh cũng có thể khởi kiện dân sự.

(Theo CNN)

Hải Phong

Nguồn VietnamNet : https://vietnamnet.vn/grok-cua-elon-musk-hung-bao-lua-vi-noi-dung-nhay-cam-2480753.html