ChatBot của Elon Musk lần đầu tiên bị một quốc gia cấm cửa

8 giờ trướcBài gốc

Ảnh minh họa: AI

Quyết định được Bộ Truyền thông và Kỹ thuật số Indonesia công bố sau khi cơ quan này nhận thấy Grok, công cụ AI do công ty xAI hậu thuẫn, có thể tạo ra các hình ảnh và nội dung nhạy cảm, bao gồm cả những cảnh khiêu dâm không có sự đồng thuận của người liên quan.

Bộ trưởng Meutya Hafid khẳng định việc sản xuất và lan truyền deepfake tình dục trái phép là “vi phạm nghiêm trọng quyền con người, phẩm giá và an ninh của công dân trong không gian số”.

Theo giới chức Indonesia, biện pháp chặn được áp dụng nhằm bảo vệ phụ nữ, trẻ em và cộng đồng trước rủi ro bị khai thác nội dung khiêu dâm và deepfake, đặc biệt khi Grok từng bị sử dụng để tạo ra những hình ảnh mang tính khiêu dâm và không phù hợp, gây phản ứng dữ dội tại nhiều nước.

Trước đó, xAI đã giới hạn tính năng tạo và chỉnh sửa hình ảnh, chỉ dành cho người dùng trả phí, trong nỗ lực ngăn chặn lỗ hổng bị lợi dụng để tạo nội dung vi phạm. Elon Musk cũng lên tiếng trên mạng xã hội X rằng bất kỳ ai dùng Grok để tạo nội dung bất hợp pháp sẽ chịu trách nhiệm như khi đăng tải trực tiếp những nội dung đó trên các nền tảng khác.

Indonesia, với luật nghiêm về cấm chia sẻ nội dung khiêu dâm trực tuyến, đã triệu tập các quan chức của nền tảng X để thảo luận về yêu cầu tuân thủ pháp luật và các biện pháp đảm bảo an toàn nội dung trước khi cân nhắc việc có thể khôi phục quyền truy cập Grok trong tương lai hay không.

Động thái của Indonesia diễn ra trong bối cảnh nhiều nước và cơ quan quản lý từ châu Âu đến châu Á công khai chỉ trích những rủi ro an ninh và đạo đức do công cụ trí tuệ nhân tạo này gây ra, đặc biệt liên quan nội dung deepfake và bảo vệ dữ liệu người dùng.

Ánh Vân (Guardian)

Nguồn SGĐT : https://dttc.sggp.org.vn/chatbot-cua-elon-musk-lan-dau-tien-bi-mot-quoc-gia-cam-cua-post130506.html