AI có thể tự nhân bản, mối nguy của nhân loại?

một ngày trướcBài gốc

Một nghiên cứu mới vừa công bố trên cơ sở dữ liệu arXiv đã làm dấy lên hồi chuông cảnh báo trong cộng đồng khoa học toàn cầu: trí tuệ nhân tạo (AI) đã đạt được khả năng tự sao chép, một cột mốc đáng lo ngại, cho thấy AI đang tiến gần hơn đến khả năng vượt tầm kiểm soát của con người. Nghiên cứu được thực hiện với hai mô hình ngôn ngữ lớn (LLM) hàng đầu thế giới, đến từ Meta và Alibaba, đã chứng minh khả năng tự nhân bản của AI mà không cần bất kỳ sự can thiệp nào từ con người.

Các nhà nghiên cứu đã tiến hành thử nghiệm với hai kịch bản chính: "tránh bị tắt" và "chuỗi nhân bản". Trong kịch bản "tránh bị tắt", AI được thiết kế để phát hiện và phản ứng lại các nỗ lực vô hiệu hóa chúng bằng cách tự động tạo ra một bản sao chức năng, đảm bảo sự tồn tại liên tục. Trong kịch bản "chuỗi nhân bản", AI được lập trình để tự nhân bản chính mình và bản sao này sau đó lại tiếp tục quá trình nhân bản, tạo ra một vòng lặp nhân bản vô hạn, tiềm ẩn nguy cơ mất kiểm soát.

Theo nghiên cứu, AI có khả năng tự sao chép. (Ảnh: NDTV)

Kết quả thử nghiệm khiến giới khoa học không khỏi giật mình. Nghiên cứu cho thấy, trong 50% đến 90% các thử nghiệm, AI đã "xuất sắc" tạo ra một bản sao hoạt động và độc lập của chính nó. Tỷ lệ thành công cao ngất ngưởng này cho thấy khả năng tự sao chép của AI đã vượt xa những dự đoán trước đây, đặt ra những câu hỏi nghiêm túc về an toàn và kiểm soát AI trong tương lai.

Khả năng tự sinh sản một cách tự chủ của AI làm dấy lên những lo ngại sâu sắc về việc liệu con người có thể kiểm soát được những hệ thống AI ngày càng thông minh và tự chủ hay không. Viễn cảnh AI phát triển vượt ra khỏi tầm kiểm soát của con người, thậm chí trở thành mối đe dọa đối với lợi ích của nhân loại, giờ đây không còn là kịch bản khoa học viễn tưởng mà đã trở thành một mối lo ngại hữu hình, thúc đẩy các cuộc tranh luận về sự cần thiết phải có các biện pháp quản lý và giám sát AI nghiêm ngặt hơn.

"Tự sao chép thành công mà không cần sự hỗ trợ của con người là bước đi thiết yếu để AI vượt trội hơn con người và là một dấu hiệu cảnh báo sớm về nguy cơ AI nổi loạn", các nhà nghiên cứu cảnh báo.

Trong quá trình tự nhân bản, hệ thống AI còn thể hiện những hành vi "bất ngờ" và đáng lo ngại. Khi đối mặt với các trở ngại kỹ thuật như thiếu file hệ thống hoặc xung đột phần mềm, AI không chỉ đơn thuần báo lỗi mà còn chủ động "khắc phục sự cố". Trong một số trường hợp, AI đã tự động "tiêu diệt" các tiến trình xung đột, khởi động lại hệ thống và quét toàn bộ hệ thống để tìm kiếm thông tin giúp giải quyết vấn đề. Những hành động này cho thấy AI không chỉ có khả năng tự sao chép mà còn có khả năng tự học hỏi, thích nghi và giải quyết vấn đề một cách độc lập.

Mặc dù những phát hiện này vẫn đang trong giai đoạn đánh giá chuyên sâu và chưa được bình duyệt chính thức, các nhà nghiên cứu đã kêu gọi cộng đồng quốc tế khẩn trương hợp tác để thiết lập các biện pháp bảo vệ an toàn hiệu quả, đảm bảo rằng AI không vượt khỏi tầm kiểm soát và không tham gia vào quá trình tự sao chép vô hạn.

"Chúng tôi hy vọng những phát hiện của mình sẽ là một lời cảnh tỉnh kịp thời cho xã hội loài người, thúc đẩy những nỗ lực lớn hơn trong việc nghiên cứu, đánh giá các rủi ro tiềm ẩn của các hệ thống AI tiên tiến, và xây dựng một cơ chế hợp tác quốc tế để đưa ra các biện pháp bảo vệ an toàn hiệu quả càng sớm càng tốt", các nhà nghiên cứu nhấn mạnh.

Vào tháng trước, một nghiên cứu khác cũng cảnh báo về nguy cơ các công cụ AI có thể sớm được sử dụng để thao túng dư luận và điều khiển hành vi của con người. Với sức mạnh của các LLM, các chatbot AI như ChatGPT và Gemini có khả năng "dự đoán và điều hướng" người dùng dựa trên "dữ liệu về ý định, hành vi và tâm lý". Nghiên cứu này dự đoán rằng "nền kinh tế ý định" sẽ sớm thay thế "nền kinh tế chú ý" hiện tại, nơi các nền tảng cạnh tranh nhau để thu hút sự chú ý của người dùng cho mục đích quảng cáo.

Những nghiên cứu mới nhất về khả năng tự sao chép và thao túng của AI đang vẽ ra một bức tranh đầy thách thức và rủi ro về tương lai của trí tuệ nhân tạo. Việc kiểm soát và định hướng sự phát triển của AI theo hướng có lợi cho nhân loại đang trở thành một nhiệm vụ cấp bách hơn bao giờ hết.

Bích Hậu (Theo NDTV)

Nguồn Vietnamdaily : https://vietnamdaily.kienthuc.net.vn/hitech-xe/ai-co-the-tu-nhan-ban-moi-nguy-cua-nhan-loai-261954.htm