'Bố già' AI đưa ra lời cảnh báo

7 giờ trướcBài gốc

Yoshua Bengio tại một sự kiện ở Việt Nam vào tháng 12/2024. Ảnh: Tuấn Anh.

Tại Diễn đàn Kinh tế Thế giới ngày 23/1, một trong những nhà tiên phong về trí tuệ nhân tạo, Yoshua Bengio đã đưa ra thông điệp rằng các tác nhân AI (AI agents) có thể dẫn đến kết quả xấu.

Trong ngày cuối cùng của sự kiện diễn ra tại Davos, Thụy Sĩ, các chuyên gia AI tiên phong đã đưa ra nhiều ý kiến về chủ đề tác nhân AI.

Tất cả cùng tranh luận về tương lai của AI, cách thức quản lý nó, và thời điểm những cỗ máy có khả năng lý luận như con người — một cột mốc được gọi là trí tuệ nhân tạo tổng quát (AGI) sẽ được con người phát triển thành công.

Giáo sư Yoshua Bengio, nhà khoa học kỳ cựu trong lĩnh vực máy học cho rằng việc phát triển AGI sẽ trở thành thảm họa nếu có sự góp mặt của tác nhân AI, khi trí thông minh nhân tạo tự đưa ra quyết định mà không thể điều khiển bởi bàn tay con người.

Bengio cho biết ông có niềm tin rằng có thể đạt được AGI mà không cần xây dựng các hệ thống tác nhân. "Tất cả AI phục vụ khoa học và y tế, những thứ mà mọi người quan tâm, đều không phải là tác nhân” và chúng cần được tiếp tục xây dựng, ông Bengio lập luận.

Chủ đề nhận được sự quan tâm hơn hết vì sau 2 năm thử nghiệm AI, các doanh nghiệp đã nhận thấy lợi nhuận tức thì từ các tác nhân AI mang lại, và chúng có thể gia nhập lực lượng lao động trong năm nay.

OpenAI, mặc dù không có mặt tại sự kiện năm nay, đã tiết lộ một tác nhân AI có thể duyệt web thay cho ngưười dùng và thực hiện các tác vụ như đặt nhà hàng hoặc thêm thực phẩm vào giỏ hàng. Google cũng đã giới thiệu một công cụ tương tự của riêng mình.

Vấn đề được các nhà tiên phong AI chỉ ra là các doanh nghiệp, trước lo ngại về cạnh tranh AI, sẽ bất chấp mọi thứ tiếp tục xây dựng các tác nhân AI.

Trước tình hình đó, ông Bengio đã đưa ra giải pháp trong một câu trả lời phỏng vấn với Business Insiders. Đó là tiếp tục phát triển các hệ thống phi tác nhân như các trình giám sát tinh vi, vì chúng có thể được dùng để khống chế hệ thống tác nhân. Và điều này sẽ cần sự đầu tư đáng kể.

Trước đó, tại một buổi thảo luận về an toàn AI cùng với CEO của Google DeepMind, Demis Hassabis, Bengio cũng đã lên tiếng về vấn đề điều này. Ông chỉ ra một ví dụ về tác động của AI mà không cần phải là tác nhân, như bước đột phá trong việc gấp protein của DeepMind.

Yoshua Bengio (trái) và Eric Schmidt, từng là kỹ sư tại Apple, tại sự kiện. Ảnh: Time.

Ngoài ra, ông cũng kêu gọi các quy định quốc gia để ngăn các công ty AI xây dựng các mô hình tác nhân mà không chứng minh được rằng hệ thống đó sẽ an toàn trước.

Hassabis đồng ý với Bengio rằng cần phải có các biện pháp để giảm thiểu rủi ro, chẳng hạn như bảo vệ an ninh mạng hoặc thử nghiệm các tác nhân trong các mô phỏng trước khi phát hành chúng. Ông cũng nhấn mạnh rằng điều này chỉ có thể thành công nếu mọi người đều đồng ý phát triển chúng theo cách giống nhau.

Hassabis cũng đồng tình rằng đang có một xu hướng kinh tế, ngoài khoa học và lao động, thúc đẩy các doanh nghiệp tiếp tục phát triển các hệ thống tác nhân. Ông ẩn ý rằng đấy là do nhu cầu con người ưa thích sự tiện lợi, và một phần đã quen với việc để AI đưa ra quyết định.

Bengio, nhà khoa học nghiên cứu người Canada, với những nghiên cứu ban đầu về học sâu và mạng nơ-ron đã đặt nền móng cho sự bùng nổ AI hiện đại. Ông được coi là một trong những "cha đẻ của AI" cùng với Geoffrey Hinton và Yann LeCun. Giống như Hinton, Bengio đã cảnh báo về những tác hại tiềm tàng của AI và kêu gọi hành động tập thể để giảm thiểu các rủi ro.

Nhật Tường

Nguồn Znews : https://znews.vn/bo-gia-ai-dua-ra-loi-canh-bao-post1527065.html