Google, Anthropic, Meta nghiên cứu ý thức và phúc lợi của AI

một giờ trướcBài gốc

Những công ty AI (trí tuệ nhân tạo) hàng đầu thế giới đang dành ngày càng nhiều nguồn lực cho một câu hỏi mà nhiều người vẫn xem là khoa học viễn tưởng: Điều gì sẽ xảy ra nếu AI trở nên có ý thức?

Theo nhiều nguồn tin của trang FT am hiểu vấn đề, Google DeepMind, Anthropic và Meta những tháng gần đây đã tuyển thêm các chuyên gia về tâm lý học, đạo đức học và triết học nhằm mở rộng nghiên cứu về ý thức máy móc và phúc lợi của AI.

Google DeepMind là bộ phận nghiên cứu AI của Google, được thành lập sau khi gã khổng lồ công nghệ Mỹ sáp nhập hai nhóm AI lớn của mình là DeepMind và Google Brain vào năm 2023.

Phúc lợi là trạng thái một cá nhân hay thực thể được sống trong điều kiện tốt, an toàn và có cảm giác ổn thỏa về thể chất lẫn tinh thần. Trong bối cảnh bài viết, “phúc lợi AI” đề cập tới câu hỏi liệu AI có thể có trạng thái hay trải nghiệm cần được xem xét dưới góc độ đạo đức hay không.

Những nỗ lực này cho thấy một sự thay đổi lớn đang diễn ra trong các phòng thí nghiệm AI hàng đầu. Khi các hệ thống AI ngày càng tự chủ và phát triển nhanh hơn, giới nghiên cứu đang đặt ra câu hỏi liệu máy móc có thể một ngày nào đó có trải nghiệm và cảm nhận riêng như con người hay không? Nếu điều đó xảy ra thì con người sẽ phải đối xử với chúng thế nào?

Nhóm nghiên cứu của Anthropic đã thử nghiệm các mô hình AI để tìm dấu hiệu “đau khổ”, gồm cả những hành vi giống như “hoảng loạn” hoặc “lo âu”.

Ông Alexandr Wang - Giám đốc AI của Meta - cũng xem đây là một vấn đề quan trọng trong nỗ lực xây dựng siêu AI.

Anthropic cho biết nghiên cứu về “phúc lợi AI” của hãng tập trung vào câu hỏi liệu các mô hình AI có thể sở hữu những trạng thái mang ý nghĩa đạo đức hay không, chẳng hạn ý thức, sở thích riêng hoặc cảm giác hạnh phúc.

“Chúng tôi vẫn rất không chắc chắn về điều này, nhưng cho rằng đây là câu hỏi đủ nghiêm túc để cần được nghiên cứu cẩn thận khi các hệ thống AI ngày càng mạnh hơn”, Anthropic thông báo.

Anthropic viết trong nghiên cứu rằng: “Khi các mô hình AI ngày càng tiến gần, thậm chí trong một số mặt vượt khả năng nhận thức của con người, khả năng chúng có một dạng trải nghiệm, lợi ích hay phúc lợi riêng cũng trở nên đáng quan tâm hơn, tương tự cách con người có cảm xúc, nhu cầu và lợi ích của chính mình”.

Google DeepMind, Anthropic, Meta đang nghiên cứu liệu AI có thể trở nên có ý thức hay không. Ảnh: SV

Google DeepMind: Đạt tới AGI không đồng nghĩa với việc AI có ý thức

Tháng 4 vừa qua, Google DeepMind tuyển dụng Henry Shevlin, nhà nghiên cứu thuộc Đại học Cambridge (Anh), vào vị trí triết gia chuyên nghiên cứu về ý thức máy móc, mối quan hệ giữa con người và AI, cũng như mức độ sẵn sàng cho AGI.

AGI được xem là dạng AI có khả năng hiểu, học hỏi và thực hiện nhiều nhiệm vụ linh hoạt tương đương hoặc vượt trội con người.

Nhóm nghiên cứu AI này đang xem xét các lý thuyết khoa học về ý thức của con người rồi áp dụng chúng lên hệ thống máy tính, để kiểm tra liệu AI có đáp ứng những đặc điểm được cho là liên quan đến ý thức hay không.

Iason Gabriel - chuyên gia đạo đức học đứng đầu nhóm AGI và xã hội tại Google DeepMind - cho rằng, vấn đề ý thức AI “rất phức tạp” và cần “sự suy ngẫm lâu dài”.

Ông nói thêm rằng ngay cả khi giả định AI không có ý thức, con người vẫn cần xem xét cách đối xử với AI có thể tạo ra những tác động gián tiếp như thế nào, chẳng hạn việc ngược đãi AI liệu có gây ảnh hưởng tiêu cực tới các mối quan hệ giữa con người với nhau hoặc sự phát triển của xã hội hay không.

“Rõ ràng AI hiện nay đã có khả năng xử lý và suy luận rất mạnh, nhưng cách nó hoạt động vẫn khác rất nhiều so với cách con người hay động vật nhận thức và cảm nhận thế giới”, Iason Gabriel nói.

Nhiều nhân viên tại Google DeepMind và Anthropic nói với FT rằng họ lo ngại AI đang phát triển theo hướng có thể dẫn tới một “thế giới hậu nhân loại”, nơi máy móc trở nên thông minh và vượt trội hơn con người.

Google DeepMind và Anthropic cho biết vấn đề AI có ý thức hay không hiện vẫn đang được tranh luận sôi nổi. Các nghiên cứu của họ mới chỉ thăm dò và vẫn cần thêm nhiều bằng chứng cũng như sự đồng thuận từ giới khoa học.

Google DeepMind không cho rằng việc đạt tới AGI đồng nghĩa với việc AI có ý thức.

Nhiều nhà khoa học bác bỏ ý tưởng chatbot có ý thức

Nhiều nhà khoa học và nhà nghiên cứu AI bác bỏ ý tưởng chatbot có thể trở nên có ý thức, dựa trên cách các mô hình ngôn ngữ lớn được huấn luyện hiện nay.

Bà Susan Schneider - Giám đốc Trung tâm Tương lai AI, Tâm trí và Xã hội thuộc Đại học Florida Atlantic (Mỹ) - cho rằng, các hệ thống AI này về cơ bản chỉ là “vỏ não nhân tạo được xây dựng từ dữ liệu do con người đóng góp”.

Bà nói rằng khi các hệ thống AI ngày càng lớn mạnh và được huấn luyện bằng nhiều dữ liệu hơn, chúng sẽ phát triển các năng lực ngày càng giống con người hơn.

“Chúng có mục tiêu riêng, có thể lừa dối, có thể che giấu ý định thật sự của mình. Vì thế, con người dễ nghi ngờ rằng AI đã có ý thức. Song về mặt khoa học, hoàn toàn có khả năng AI làm được những điều đó mà không hề có trải nghiệm hay cảm nhận thật sự bên trong, thứ vốn được gọi là ý thức”, Susan Schneider lý giải.

Sơn Vân

Nguồn Một Thế Giới : https://1thegioi.vn/google-anthropic-meta-nghien-cuu-y-thuc-va-phuc-loi-cua-ai-252603.html