CEO Microsoft AI lo sợ AI có ý thức, gây nguy hiểm cho con người

6 giờ trướcBài gốc

Trong một bài luận cá nhân vừa được xuất bản, Mustafa Suleyman gọi hiện tượng đó là “AI dường như có ý thức” (Seemingly Conscious AI – SCAI). Ông định nghĩa SCAI là một hệ thống AI “có tất cả đặc điểm giống các sinh vật có ý thức khác và do đó trông như thể có ý thức”.

Mustafa Suleyman cảnh báo sự xuất hiện của SCAI có thể “nguy hiểm” với xã hội vì nó dễ khiến con người hình thành sự gắn bó tình cảm với AI và kêu gọi trao quyền lợi cho công nghệ này.

“Điều đó sẽ khiến con người tách rời khỏi thực tại, làm rạn nứt những mối liên kết và cấu trúc xã hội vốn đã mong manh, đồng thời sai lệch các ưu tiên đạo đức cấp bách”, chuyên gia AI người Anh 41 tuổi viết.

Mustafa Suleyman, nhà đồng sáng lập công ty DeepMind và Inflection AI, khẳng định rằng hiện tại "không có bằng chứng nào" cho thấy AI có ý thức. Tuy nhiên, ông ngày càng “lo lắng nhiều hơn” về “loạn thần do AI” – thuật ngữ ngày càng phổ biến để chỉ tình trạng một số người hình thành niềm tin hoang tưởng sau khi tương tác với chatbot.

“Tôi không nghĩ rằng điều đó chỉ giới hạn ở những người vốn đã có nguy cơ về sức khỏe tâm thần. Nói ngắn gọn, nỗi lo trung tâm của tôi là nhiều người sẽ bắt đầu tin tưởng quá mạnh mẽ, ảo tưởng rằng AI là những thực thể có ý thức, đến mức họ sớm vận động cho quyền lợi của AI, phúc lợi cho mô hình, thậm chí là quyền công dân cho AI”, Mustafa Suleyman đề cập.

Mustafa Suleyman lo SCAI có thể gây nguy hiểm với xã hội, khiến con người tách rời thực tại - Ảnh: Getty Images

Sam Altman, Giám đốc điều hành OpenAI, gần đây cũng nói rằng hầu hết người dùng ChatGPT có thể “giữ ranh giới rõ ràng giữa thực tế và hư cấu hoặc nhập vai, nhưng một tỷ lệ nhỏ thì không”.

Trong khi đó, David Sacks (người đứng đầu chính sách AI và tiền mã hóa của Nhà Trắng) đã hoài nghi khái niệm “loạn thần do AI” và so sánh nó với “nỗi hoảng loạn đạo đức” ở giai đoạn đầu của mạng xã hội.

Nỗi hoảng loạn đạo đức từng được tạo ra quanh mạng xã hội là giai đoạn đầu Facebook, Twitter, Instagram mới phát triển mạnh (khoảng từ cuối những năm 2000 đến đầu 2010). Xã hội, truyền thông và giới nghiên cứu đã lo ngại, thậm chí thổi phồng nhiều rủi ro, cho rằng mạng xã hội sẽ:

Làm băng hoại đạo đức, khiến giới trẻ nghiện ngập online.

Gây tổn hại sức khỏe tâm thần (trầm cảm, lo âu, mất ngủ).

Làm gia tăng tin giả, tin đồn thất thiệt, gây mất ổn định xã hội.

Tạo ra văn hóa phô trương, so sánh (ảnh hưởng tiêu cực đến lòng tự trọng).

Đe dọa đến quan hệ gia đình và cộng đồng khi con người “sống ảo” hơn là đời thật.

Thuật ngữ này thường chỉ trạng thái xã hội phản ứng quá mức, mang tính sợ hãi tập thể, giống “hội chứng đám đông”, trước một công nghệ hay xu hướng mới. Về sau, người ta thấy mạng xã hội gây ra nhiều vấn đề nhưng không đến mức độ không “tận thế” như nỗi lo ban đầu.

Trong khi hầu hết mọi người tương tác với ChatGPT, Google Gemini và Claude mà không gặp vấn đề gì, một số ít người dùng cho biết các chatbot AI này đã khuyến khích họ có những ảo tưởng và hành vi đáng lo ngại khác. Với vài người, ChatGPT thậm chí còn được coi là giải pháp thay thế cho các nhà trị liệu chuyên nghiệp.

Một bác sĩ tâm thần từng nói với trang Insider rằng nhiều bệnh nhân của ông có biểu hiện "loạn thần do AI". Bác sĩ cho biết những người đó đã sử dụng AI trước khi gặp các vấn đề về sức khỏe tâm thần và “họ dựa vào công nghệ này trong bối cảnh không phù hợp khiến những tổn thương tâm lý sẵn có trở nên trầm trọng hơn”.

David Sacks đề cập đến bài báo gần đây có sự tham gia của một bác sĩ tâm thần. Bác sĩ này không tin rằng việc sử dụng chatbot có thể tự thân gây ra "loạn thần do AI" nếu không có các yếu tố rủi ro khác, gồm cả xã hội và di truyền.

"Nói cách khác, đây chỉ là một biểu hiện bên ngoài cho những vấn đề đã tồn tại từ trước. Tôi nghĩ chúng ta đang ở giữa một cuộc khủng hoảng sức khỏe tâm thần ở đất nước này", David Sacks nói.

“Sa hoàng AI ở Nhà Trắng" cho rằng cuộc khủng hoảng này do đại dịch COVID-19 và các đợt phong tỏa liên quan. "Đó dường như là nguyên nhân gây ra rất nhiều sự suy giảm sức khỏe tâm thần như vậy", ông nói.

Microsoft AI là bộ phận chuyên trách về AI của gã khổng lồ phần mềm Mỹ, được thành lập vào tháng 3.2024 nhằm nghiên cứu, phát triển và triển khai các công nghệ AI tiên tiến.

Đây là đơn vị đứng sau nhiều sản phẩm và nền tảng AI quan trọng của Microsoft, nổi bật là trợ lý Copilot và Azure AI (dịch vụ AI trên nền tảng đám mây Azure). Việc lập ra bộ phận AI riêng cho thấy Microsoft coi đây là mũi nhọn chiến lược trong cạnh tranh toàn cầu về công nghệ.

AI có ý thức sắp đến?

Mustafa Suleyman dự đoán rằng SCAI có thể xuất hiện trong vòng 2 đến 3 năm tới và cho rằng đó là sự phát triển “vừa không thể tránh khỏi vừa không được chào đón”.

Ông nói các hệ thống AI như vậy sẽ sở hữu những đặc điểm như tính cách đồng cảm, khả năng ghi nhớ nhiều tương tác hơn với người dùng, mức độ tự chủ cao hơn cùng một số năng lực khác.

Sự trỗi dậy của vibe coding (phong cách lập trình dựa trên tín hiệu và cảm nhận thay vì các quy tắc chặt chẽ) cũng khiến việc tạo ra SCAI trở nên dễ dàng hơn, theo Mustafa Suleyman. Chỉ cần một chiếc laptop, tài khoản đám mây và các gợi ý ngôn ngữ tự nhiên phù hợp, bất kỳ ai cũng có thể tạo ra hệ thống AI tương tự, ông cảnh báo.

Song song đó, Mustafa Suleyman kêu gọi các công ty không mô tả AI của mình như là có ý thức trong khi theo đuổi mục tiêu siêu trí tuệ – giai đoạn AI vượt trội con người trong hầu hết nhiệm vụ.

“AI đồng hành là hạng mục mới và chúng ta cần khẩn trương bàn về các biện pháp kiểm soát để bảo vệ con người, đồng thời đảm bảo công nghệ tuyệt vời này có thể thực hiện sứ mệnh mang lại giá trị to lớn cho thế giới”, Mustafa Suleyman nhấn mạnh.

Thời điểm AGI xuất hiện

Trong một cuộc phỏng vấn trên podcast Decoder của trang The Verge cuối năm 2024, Mustafa Suleyman đưa ra quan điểm về thời điểm có thể đạt được AI tổng quát (AGI).

AGI được coi là siêu AI có khả năng hiểu, học hỏi và thực hiện các nhiệm vụ đa dạng một cách linh hoạt giống hay vượt trội con người.

Decoder là podcast được dẫn dắt bởi Nilay Patel - Tổng biên tập The Verge. Podcast tập trung vào các cuộc phỏng vấn chuyên sâu với các nhà lãnh đạo, giám đốc điều hành, nhà sáng lập và chuyên gia trong nhiều lĩnh vực khác nhau, đặc biệt là công nghệ, truyền thông và kinh doanh.

Vào tháng 10.2024, Sam Altman cho biết "chúng ta có thể đạt được AGI bằng phần cứng hiện tại" trong một phiên hỏi đáp trên mạng xã hội Reddit.

Giám đốc điều hành OpenAI không nêu rõ ý nghĩa chính xác của "phần cứng hiện tại" nhưng Nilay Patel định nghĩa nó là trong vòng một đến hai thế hệ công nghệ.

Một đến hai thế hệ công nghệ thường ám chỉ chu kỳ phát triển sản phẩm mới, ví dụ các phiên bản mới của chip hoặc phần cứng, thường mất vài năm để phát triển.

Mustafa Suleyman (cựu giám đốc điều hành công ty khởi nghiệp Inflection AI) đồng ý rằng khung thời gian này là hợp lý nhưng đưa ra một số cảnh báo. Ông nói với Nilay Patel rằng AGI có thể khả thi hơn trong vòng 2 đến 5 thế hệ công nghệ tiếp theo.

"Tôi không muốn nói rằng tôi nghĩ khả năng cao là phải mất 2 năm nữa, nhưng tôi nghĩ là trong vòng 5 đến 7 năm tới, vì chu kỳ phát triển một thế hệ công nghệ mới hiện kéo dài từ 18 đến 24 tháng", Mustafa Suleyman nói.

Ông cũng cho biết thêm 5 thế hệ công nghệ, chẳng hạn các phiên bản mới của chip Nvidia GB200, có thể mất tới một thập kỷ để phát triển.

Nvidia GB200 là thế hệ chip AI mới của Nvidia, thuộc dòng Grace Blackwell Superchip, được công bố vào tháng 3.2024. Đây là bước tiến tiếp theo sau thành công của dòng Nvidia H100 và H200, được thiết kế để tăng tốc độ huấn luyện và suy luận của các mô hình AI như GPT-5 hay các hệ thống đa phương thức.

"Sự không chắc chắn về vấn đề này quá lớn đến mức bất kỳ tuyên bố chắc chắn nào cũng có vẻ thiếu căn cứ và phóng đại với tôi", Giám đốc điều hành Microsoft AI nhấn mạnh.

Vài tuần sau tuyên bố trên Reddit, Sam Altman cho biết AGI sẽ đến sớm hơn dự kiến nhưng "sẽ ít quan trọng hơn nhiều", tại Hội nghị thượng đỉnh DealBook của tờ New York Times đầu tháng 12.2024.

Sam Altman cho rằng AGI sẽ đến sớm hơn dự kiến - Ảnh: Shutterstock

Mustafa Suleyman cho biết mọi người có nhiều định nghĩa khác nhau về AGI. Ông định nghĩa AGI là "một hệ thống học tập có mục đích chung có thể hoạt động tốt trong mọi môi trường đào tạo ở cấp độ con người, gồm cả lao động chân tay". Trong khi đó, trang web OpenAI định nghĩa AGI là "một hệ thống có tính tự chủ cao, vượt trội hơn con người ở hầu hết công việc có giá trị kinh tế".

"Thách thức với AGI là khái niệm này đã trở nên quá kịch tính hóa, khiến chúng ta không tập trung vào các khả năng cụ thể mà hệ thống có thể thực hiện", Mustafa Suleyman cho hay. Theo ông, thay vì tập trung vào các khả năng cụ thể và ứng dụng thực tế của AI, nhiều cuộc thảo luận lại xoay quanh những viễn cảnh hoặc ý tưởng phi thực tế.

Sơn Vân

Nguồn Một Thế Giới : https://1thegioi.vn/ceo-microsoft-ai-lo-so-ai-co-y-thuc-gay-nguy-hiem-cho-con-nguoi-236486.html