CEO Anthropic: Kẻ xấu có thể dùng AI phát triển vũ khí sinh học giết hàng triệu người

2 giờ trướcBài gốc

Anthropic, công ty khởi nghiệp AI là đối thủ của OpenAI, hiện nằm trong nhóm dẫn đầu trong việc thúc đẩy các giới hạn với công nghệ này.

Trong một bài tiểu luận dài gần 20.000 từ được đăng hôm 26.1, Dario Amodei phác thảo những rủi ro có thể xuất hiện nếu công nghệ phát triển mà không được kiểm soát, từ mất việc làm trên diện rộng cho tới khủng bố sinh học.

“Nhân loại sắp được trao cho một quyền năng gần như không thể tưởng tượng nổi. Điều hết sức không rõ ràng là liệu các hệ thống xã hội, chính trị và công nghệ của chúng ta có đủ trưởng thành để sử dụng quyền năng đó hay không”, Giám đốc điều hành Anthropic viết.

Bài tiểu luận này được xem là lời cảnh báo mạnh mẽ từ một trong những doanh nhân quyền lực nhất trong ngành AI, rằng các biện pháp bảo vệ xung quanh công nghệ này hiện nay là chưa đầy đủ.

Những rủi ro có thể phát sinh với hệ thống AI mạnh mẽ

Dario Amodei nêu ra những rủi ro có thể phát sinh cùng với sự xuất hiện của hệ thống AI mạnh mẽ “sở hữu năng lực vượt xa bất kỳ người đoạt giải Nobel, chính khách hay nhà công nghệ nào”. Đây là điều mà ông dự đoán có thể xảy ra vài năm tới.

Một trong những rủi ro đó là khả năng các cá nhân phát triển vũ khí sinh học có thể giết chết hàng triệu người, hoặc "ở kịch bản xấu nhất, thậm chí có thể hủy diệt toàn bộ sự sống trên Trái đất".

“Một kẻ cô độc có vấn đề về tâm lý có thể gây ra vụ xả súng ở trường học, nhưng có lẽ không thể chế tạo vũ khí hạt nhân hoặc phát tán dịch bệnh… Giờ đây, hắn sẽ được nâng lên ngang tầm năng lực của nhà virus học có bằng tiến sĩ”, Dario Amodei viết.

Ông cũng đề cập đến khả năng AI có thể “vượt khỏi tầm kiểm soát và áp đảo loài người”, hoặc bị các chế độ độc tài và tác nhân xấu khác lợi dụng, dẫn tới “một nền độc tài toàn trị trên phạm vi toàn cầu”.

Dario Amodei: Nhân loại cần phải thức tỉnh trước những rủi ro có thể mang tính thảm họa do các AI mạnh mẽ gây ra những năm tới - Ảnh: Bloomberg

“Bán chip AI tiên tiến sang Trung Quốc giống bán vũ khí hạt nhân cho Triều Tiên”

Dario Amodei có những bất đồng với David Sacks (cố vấn về AI và tiền mã hóa của Tổng thống Donald Trump) về định hướng quản lý AI tại Mỹ.

Ông cũng ví kế hoạch bán chip AI tiên tiến sang Trung Quốc của chính quyền Trump giống việc bán vũ khí hạt nhân cho Triều Tiên.

Tháng 12.2025, ông Trump đã ký một lệnh hành pháp nhằm hạn chế nỗ lực của các bang trong việc tự ban hành quy định với các công ty AI, và năm ngoái công bố một kế hoạch hành động về AI nhằm thúc đẩy nhanh đổi mới sáng tạo ở Mỹ.

Trong bài tiểu luận, Dario Amodei cảnh báo về làn sóng mất việc làm quy mô lớn và sự “tập trung quyền lực kinh tế” cũng như của cải tại Thung lũng Silicon do AI gây ra.

“Đây chính là cái bẫy: AI quá mạnh mẽ, quá hấp dẫn, đến mức nền văn minh nhân loại rất khó có thể áp đặt bất kỳ sự kiềm chế nào với nó”, Giám đốc điều hành Anthropic nói thêm.

Trong lời ám chỉ khéo léo tới tranh cãi xoay quanh chatbot Grok của xAI, Dario Amodei viết rằng “một số công ty AI đã thể hiện sự cẩu thả đáng lo ngại với việc tình dục hóa trẻ em với các mô hình hiện nay”.

“Đây là điều khiến tôi nghi ngờ rằng họ sẽ không có cả thiện chí lẫn năng lực để xử lý các rủi ro về quyền tự chủ trong các mô hình AI tương lai”, ông nhấn mạnh.

Thời gian qua, Grok của xAI (công ty khởi nghiệp AI do Elon Musk điều hành) bị lạm dụng để tạo ảnh khiêu dâm tràn lan trên mạng xã hội X, gây ra phản ứng dữ dội của cơ quan quản lý từ châu Âu đến châu Á.

Những lo ngại về an toàn AI như vũ khí sinh học, vũ khí tự hành và các tác nhân nhà nước có ý đồ xấu từng là chủ đề nổi bật trong thảo luận công khai năm 2023, một phần do cảnh báo từ những lãnh đạo như Dario Amodei.

Cùng năm đó, Vương quốc Anh đã tổ chức hội nghị thượng đỉnh về an toàn AI tại Bletchley Park, nơi các quốc gia và công ty đồng ý hợp tác để đối phó với các rủi ro này. Một cuộc họp tiếp theo dự kiến sẽ được tổ chức tại Ấn Độ vào tháng 2 tới.

Theo Dario Amodei, các quyết định chính trị liên quan đến AI ngày càng bị chi phối bởi mong muốn tận dụng các cơ hội mà công nghệ mới mang lại, thay vì tập trung giảm thiểu rủi ro.

“Sự do dự và lưỡng lự này là điều đáng tiếc, bởi bản thân công nghệ không quan tâm tới điều gì đang thịnh hành. Chúng ta đang tiến gần tới nguy cơ thực sự vào năm 2026 hơn rất nhiều so với 2023”, ông viết.

Năm ngoái, người đứng đầu Anthropic nói ông tin rằng AI có thể xóa sổ một nửa số việc làm văn phòng cấp thấp và đẩy tỷ lệ thất nghiệp lên tới 20%. Đến nay, Dario Amodei nói rằng dự báo này của ông vẫn không thay đổi.

“Giờ đây, tôi nghĩ có lẽ chúng ta đang bắt đầu thấy những dấu hiệu rất nhỏ ban đầu của điều đó, đặc biệt trong lĩnh vực phần mềm và lập trình. Tôi có thể thấy điều này ngay trong Anthropic, khi tôi nhìn về tương lai và nhận ra rằng ở nhóm nhân sự trẻ hơn, thậm chí cả ở nhóm trung cấp, công ty thực sự sẽ cần ít người hơn chứ không phải nhiều hơn. Chúng tôi đang suy nghĩ về cách xử lý vấn đề này trong nội bộ Anthropic theo một cách hợp lý”, Dario Amodei nói tại Diễn đàn Kinh tế Thế giới vừa qua.

Ông cảnh báo rằng tác động tiềm tàng của AI với nền kinh tế và thị trường lao động có thể đòi hỏi những thay đổi ở cấp thể chế, gồm cả vai trò của các tổ chức quốc tế trong việc quản trị AI cũng như các biện pháp can thiệp kinh tế, nhằm giảm thiểu những kịch bản tồi tệ nhất.

"Điều tôi lo ngại là khi sự gia tăng theo cấp số nhân này tiếp tục diễn ra. Chỉ trong một thời gian ngắn nữa, có thể từ 1 đến 5 năm, tốc độ thay đổi đó sẽ nhanh đến mức con người không kịp thích nghi", chuyên gia AI 43 tuổi người Mỹ cho hay.

Dario Amodei là một trong những nhân viên đầu tiên của OpenAI. Thế nhưng, ông đã rời đi để đồng sáng lập Anthropic vào năm 2020, sau khi bất đồng với Sam Altman về định hướng và các quy tắc an toàn cho AI của OpenAI. Sam Altman là đồng sáng lập kiêm giám đốc điều hành OpenAI.

Anthropic đang đàm phán với Microsoft, Nvidia cùng GIC (quỹ đầu tư quốc gia Singapore), Coatue Management và Sequoia Capital cho một vòng gọi vốn có thể lên tới 25 tỉ USD hoặc hơn, định giá công ty ở mức khoảng 350 tỉ USD.

Sơn Vân

Nguồn Một Thế Giới : https://1thegioi.vn/ceo-anthropic-ke-xau-co-the-dung-ai-phat-trien-vu-khi-sinh-hoc-giet-hang-trieu-nguoi-245290.html