Anthropic kêu gọi phát triển AI chậm lại để tránh rủi ro khó lường

9 giờ trướcBài gốc

Công ty AI Mỹ Anthropic cảnh báo các hệ thống AI đang tiến gần đến ngưỡng có thể tự cải thiện và nâng cấp mà không cần sự can thiệp của con người. Ảnh: 21jingji.

Công ty AI Mỹ Anthropic vừa gây chú ý khi kêu gọi các phòng thí nghiệm hàng đầu thế giới tạm dừng hoặc giảm tốc độ phát triển trí tuệ nhân tạo tiên tiến, với cảnh báo rằng các hệ thống AI đang tiến gần đến ngưỡng có thể tự cải thiện và nâng cấp mà không cần sự can thiệp của con người.

TheoWall Street Journal, Anthropic ngày 4/6 đã công bố một bức thư ngỏ do các nhà nghiên cứu cấp cao và đồng sáng lập công ty soạn thảo. Văn bản này cho rằng tốc độ phát triển AI hiện nay đang vượt quá khả năng thích ứng của xã hội và có thể dẫn đến những rủi ro khó lường trong tương lai gần.

Anthropic đặc biệt cảnh báo về viễn cảnh xuất hiện cái gọi là “recursive self-improvement” (tự nâng cấp liên tục) – trạng thái mà một hệ thống AI có thể tự tối ưu hóa, tự nâng cấp các phiên bản tiếp theo mà không cần sự tham gia trực tiếp của con người. Nhiều chuyên gia trong ngành xem đây là một cột mốc quan trọng nhưng cũng tiềm ẩn nguy cơ gây ra những biến động sâu rộng về kinh tế, xã hội và an ninh.

Để giảm thiểu rủi ro, Anthropic đề xuất xây dựng một cơ chế hợp tác quốc tế tương tự các hiệp ước kiểm soát vũ khí hạt nhân, nhằm điều phối và giới hạn tốc độ phát triển AI tiên tiến trên toàn cầu. Theo công ty này, bất kỳ thỏa thuận nào cũng cần đi kèm cơ chế kiểm chứng độc lập để bảo đảm các bên cùng tuân thủ cam kết.

Anthropic đề xuất xây dựng một cơ chế hợp tác quốc tế tương tự các hiệp ước kiểm soát vũ khí hạt nhân. Ảnh: Sina.

Tuy nhiên, Anthropic cũng thừa nhận việc giám sát hoạt động huấn luyện AI khó khăn hơn nhiều so với kiểm soát vũ khí truyền thống. Các trung tâm đào tạo AI có thể được che giấu dễ dàng hơn những cơ sở quân sự, trong khi bất kỳ quốc gia hoặc công ty nào tiếp tục phát triển AI trong lúc đối thủ tạm dừng đều có thể giành ưu thế vượt trội.

Anthropic cho biết trong những tháng tới sẽ tổ chức các cuộc thảo luận với giới hoạch định chính sách, các nhà nghiên cứu và chuyên gia công nghệ nhằm tìm kiếm giải pháp quản trị đối với các hệ thống AI ngày càng mạnh hơn.

Bức thư ngỏ được công bố kèm theo một số dữ liệu thử nghiệm nội bộ mà Anthropic cho rằng cho thấy tốc độ tiến bộ của các mô hình AI đang tăng rất nhanh. Công ty nhấn mạnh khả năng tự cải tiến hiện chưa xuất hiện và cũng không chắc chắn sẽ xuất hiện, nhưng nếu điều đó xảy ra thì có thể đến sớm hơn nhiều so với dự đoán của phần lớn các tổ chức hiện nay.

Anthropic đã có quan hệ hợp tác với Lầu Năm Góc và hỗ trợ cơ quan an ninh Mỹ. Ảnh: Zaobao.

Ý định thực tế của Anthropic bị nghi ngờ

Anthropic từ lâu xây dựng hình ảnh là một trong những doanh nghiệp đặt yếu tố an toàn AI lên hàng đầu. Tuy nhiên, các đề xuất của công ty này cũng liên tục vấp phải tranh cãi.

Nhiều ý kiến cho rằng những lời kêu gọi siết chặt quản lý AI thực chất có thể giúp họ củng cố vị thế thị trường và làm chậm bước tiến của đối thủ. Ông David Sacks, cựu cố vấn Nhà Trắng về AI và tiền mã hóa từng chỉ trích lãnh đạo Anthropic đang theo đuổi một “chương trình nghị sự mang tính độc quyền”, có nguy cơ dẫn tới các chính sách bất lợi cho cộng đồng AI nguồn mở.

Một số nhà phê bình khác cho rằng việc Anthropic thường xuyên cảnh báo về các nguy cơ từ AI cũng là một hình thức tiếp thị, nhằm nhấn mạnh mức độ tiên tiến của các mô hình do công ty phát triển. Trước đây, quyết định hạn chế phát hành rộng rãi mô hình an ninh mạng Mythos từng bị chỉ trích là động thái quảng bá năng lực công nghệ của doanh nghiệp.

Không phải tất cả chuyên gia AI đều đồng tình với những cảnh báo mang tính hiện sinh mà Anthropic đưa ra. Nhà khoa học máy tính Yann LeCun, người đoạt Giải Turing và hiện là Giám đốc khoa học AI của Meta, nhiều lần khẳng định các mô hình ngôn ngữ lớn sẽ không thể đạt tới trí thông minh tương đương con người. Theo ông, AI hiện nay chỉ là công cụ mạnh mẽ với mức độ thông minh tương đối hạn chế.

Giáo sư Ethan Mollick của Trường Kinh doanh Wharton thuộc Đại học Pennsylvania cũng cho rằng nhiều người xem các tuyên bố về an toàn AI của Anthropic là sự pha trộn giữa những lo ngại thực sự và chiến lược truyền thông doanh nghiệp.

Theo ông, bên trong Anthropic tồn tại nhiều động lực khác nhau: từ các nhóm kinh doanh, luật sư, đội ngũ kỹ sư phát triển sản phẩm cho tới những nhà nghiên cứu thực sự quan tâm tới tương lai lâu dài của nhân loại. Điều này khiến công chúng khó đánh giá đâu là động cơ chính đằng sau các sáng kiến về an toàn AI mà công ty đề xuất.

CEO Anthropic Dario Amode cảnh báo về "một cơn sóng thần không ai tin đang ập tới". Ảnh: Baai.

Phản hồi trước các ý kiến chỉ trích, lãnh đạo Anthropic khẳng định công ty nghiêm túc với các vấn đề an toàn AI và mong muốn thúc đẩy các cuộc thảo luận rộng rãi hơn về những rủi ro tiềm tàng của công nghệ này.

Đáng chú ý, lời kêu gọi giảm tốc độ phát triển AI được đưa ra đúng thời điểm Anthropic vừa chính thức nộp hồ sơ chuẩn bị phát hành cổ phiếu lần đầu ra công chúng (IPO). Nhà phát triển mô hình Claude được cho là đang hướng tới mức định giá vượt mốc 1.000 tỷ USD, qua đó gia nhập cuộc đua niêm yết đình đám cùng OpenAI và SpaceX.

Theo các nguồn tin thị trường, OpenAI hiện được định giá khoảng 852 tỷ USD và cũng đang chuẩn bị cho kế hoạch IPO. Trong khi đó, SpaceX được cho là đặt mục tiêu định giá lên tới 1.750 tỷ USD khi niêm yết.

Tuần trước, Anthropic vừa hoàn tất vòng gọi vốn mới trị giá 65 tỷ USD. Trước vòng huy động này, công ty đã được định giá khoảng 900 tỷ USD, tăng hơn 15 lần chỉ trong vòng 15 tháng so với mức 60 tỷ USD hồi đầu năm ngoái.

Ở mảng thương mại, Anthropic đã ký các thỏa thuận hợp tác hạ tầng điện toán quy mô lớn với Google, Broadcom và Amazon. Tháng trước, công ty tiếp tục hợp tác với SpaceX để thuê hai khu trung tâm dữ liệu siêu lớn, mang lại cho SpaceX nguồn doanh thu khoảng 1,5 tỷ USD mỗi năm.

Trong khi liên tục kêu gọi thận trọng với AI, Anthropic cũng đang hỗ trợ các cơ quan an ninh Mỹ triển khai mô hình Mythos phục vụ các hoạt động tác chiến mạng. Công ty thậm chí cử kỹ sư làm việc trực tiếp với đối tác để tinh chỉnh hệ thống theo yêu cầu tác chiến. Điều này khiến không ít người đặt câu hỏi liệu những cam kết về “AI an toàn” của Anthropic có hoàn toàn nhất quán với các hoạt động kinh doanh thực tế hay không.

Theo Sina

Thu Thủy

Nguồn VietTimes : https://viettimes.vn/anthropic-keu-goi-phat-trien-ai-cham-lai-de-tranh-rui-ro-kho-luong-post201244.html