Dùng AI quá tốn kém, nhiều công ty phải chọn giữa token hay tuyển người mới

6 giờ trướcBài gốc

Đó là bức tranh mà giám đốc điều hành hai công ty AI dành cho doanh nghiệp, đang ở trung tâm làn sóng triển khai AI, chia sẻ với kênh CNBC trong tuần này.

Những gì họ chứng kiến bên trong các công ty thuộc Fortune 500 cho thấy rõ mối đe dọa mà chi phí leo thang đang tạo ra với canh bạc AI. Đây là rủi ro mà thị trường vẫn chưa nhận ra, trong bối cảnh chứng khoán liên tục lập đỉnh và xuất hiện thêm các công ty nghìn tỉ USD mới như Micron Technology.

Fortune 500 là top 500 doanh nghiệp có doanh thu cao nhất nước Mỹ, bao gồm cả tập đoàn công nghệ, năng lượng, bán lẻ, tài chính, ô tô…

Ngân sách AI bị đội lên quá mức

“Chủ đề số một ở mọi doanh nghiệp lúc này là ngân sách AI bị đội lên quá mức. Các công ty nói với chúng tôi rằng ngân sách AI của họ bị dùng hết chỉ 1 hoặc 2 tháng, dù đáng ra dành cho cả năm”, ông Arvind Jain, Giám đốc điều hành Glean, nói với CNBC.

Glean là công ty khởi nghiệp chuyên phát triển công cụ tìm kiếm và trợ lý AI dành cho doanh nghiệp.

Nguyên nhân vì chi phí AI không giảm như khách hàng kỳ vọng, mà trái lại còn tăng lên. Mỗi mô hình AI mới được các công ty hàng đầu tung ra đều có chi phí trên mỗi token cao gấp khoảng 2 lần phiên bản trước đó, khiến việc triển khai AI trong doanh nghiệp trở nên không bền vững, theo Arvind Jain.

Token là đơn vị dữ liệu nhỏ nhất mà mô hình AI xử lý hoặc tạo ra, có thể là một từ, một phần của từ, hoặc thậm chí là dấu câu. Nhiều công ty sử dụng token như một đơn vị kinh tế để đo lường khối lượng tính toán mà AI thực hiện. Văn bản càng dài thì càng cần nhiều token để xử lý, vì vậy chi phí thường được tính theo số token (trên mỗi nghìn hoặc mỗi triệu token).

“Đây là lần đầu tiên tôi nhớ được rằng công nghệ có chi phí tương đương con người, và bạn phải đưa ra so sánh: chọn công nghệ hay chọn con người. Trong lịch sử, chúng ta chưa từng có cuộc thảo luận như vậy, vì công nghệ chỉ chiếm một phần nhỏ trong tổng chi phí vận hành của bất kỳ doanh nghiệp nào”, Arvind Jain nhấn mạnh.

Arvind Jain nói ngân sách AI ngày càng phình to này đang dần thay thế cho kế hoạch tuyển thêm nhân sự trong tương lai.

Matan Grinberg, Giám đốc điều hành Factory AI - công ty điều phối công việc kỹ thuật qua nhiều mô hình AI hàng đầu khác nhau, mô tả sự thay đổi này như một bài toán phân bổ nguồn lực cụ thể đang diễn ra trong các nhóm lãnh đạo.

“Các công ty nói rằng: nếu chỉ có thể tối ưu một thứ, thì đó nên là số lượng nhân viên hay chi phí AI trên mỗi nhân viên?”, Matan Grinberg nói.

Token hay nhân sự: Bài toán đau đầu mới của nhiều công ty thời AI. Ảnh: SV

Ông cho rằng các công ty đã trải qua ba giai đoạn rõ rệt chỉ trong khoảng một năm.

Giai đoạn đầu là khi hội đồng quản trị gây áp lực buộc giám đốc điều hành phải làm điều gì đó với AI.

Tiếp theo là giai đoạn được gọi là tokenmaxxing. Đây là thuật ngữ mới trong ngành AI, dùng để chỉ việc doanh nghiệp hoặc cá nhân sử dụng AI ở mức tối đa, tiêu thụ càng nhiều token càng tốt để tăng năng suất hoặc đẩy nhanh công việc, gần như không quan tâm đến chi phí.

Ở giai đoạn thứ ba, các ban lãnh đạo bắt đầu đánh giá lại nhu cầu sử dụng những mô hình AI cao cấp.

“Liệu chúng ta có thực sự cần dùng mức trí tuệ cỡ Claude Opus cho mọi tác vụ không? Thực tế là không cần”, Matan Grinberg nói.

Claude Opus là dòng mô hình AI cao cấp của Anthropic, được thiết kế cho những tác vụ phức tạp như lập trình, phân tích dữ liệu, suy luận dài, nghiên cứu, xử lý tác vụ doanh nghiệp.

Chi nhiều cho AI hơn giá trị nhận lại

Nguồn gốc của áp lực này là AI thực sự hoạt động hiệu quả, nhưng chưa thể tự tạo ra đủ giá trị để bù đắp chi phí.

“Cách thức hoạt động của AI hiện nay rất mạnh mẽ, nhưng lại rất kém hiệu quả. Giá trị mà AI mang lại ở thời điểm này hiện vẫn chưa theo kịp chi phí doanh nghiệp phải bỏ ra”, Arvind Jain nói.

Một phần lớn của vấn đề nằm ở việc sử dụng mô hình AI không hiệu quả.

Khoảng 95% mức sử dụng AI trong doanh nghiệp hiện vẫn chạy trên những mô hình hàng đầu đắt đỏ nhất, kể cả với các tác vụ hoàn toàn có thể được xử lý bằng lựa chọn rẻ hơn, theo Arvind Jain.

Có một cách đơn giản để giảm chi phí: giao các công việc dễ cho những mô hình AI rẻ hơn. Arvind Jain nói đây là cách tiết kiệm dễ thực hiện nhất hiện nay.

“Bạn có thể tiết kiệm gấp 10 lần nếu chọn đúng mô hình AI ngay từ đầu”, ông nhấn mạnh.

Đó cũng là ý tưởng đằng sau Factory AI, nền tảng tự động gửi từng tác vụ tới mô hình AI phù hợp nhất.

Arvind Jain: Bạn có thể tiết kiệm gấp 10 lần nếu chọn đúng mô hình AI ngay từ đầu. Ảnh: Getty Images

Rất hiếm công việc cần tới mô hình AI mạnh nhất

Matan Grinberg nói chìa khóa nằm ở chuyện nhận ra rằng rất hiếm công việc thực sự cần tới mô hình AI mạnh nhất thị trường. Ông so sánh sự khác biệt giữa hai mô hình AI tiên tiến với hai học giả kỳ cựu.

“Claude Opus 4.7 so với Opus 4.8 giống như khác biệt giữa một giáo sư có 13 năm kinh nghiệm với người có 15 năm kinh nghiệm. Với người bình thường, rất khó để nhận ra sự khác biệt”, Matan Grinberg cho hay.

Toàn bộ làn sóng đầu tư AI hiện nay dựa trên niềm tin rằng nhu cầu sử dụng AI sẽ tiếp tục bùng nổ và khách hàng sẽ không quá quan tâm đến chi phí. Tuy nhiên, những gì đang diễn ra bên trong các công ty thuộc Fortune 500 cho thấy doanh nghiệp thực tế nhạy cảm với giá hơn nhiều so với suy nghĩ của thị trường.

Sơn Vân

Nguồn Một Thế Giới : https://1thegioi.vn/dung-ai-qua-ton-kem-nhieu-cong-ty-phai-chon-giua-token-hay-tuyen-nguoi-moi-252512.html