Rủi ro của việc quá tự tin vào AI

2 giờ trướcBài gốc

Lee Holmes - CEO của Infinox, một công ty fintech và giao dịch, mới đây đã bỏ qua một ứng viên từng làm CIO khi tuyển dụng nhân sự cho vị trí lãnh đạo cấp cao vì cách tiếp cận của người này với việc áp dụng AI. “Vấn đề không phải là các ứng viên thiếu tự tin hay thiếu tham vọng với AI, mà hoàn toàn ngược lại. Họ hầu như chỉ nói về AI. Toàn bộ tầm nhìn của họ về chuyển đổi, hiệu suất làm việc và thậm chí cả văn hóa đều gắn liền với nó”, Holmes nói.

“Khi mọi giải pháp đều bắt đầu và kết thúc bằng AI, bạn có nguy cơ đặt tất cả trứng vào một giỏ”, ông giải thích.

Lãnh đạo, đừng để mình thành “nạn nhân” của AI

Đừng biến mình thành nạn nhân của sự vội vàng

Sự tự tin quá mức vào công cụ AI có thể dẫn đến tình trạng triển khai thiếu kiểm soát, thiếu hiểu biết về giới hạn công nghệ, đánh giá sai chi phí, lợi ích và nhất là xem nhẹ khung quản trị. Khi cuộc đua đầu tư và áp dụng AI nóng lên trên toàn cầu, sự nhận thức đúng đắn về rủi ro là điều kiện tất yếu để DN không biến mình thành nạn nhân của chính sự vội vàng.

Holmes không phải trường hợp duy nhất trải nghiệm sự đánh giá sai lầm này. Theo một nghiên cứu gần đây của công ty dịch vụ IT Riverbed, các DN có thể đang đi quá xa khi nói về AI. Trong 1.200 lãnh đạo được khảo sát, 87% nói đã thấy lợi nhuận đầu tư từ các sáng kiến AI, dù chỉ có 12% kế hoạch đã được triển khai đầy đủ và 62% vẫn đang ở giai đoạn thử nghiệm.

Simon Noble - CEO của Cezanne HR, cho rằng những kỳ vọng sai lầm như trên đến từ việc "nhiều CEO say sưa với cơn sốt AI". Nhiều CIO rất muốn "kể cho ban lãnh đạo nghe các câu chuyện về AI" và đang nhầm lẫn giữa mô hình nguyên mẫu và sản phẩm hoàn thiện. "Còn quá sớm để nói về câu chuyện AI tiết kiệm chi phí cho DN. Các CIO đang ký những kế hoạch lớn với ngân sách thậm chí còn lớn hơn, trong khi nghĩ rằng AI sẽ dễ dàng hòa nhập vào các quy trình và bắt đầu tiết kiệm chi phí chỉ sau một đêm. Nhưng, điều này đơn giản là không xảy ra", Noble nói.

Làm trầm trọng khoảng cách quản trị

Theo một báo cáo được Viện Tiêu chuẩn quốc gia Anh (BSI) công bố vào tháng trước, sự vội vã đầu tư vào AI đang làm trầm trọng khoảng cách trong hoạt động quản trị AI. Cơ quan này cũng cảnh báo rằng AI sẽ không phải "liều thuốc chữa bách bệnh cho tăng trưởng chậm chạp và hiệu suất làm việc" trừ phi các biện pháp quản trị phù hợp được thiết lập.

Trong khi đó, một khảo sát gần đây về AI của Công ty kiểm toán EY cho thấy sự tự tin của các CIO vào các giải pháp AI có của họ, dù khá cao, thực ra lại thường được đặt không đúng chỗ. Hơn nữa, các giám đốc cấp cao chưa triển khai AI đầy đủ bày tỏ mối quan ngại lớn hơn (47%) về quyền riêng tư và bảo mật của hệ thống AI so với những người đã tích hợp AI đầy đủ (21%).

Đương nhiên, niềm tin vào công nghệ có thể tăng khi hoạt động áp dụng AI ngày càng hoàn thiện, nhưng theo báo cáo của EY, một số CIO có thể chưa nhận thức được những rào cản hiện hữu hoặc chưa đặt ra biện pháp quản trị phù hợp. Vậy, để bản thân DN không đưa ra đánh giá sai lầm và tốn thời gian lẫn nguồn lực ứng dụng AI mà không thu về kết quả tương xứng, các lãnh đạo DN cần chú ý một số điều sau.

Hãy hiểu và sắp xếp dữ liệu có trật tự trước

Seb Kirk - CEO của nền tảng giải pháp AI GaiaLens không bất ngờ trước những phát hiện trong các báo cáo. Theo ông, sự tự tin quá mức có thể xuất phát từ "sự hiểu lầm về những gì AI thực sự làm và quan trọng hơn là những gì cần thiết để tạo ra giá trị". Các CIO thường đánh giá thấp những thách thức trong việc đảm bảo tuân thủ quy định hoặc liên kết AI với các cấu trúc dữ liệu và khuôn khổ quản trị hiện có.

Báo cáo của BSI cũng phản ánh điều này. Chỉ 40% lãnh đạo DN được khảo sát có quy trình rõ ràng về việc sử dụng dữ liệu mật trong đào tạo, và chỉ 28% biết về nguồn dữ liệu được sử dụng để đào tạo các công cụ AI. Theo Kirk, các nhà lãnh đạo nên áp dụng phương pháp "dữ liệu trước, triển khai sau". Để vận hành an toàn và hiệu quả, các hệ thống AI đòi hỏi dữ liệu sạch, nhất quán và chất lượng cao. Do đó, các CIO phải xây dựng chính sách rõ ràng, tuân thủ quy định chung về bảo vệ dữ liệu về quyền riêng tư, thu thập, bảo mật và lưu trữ dữ liệu. "Họ cần thiết lập trách nhiệm giải trình rõ ràng và đảm bảo mọi quyết định tự động đều có thể được theo dõi, kiểm toán và giải thích", Kirk khuyên.

Bảo mật hệ thống thông tin của DN

Randolph Barr - Giám đốc thông tin và an ninh tại công ty phần mềm Cequence Security cũng cho rằng các DN phải thiết lập khuôn khổ quản trị và an ninh rõ ràng trước khi triển khai các công cụ AI. “Một trong các vấn đề lớn nhất mà chúng tôi phải giải quyết trước khi AI bùng nổ là cải thiện hệ thống công nghệ thông tin để tự động hóa và tích hợp có thể nâng cao năng suất. Điều này vẫn đúng bây giờ, nhưng rủi ro cao hơn nhiều”, ông nhớ lại.

Barr khuyên các CIO nên sử dụng “cổng AI”, tức một nền tảng tập trung cho phép nhà lãnh đạo quản lý, điều hành và bảo mật các công cụ, API và LLM của DN. "Cổng AI cho phép các CIO xác định các quy tắc tiêu chuẩn và quan sát cách AI được sử dụng trên toàn bộ hệ sinh thái DN. Điều này tốt hơn so với việc mỗi nhóm tự tích hợp AI vào quy trình làm việc của riêng mình", ông nói, giải thích rằng điều này có thể đảm bảo rằng hệ thống AI của họ đang hoạt động đáng tin cậy và an toàn.

Lấp đầy khoảng trống kỹ năng của nhân sự

Bất kể hệ thống an toàn đến đâu, thành công lâu dài của bất kỳ kế hoạch ứng dụng AI nào cũng phụ thuộc vào khả năng sử dụng hiệu quả các công cụ AI của nhân viên. Theo báo cáo Tình hình CIO năm 2025 của CIO.com hồi tháng 5/2025, 36% CIO dự định tăng tuyển dụng AI trong 6 đến 12 tháng tới. Tuy nhiên, nhiều người lo ngại về việc thiếu hụt ứng viên có chuyên môn cần thiết về AI, an ninh mạng, khoa học dữ liệu và phân tích.

Do đó, trách nhiệm thuộc về các CIO trong việc xây dựng nguồn nhân lực công nghệ thông tin qua việc đào tạo lại và nâng cao kỹ năng. Để làm điều này, Claus Jepsen - CTO tại công ty điện toán đám mây DN Unit4, khuyên nên tiến hành kiểm tra kỹ năng của nhân sự. "Làm vậy sẽ giúp các CIO xây dựng kỹ năng cho đội ngũ của mình, lấp đầy các thiếu sót và xác định những chuyên môn mới nào họ cần bổ sung cho tổ chức", Jepsen nói.

Ông bổ sung rằng các nhân sự phù hợp sẽ có khả năng phân tích dữ liệu và đảm bảo các biện pháp chất lượng, quản trị và bảo mật phù hợp được áp dụng. Những nền tảng đó có thể đủ để chứng minh sự tin tưởng của các CIO rằng hệ thống AI của họ đang được triển khai một cách có trách nhiệm.

Khởi Vũ

Nguồn DNSG : https://doanhnhansaigon.vn/rui-ro-cua-viec-qua-tu-tin-vao-ai-329128.html