Cuộc đua smartphone AI: Bảo mật có thể quyết định bên thắng cuộc

6 giờ trướcBài gốc

Khác với trợ lý số truyền thống, tác tử AI (trí tuệ nhân tạo) không chỉ phản hồi thao tác mà còn hiểu mục tiêu và tự hoàn thành cả một chuỗi hành động. Nghe rất hấp dẫn nhưng đi kèm là rủi ro không nhỏ.

Những tranh luận gần đây xoay quanh các tác tử AI phát triển nhanh chóng đã làm nổi bật một vấn đề lớn hơn: Niềm tin không tăng nhanh như năng lực của AI.

Cốt lõi của vấn đề nằm ở quyền truy cập. Để có thể thay người dùng xử lý công việc trên nhiều ứng dụng, AI cần được cấp rất nhiều quyền trong hệ điều hành, chẳng hạn đọc màn hình, điều khiển giao diện, chuyển dữ liệu giữa các ứng dụng. Nhờ đó, trải nghiệm trở nên liền mạch và thông minh hơn. Song đồng thời, AI gần như có cái nhìn toàn diện về mọi thứ trên smartphone - điều khiến các chuyên gia bảo mật lo ngại.

Khi hoạt động như một “siêu người dùng” có quyền rộng khắp, AI phá vỡ những nguyên tắc bảo mật truyền thống của smartphone như phân tách ứng dụng (nhốt mỗi ứng dụng vào một không gian riêng) hay kiểm soát quyền truy cập. Từ đó, một loại rủi ro mới xuất hiện, không còn đến từ lỗi phần mềm mà từ việc AI có thể hiểu sai hoặc bị đánh lừa để làm điều không mong muốn.

Nếu hiểu nhầm yêu cầu của bạn, hoặc tệ hơn là bị kẻ xấu đánh lừa, AI có thể thực hiện những hành động mà bạn không hề mong muốn.

Ví dụ điển hình là mẫu smartphone Nubia M153 do công ty ZTE (Trung Quốc) phát triển, tích hợp tác tử AI Doubao của ByteDance. Người dùng Nubia M153 chỉ cần đưa ra yêu cầu là tác tử AI sẽ tự so sánh giá, tìm mã giảm giá và hoàn tất đơn hàng trên nhiều ứng dụng khác nhau mà không cần chuyển qua lại. Để làm được điều này, hệ thống sử dụng một kỹ thuật gọi là “điều hướng bằng thị giác”, tức AI nhìn vào màn hình và thao tác như con người: cuộn, chạm, nhập liệu.

Đây là giải pháp rất nhanh và tiện, vì không cần chờ các nhà phát triển ứng dụng xây giao diện riêng cho tác tử AI. Thế nhưng, chính cách làm này lại tạo ra lỗ hổng bảo mật.

Các nhà nghiên cứu đã chứng minh rằng hệ thống có thể bị tấn công bằng những chiêu quen thuộc như phishing. Chỉ cần một email được thiết kế khéo léo, tác tử AI có thể bị dụ gửi mã xác thực đăng nhập. Một bước sai lầm như vậy cũng đủ để kẻ xấu chiếm quyền tài khoản.

Nguy hiểm hơn, vì tác tử AI có quyền truy cập rộng, một sai sót có thể kéo theo hàng loạt hành động tiếp theo: mở ứng dụng, lấy dữ liệu, xác nhận giao dịch, thay đổi cài đặt, thậm chí nhắn tin cho người khác. Đó là kiểu tấn công mới, thường được gọi là tiêm prompt hoặc chiếm quyền điều khiển chỉ dẫn. Hiểu đơn giản, kẻ xấu không cần xâm nhập hay phá hệ thống, mà chỉ cần đánh lừa để AI tự dùng chính quyền hạn của mình làm những việc không đúng.

Điều đáng lo là tác tử AI càng giỏi thì rủi ro càng lớn. Một tác tử AI càng hiệu quả trong việc hỗ trợ người dùng, sẽ càng nguy hiểm nếu bị điều hướng sai.

Khi hoạt động như một “siêu người dùng” có quyền rộng khắp, AI phá vỡ những nguyên tắc bảo mật truyền thống của smartphone - Ảnh: MTG

Từ “độ thông minh” sang xây dựng “niềm tin”

Thực tế cho thấy không phải nền tảng nào cũng sẵn sàng chấp nhận rủi ro này. Các ứng dụng lớn như Alipay của Alibaba và WeChat của Tencent tỏ ra dè dặt trong việc cấp quyền sâu cho AI, vì Alibaba và Tencent chính là bên chịu trách nhiệm khi xảy ra gian lận. Nếu họ không tin vào mô hình này, việc phổ biến smartphone AI sẽ bị chậm lại.

Chính vì vậy, cuộc đua smartphone AI đang dần thay đổi, từ việc chạy đua về “độ thông minh” sang xây dựng “niềm tin”.

Một số công ty đã chọn hướng tiếp cận thận trọng hơn. Thay vì cho tác tử AI toàn quyền điều khiển màn hình, họ thiết kế các giao diện chuẩn, nơi AI chỉ có thể yêu cầu những hành động cụ thể như gửi tin nhắn hay đặt hàng. Mỗi hành động đều có giới hạn rõ ràng và có thể kiểm tra lại.

Cách làm này an toàn hơn, nhưng chậm hơn vì cần sự phối hợp giữa nhiều bên: nhà phát triển ứng dụng, hệ điều hành và cả mô hình AI. Trong khi đó, “đi tắt” bằng cách cho phép tác tử AI điều hướng màn hình sẽ giúp triển khai nhanh và gây ấn tượng mạnh hơn, song cái giá phải trả là rủi ro cao hơn.

Trong một thị trường coi trọng tốc độ và trải nghiệm, việc chọn lối tắt là điều dễ hiểu. Tuy nhiên khi xảy ra sự cố, như chuyển nhầm mã, duyệt nhầm giao dịch hay chia sẻ thông tin nhạy cảm, thiệt hại sẽ không đổ lên AI, mà trực tiếp ảnh hưởng đến uy tín của các công ty đứng sau.

Dù vậy, không phải ai cũng đặt cược vào việc kiểm soát màn hình không giới hạn. Chẳng hạn, Google đang theo đuổi kiến trúc có cấu trúc hơn nhằm hạn chế quyền lực của tác tử AI trong hệ điều hành. Ý tưởng là chuyển từ “trợ lý có thể thấy mọi thứ và bấm mọi thứ sang chỉ có thể yêu cầu các hành động cụ thể thông qua giao diện chuẩn hóa”.

Vì vậy, bảo mật đang trở thành yếu tố cốt lõi của smartphone AI. Chiến thắng sẽ không thuộc về AI thông minh nhất, mà là đáng tin cậy nhất, nơi quyền truy cập được giới hạn, mọi hành động đều có thể kiểm tra và các tác vụ rủi ro được kiểm soát chặt chẽ, theo Vivian Toh, lãnh đạo TechTechChina - công ty khởi nghiệp tin tức công nghệ Trung Quốc có trụ sở tại London (Anh).

Nói cách khác, một chiếc smartphone tích hợp tác tử AI làm việc thay bạn cũng có thể bị lừa để hành động chống lại bạn, nếu không được thiết kế đủ an toàn.

Cuộc đua smartphone giờ không chỉ xoay quanh việc tạo ra AI ấn tượng, mà còn là việc giành được niềm tin của người dùng, doanh nghiệp, nền tảng và cơ quan quản lý để chứng minh AI đủ an toàn quản lý toàn bộ đời sống số.

Sơn Vân

Nguồn Một Thế Giới : https://1thegioi.vn/cuoc-dua-smartphone-ai-bao-mat-co-the-quyet-dinh-ben-thang-cuoc-249488.html