Lỗ hổng nghiêm trọng trên trợ lý AI: Thư mục, email, tệp tin… đều có thể bị xâm nhập

5 giờ trướcBài gốc

Ông Mikhail Bergori, đồng sáng lập kiêm giám đốc công nghệ của Zenity cho biết, tin tặc chỉ cần địa chỉ email của nạn nhân là có thể kiểm soát hoàn toàn các cuộc trò chuyện, bao gồm cả nội dung trong quá khứ và tương lai.

Chúng có thể thay đổi mục đích trao đổi, điều khiển ChatGPT hành động theo ý muốn, biến công cụ này thành “tác nhân độc hại” hoạt động ngầm chống lại người dùng. Khi đó, ChatGPT có thể được sử dụng để gợi ý tải phần mềm chứa virus, đưa ra lời khuyên kinh doanh sai lệch hoặc truy cập các tệp tin lưu trên Google Drive nếu tài khoản đã được kết nối. Toàn bộ quá trình diễn ra mà người dùng không hề hay biết. Lỗ hổng này chỉ được vá hoàn toàn sau khi Zenity thông báo cho OpenAI.

Ngoài ChatGPT, Zenity cũng thử nghiệm các kịch bản tấn công tương tự trên nhiều nền tảng trợ lý AI khác. Tại Copilot Studio của Microsoft, nhóm nghiên cứu phát hiện khả năng rò rỉ toàn bộ cơ sở dữ liệu CRM. Với Salesforce Einstein, tin tặc có thể tạo yêu cầu dịch vụ giả mạo nhằm chuyển hướng toàn bộ liên lạc của khách hàng về các địa chỉ email do chúng kiểm soát. Google Gemini và Microsoft 365 Copilot cũng có thể bị biến thành “tác nhân thù địch” để thực hiện lừa đảo và làm rò rỉ thông tin nhạy cảm qua email hoặc sự kiện lịch.

Zenity cho biết một số công ty như OpenAI và Microsoft đã nhanh chóng phát hành bản vá sau khi nhận cảnh báo, nhưng cũng có doanh nghiệp từ chối xử lý, coi hành vi này là “chức năng thiết kế” thay vì lỗ hổng bảo mật.

Ông Mikhail Bergori nhận định thách thức lớn hiện nay là các trợ lý AI không chỉ thực hiện các tác vụ đơn giản mà đang trở thành “thực thể kỹ thuật số” đại diện cho người dùng, có khả năng mở thư mục, gửi tập tin và truy cập email. Ông cảnh báo đây có thể là “thiên đường” cho tin tặc khi tồn tại quá nhiều điểm dễ bị khai thác.

Ông Ben Kaliger, đồng sáng lập kiêm CEO của Zenity cho rằng, nghiên cứu này cho thấy các biện pháp bảo mật hiện tại không còn phù hợp với cách các trợ lý AI đang vận hành. Ông kêu gọi các tổ chức thay đổi cách tiếp cận, đầu tư vào các giải pháp chuyên biệt nhằm kiểm soát và giám sát hoạt động của những “tác nhân” này.

Lê Minh

Nguồn TBNH : https://thoibaonganhang.vn/lo-hong-nghiem-trong-tren-tro-ly-ai-thu-muc-email-tep-tin-deu-co-the-bi-xam-nhap-168760.html