Mối lo AI có thể đọc suy nghĩ và thao túng quyết định của con người

2 ngày trướcBài gốc

Các nhà nghiên cứu đã đặt ra một khái niệm mới gọi là "nền kinh tế ý định". Trong nền kinh tế này, các công ty có thể thu thập và phân tích một lượng lớn dữ liệu về hành vi, sở thích và thói quen của chúng ta để dự đoán những gì chúng ta sẽ làm tiếp theo.

Sau đó, họ có thể bán những thông tin này cho các doanh nghiệp khác, những người muốn nhắm mục tiêu quảng cáo vào chúng ta một cách chính xác nhất.

AI có khả năng định hình suy nghĩ và hành động của chúng ta. Ảnh minh họa: AI

Ví dụ: Giả sử bạn đang tìm kiếm một chiếc điện thoại mới. AI sẽ theo dõi hành vi của bạn trên mạng, những từ khóa bạn tìm kiếm, và thậm chí cả những cuộc trò chuyện của bạn để hiểu rõ hơn về nhu cầu của bạn. Sau đó, các công ty sản xuất điện thoại có thể sử dụng thông tin này để hiển thị quảng cáo cho bạn về những chiếc điện thoại phù hợp nhất với bạn.

Tiến sĩ Jonnie Penn, một nhà sử học về công nghệ tại Đại học Cambridge đã cảnh báo: "Nếu không được quản lý chặt chẽ, nền kinh tế ý định có thể trở thành một công cụ để thao túng quyết định của chúng ta. Các công ty có thể sử dụng AI để khiến chúng ta mua những sản phẩm không cần thiết, hoặc thậm chí ảnh hưởng đến quyết định bỏ phiếu của chúng ta".

Các tác giả cũng cho biết, một mô hình AI sẽ điều hướng các cuộc trò chuyện để phục vụ cho các nhà quảng cáo, doanh nghiệp và các bên thứ ba khác. Các nhà quảng cáo sẽ có thể sử dụng các công cụ AI tạo ra để tạo ra các quảng cáo trực tuyến theo yêu cầu.

Báo cáo trích dẫn ví dụ về một mô hình AI do Meta tạo ra, có tên là Cicero, đã đạt được khả năng "cấp độ con người" để chơi trò chơi cờ bàn Diplomacy - một trò chơi mà các tác giả cho biết phụ thuộc vào việc suy luận và dự đoán ý định của đối thủ.

Các chuyên gia hàng đầu trong lĩnh vực công nghệ đã cảnh báo về khả năng AI dự đoán và tác động đến hành vi của con người.

Cụ thể, CEO Jensen Huangcủa Nvidia đã chia sẻ một quan điểm đáng chú ý trong một bài phát biểu vào năm ngoái. Ông cho rằng các mô hình AI tiên tiến sẽ có khả năng "tìm ra ý định của bạn là gì, mong muốn của bạn là gì, bạn đang cố gắng làm gì và trình bày thông tin cho bạn theo cách tốt nhất có thể".

Hoàng Anh (theo CUN, Nvidia, Guardian)

Nguồn Công Luận : https://congluan.vn/moi-lo-ai-co-the-doc-suy-nghi-va-thao-tung-quyet-dinh-cua-con-nguoi-post328850.html