Đề xuất ngân hàng không được sử dụng AI khai thác điểm yếu của khách hàng

3 giờ trướcBài gốc

Dự thảo Thông tư quy định về an toàn, quản lý rủi ro và điều kiện ứng dụng trí tuệ nhân tạo (AI) trong hoạt động ngân hàng đang được Ngân hàng Nhà nước lấy ý kiến. Các quy định dự kiến được áp dụng với những hệ thống sử dụng AI như trợ lý ảo, tổng đài tự động, chatbot và các công cụ tương tác với khách hàng.

Theo dự thảo, các hệ thống như trợ lý ảo, tổng đài tự động, chatbot… đều thuộc phạm vi điều chỉnh. Không còn là những công cụ công nghệ đứng sau hậu trường, AI giờ đây phải “lộ diện” trước khách hàng.

Nếu ngân hàng hoặc ví điện tử sử dụng AI để nhận diện cảm xúc, phân loại sinh trắc học, họ bắt buộc phải thông báo trước. Mọi nội dung do AI tạo ra dưới dạng hình ảnh, âm thanh, video… cũng phải được công bố rõ ràng để tránh nhầm lẫn giữa sản phẩm của con người và sản phẩm của thuật toán.

Một điểm nhấn đáng chú ý là quy định cấm khai thác điểm yếu của khách hàng. Ngân hàng không được dùng AI để tận dụng điểm yếu của khách hàng hoặc nhóm người cụ thể (chẳng hạn do tuổi tác, khuyết tật, điều kiện kinh tế - xã hội…) để thúc ép họ sử dụng sản phẩm/dịch vụ tài chính rủi ro cao, không phù hợp, gây thiệt hại cho khách hàng.

Đây là một trong những yêu cầu nhằm ngăn chặn hành vi phân biệt đối xử hoặc gây bất lợi không hợp lý cho nhóm khách hàng yếu thế.

Các quy định này dự kiến có hiệu lực từ tháng 3. Với hệ thống AI triển khai trước thời điểm này, thời hạn có hiệu lực lùi đến tháng 9/2027 để các ngân hàng, ví điện tử rà soát và tuân thủ.

Đây được xem là “lằn ranh đạo đức” mà công nghệ không được phép vượt qua.

Khách hàng có thể khiếu nại các quyết định được đưa ra dựa trên AI. Khi đó, ngân hàng không thể tiếp tục để máy móc xử lý mà phải bố trí nhân sự rà soát, xem xét lại và đưa ra phương án giải quyết. Nói cách khác, con người vẫn là “van an toàn” cuối cùng trong chuỗi quyết định tài chính.

Theo Ngân hàng Nhà nước, việc ban hành Thông tư nhằm kiểm soát và giảm thiểu rủi ro phát sinh từ việc ứng dụng AI trong hệ thống ngân hàng, đồng thời bảo đảm khách hàng được đối xử công bằng và các nhóm yếu thế được bảo vệ. Khi AI ngày càng tham gia sâu vào quy trình eKYC, chấm điểm tín dụng, thẩm định cho vay hay phát hiện gian lận thanh toán, nguy cơ sai lệch dữ liệu đầu ra, rủi ro an toàn hệ thống thông tin và xâm phạm quyền riêng tư cũng gia tăng tương ứng.

Phương Thúy

Nguồn Kinh tế Môi trường : https://kinhtemoitruong.vn/de-xuat-ngan-hang-khong-duoc-su-dung-ai-khai-thac-diem-yeu-cua-khach-hang-107105.html