AI 'tẩu hỏa nhập ma' và những tác động tiêu cực không thể xem thường

2 giờ trướcBài gốc

Tiến sĩ James Kang, giảng viên cấp cao ngành Khoa học máy tính, Khoa Khoa học, Kỹ thuật và Công nghệ, Đại học RMIT Việt Nam đã đưa ra phân tích để giải đáp vấn đề này.

Tiến sĩ James Kang phân tích mặt trái của việc AI cái gì cũng ghi nhớ

AI nhớ quá nhiều cũng "mệt"

Tiến sĩ James Kang mở đầu bằng câu chuyện của cô Pruthvi Mehta. Vài tháng trước, Mehta hỏi ChatGPT cách chăm sóc cây cảnh. Cô đã rất sốc khi chatbot này tiết lộ thông tin cá nhân của người khác trong câu trả lời, gồm cả sơ yếu lý lịch đầy đủ và thông tin liên hệ. Việc này đã làm rúng động cộng đồng công nghệ và đặt ra một thách thức cốt lõi: làm thế nào để dạy AI biết "quên"?

Khác với con người, AI không bao giờ quên. Mọi thông tin một khi được đưa vào quá trình huấn luyện sẽ được "trộn lẫn" với kiến thức khác, tạo thành 8 mạng lưới thông tin phức tạp mà ngay cả các nhà phát triển cũng khó kiểm soát hoàn toàn. Đây chính là nghịch lý của công nghệ hiện đại: khả năng ghi nhớ hoàn hảo - từng được coi là điểm mạnh - giờ đây lại trở thành mối đe dọa nghiêm trọng đối với quyền riêng tư.

Vấn đề không chỉ dừng ở việc AI lưu trữ thông tin như một tập tin trong máy tính. Thuật toán AI học hỏi từ dữ liệu và liên tục tái cấu trúc kiến thức, khiến cho việc xóa bỏ thông tin trở nên phức tạp hơn nhiều. Ngay cả khi dữ liệu gốc đã bị xóa, mô hình AI vẫn có thể giữ lại và vô tình tiết lộ thông tin đã học từ dữ liệu ban đầu.

Hậu quả của hiện tượng này đặc biệt nghiêm trọng trong các lĩnh vực nhạy cảm như y tế, giáo dục và thực thi pháp luật. Khi AI có thể vô tình rò rỉ thông tin cá nhân như tên, địa chỉ hay hồ sơ y tế, những tổn thất không chỉ dừng lại ở mức cá nhân mà có thể ảnh hưởng đến toàn bộ hệ thống xã hội.

Tìm cách cho AI biết "quên"

"Machine unlearning" - hay "dạy máy học cách quên" - đang nổi lên như một giải pháp đầy hứa hẹn cho thách thức này. Khác với việc đơn thuần xóa tập tin, machine unlearning là quá trình loại bỏ ảnh hưởng của dữ liệu cụ thể lên mô hình AI mà không cần xây dựng lại toàn bộ hệ thống.

Tuy nhiên, đây không phải là một quá trình đơn giản. Câu hỏi cốt lõi mà các nhà nghiên cứu đang phải đối mặt là: làm sao để kiểm chứng rằng AI đã thực sự "quên"? Khác với việc xóa một tập tin khỏi máy tính, việc xác minh rằng một thông tin đã hoàn toàn biến mất khỏi trí nhớ phức tạp của AI là một thách thức kỹ thuật lớn.

Hiện tại, machine unlearning vẫn đang ở giai đoạn nghiên cứu và phát triển, nhưng tầm quan trọng của nó ngày càng tăng khi AI được tích hợp sâu vào các lĩnh vực nhạy cảm. Quyền được lãng quên và khả năng chứng minh điều đó đang trở thành một nhu cầu công nghệ, pháp lý và đạo đức ngày càng cấp thiết.

Liệu có nên trao quyền quá nhiều cho AI?

Trước thực tế rằng việc huấn luyện lại toàn bộ mô hình AI có thể tiêu tốn hàng trăm triệu đô la (như trường hợp GPT-4), các nhà khoa học đang tìm kiếm những giải pháp thông minh hơn. Một trong những hướng tiếp cận đầy tiềm năng là điều chỉnh các tham số bên trong của mô hình để giảm mức độ ghi nhớ dữ liệu cụ thể, cho phép AI "quên" một cách chọn lọc.

Đại học Khoa học Tokyo đã phát triển một kỹ thuật đặc biệt không cần huấn luyện lại mà chỉ điều chỉnh cách mô hình AI phản hồi với người dùng. Phương pháp này cho phép AI "gỡ bỏ" thông tin nhạy cảm trong khi vẫn giữ nguyên những kiến thức hữu ích khác.

Ngoài ra, federated learning (học liên kết) đang được xem như một cách tiếp cận triển vọng, trong đó dữ liệu được giữ lại trên thiết bị của người dùng thay vì tập trung tại máy chủ trung tâm. Kết hợp với differential privacy - kỹ thuật thêm "nhiễu" ngẫu nhiên vào dữ liệu để bảo vệ quyền riêng tư - những giải pháp này đang từng bước trao quyền kiểm soát nhiều hơn cho người dùng.

Hướng tới tương lai AI đáng tin cậy

Một trong những thách thức lớn nhất của machine unlearning chính là việc xác minh. Làm thế nào để đảm bảo rằng khi một người yêu cầu hệ thống AI "quên" họ, thông tin đó đã thực sự biến mất hoàn toàn? Đây không chỉ là vấn đề kỹ thuật mà còn là vấn đề niềm tin.

Các nhà nghiên cứu đang phát triển những phương pháp kiểm tra và xác minh phức tạp, gồm việc sử dụng cam kết chính thức và chứng nhận xóa dữ liệu. Tuy nhiên, việc tạo ra "bằng chứng quên" đáng tin cậy vẫn là một thách thức kỹ thuật lớn.

AI thâm nhập mọi lĩnh vực, giúp cải thiện năng suất công việc của mỗi người

Hơn nữa, machine unlearning cũng đặt ra những câu hỏi đạo đức phức tạp. Liệu việc cho phép AI "quên" có thể vô tình xóa bỏ những thông tin quan trọng cho nghiên cứu y học hay khoa học? Làm thế nào để cân bằng giữa quyền riêng tư cá nhân và lợi ích chung của xã hội?

Cuộc cách mạng machine unlearning không chỉ là về công nghệ mà còn về việc xây dựng lại niềm tin giữa con người và AI. Trong một thế giới mà dữ liệu cá nhân trở thành tài sản quý giá nhất, quyền được "lãng quên" có thể sẽ trở thành một quyền cơ bản của con người trong thời đại số.

Cuối cùng Tiến sĩ James Kang nhấn mạnh, niềm tin không được xây dựng bằng lời hứa mà bằng bằng chứng. Machine unlearning đại diện cho một nỗ lực quan trọng trong việc tạo ra những "bằng chứng" đó - chứng minh rằng AI có thể phục vụ con người một cách đáng tin cậy và có trách nhiệm.

Cuộc cách mạng này không chỉ về việc dạy AI cách "quên", mà còn về việc dạy chúng ta cách xây dựng công nghệ phục vụ con người chứ không chỉ phục vụ dữ liệu. Khi machine unlearning trở thành hiện thực, chúng ta sẽ có một tương lai số mà mọi người có thể đặt niềm tin - một tương lai mà quyền riêng tư không phải là thứ phải hy sinh để đổi lấy tiện ích công nghệ.

Đó là tương lai mà AI không chỉ thông minh trong việc học hỏi, mà còn thông minh trong việc biết khi nào cần phải quên.

Bùi Tú

Nguồn Một Thế Giới : https://1thegioi.vn/ai-tau-hoa-nhap-ma-va-nhung-tac-dong-tieu-cuc-khong-the-xem-thuong-237747.html