Khi AI cũng mang định kiến của con người

3 giờ trướcBài gốc

Trong kỷ nguyên trí tuệ nhân tạo, nhiều người tin rằng các thuật toán có thể đưa ra quyết định khách quan hơn con người. Tuy nhiên, thực tế cho thấy AI không phải lúc nào cũng trung lập. Bởi lẽ, hệ thống này được xây dựng từ dữ liệu, thuật toán và tư duy của chính con người, những yếu tố vốn có thể mang theo những định kiến xã hội, trong đó có định kiến giới.

Vì vậy, khi AI ngày càng tham gia sâu vào các lĩnh vực như tuyển dụng, giáo dục, tài chính hay truyền thông, câu hỏi đặt ra không chỉ là công nghệ mạnh đến đâu, mà còn là ai đang tạo ra công nghệ đó.

AI không trung lập nếu thiếu tiếng nói của phụ nữ

Các nghiên cứu cho thấy phụ nữ vẫn là nhóm thiểu số trong lĩnh vực trí tuệ nhân tạo. Diễn đàn Kinh tế Thế giới ước tính phụ nữ chỉ chiếm khoảng 30% lực lượng lao động AI toàn cầu, đồng nghĩa với việc tiếng nói của họ trong quá trình phát triển công nghệ vẫn còn hạn chế.

Theo Tiến sĩ Nguyễn Thị Thủy, giảng viên cấp cao ngành Trí tuệ nhân tạo tại Đại học RMIT Việt Nam, AI và bình đẳng giới có mối liên hệ chặt chẽ bởi các hệ thống này học từ dữ liệu của thế giới thực – nơi vốn tồn tại nhiều bất bình đẳng giới kéo dài.

Tiến sĩ Nguyễn Thị Thủy, giảng viên cấp cao ngành Trí tuệ nhân tạo, Khoa Khoa học, Kỹ thuật và Công nghệ, Đại học RMIT Việt Nam

“AI có thể trở nên thiếu khách quan khi không có đủ phụ nữ tham gia thiết kế hoặc kiểm thử. Nếu đội ngũ phát triển chủ yếu là nam giới, họ có thể bỏ sót những điểm mù ảnh hưởng đến phụ nữ”, bà nói.

Một ví dụ điển hình được nhắc đến là công cụ tuyển dụng thử nghiệm của Amazon năm 2018. Hệ thống này được huấn luyện dựa trên hồ sơ xin việc trong ngành công nghệ, lĩnh vực vốn do nam giới chiếm ưu thế trong nhiều năm. Kết quả là thuật toán đã tự động hạ điểm những hồ sơ có từ khóa liên quan đến phụ nữ, chẳng hạn như “women’s”. Sau khi phát hiện thiên lệch này, Amazon buộc phải ngừng sử dụng công cụ.

Theo các chuyên gia, đây là minh chứng rõ ràng cho thấy nếu thiếu sự đa dạng trong đội ngũ phát triển, AI có thể vô tình học lại những định kiến cũ và khuếch đại chúng ở quy mô lớn.

Những thiên kiến ẩn trong dữ liệu và thuật toán

Một thực tế khác được các nhà nghiên cứu chỉ ra là nhiều nhóm phát triển AI hiện nay chủ yếu gồm những người có nền tảng khá giống nhau, phần lớn là nam giới và đến từ các bối cảnh văn hóa tương tự.

Điều này khiến họ đôi khi không nhận ra những vấn đề ảnh hưởng trực tiếp đến phụ nữ hoặc các nhóm xã hội khác.

Việc có thêm nhiều phụ nữ làm việc trong lĩnh vực AI có thể giúp giảm thiên kiến về giới trong các hệ thống AI. Ảnh minh họa

Tiến sĩ Nguyễn Thị Thủy cho rằng sự đa dạng trong đội ngũ phát triển có thể giúp phát hiện sớm những thiên kiến tiềm ẩn trong dữ liệu và thuật toán. Những phụ nữ tham gia vào quá trình thiết kế và kiểm thử có thể nhận ra những chi tiết mà người khác dễ bỏ qua. Chẳng hạn, phụ nữ châu Á có thể nhận ra những vấn đề khi AI dựng sai các đặc điểm khuôn mặt Đông Á, tạo hình ảnh mang tính nhạy cảm về phụ nữ châu Á, hoặc áp đặt những tiêu chuẩn phương Tây không phù hợp với bối cảnh địa phương.

“Tiếng nói đa dạng trong đội ngũ phát triển thúc đẩy dữ liệu bao quát hơn, kiểm thử công bằng và lựa chọn đạo đức hơn. Đó chính là cách chúng ta tạo ra những hệ thống AI hiệu quả hơn cho tất cả mọi người”, bà Thủy nhấn mạnh.

Điều đó cho thấy sự tham gia của phụ nữ trong lĩnh vực công nghệ không chỉ là vấn đề bình đẳng cơ hội, mà còn là yếu tố quan trọng để bảo đảm tính công bằng của các hệ thống AI.

Thu hẹp khoảng cách giới để AI phục vụ tất cả mọi người

Bên cạnh khoảng cách trong phát triển công nghệ, một “khoảng cách kép” khác cũng đang tồn tại: Phụ nữ sử dụng AI trong công việc ít hơn nam giới.

Một khảo sát trên 25.000 lao động năm 2024 cho thấy 59% nam giới sử dụng AI tạo sinh ít nhất mỗi tuần một lần, trong khi tỷ lệ này ở phụ nữ là 51%. Khoảng cách còn lớn hơn trong nhóm lao động trẻ từ 18 đến 24 tuổi.

Phổ cập kiến thức AI trong giáo dục được kỳ vọng góp phần thu hẹp khoảng cách giới trong lĩnh vực công nghệ.

Theo Phó giáo sư Catherine Earl, nhà nhân học xã hội thuộc Khoa Truyền thông và Thiết kế của RMIT Việt Nam, sự chênh lệch trong việc sử dụng AI có thể dẫn đến chênh lệch về cơ hội nghề nghiệp trong tương lai.

Bà cho rằng xã hội cần thay đổi cách nhìn về công nghệ: “Việc sử dụng AI nên được xem là một kỹ năng cơ bản, giống như khả năng đọc và viết, chứ không phải điều gì đó đặc biệt chỉ dành cho một nhóm nhỏ”, bà nói.

Theo các chuyên gia, trường học và doanh nghiệp có thể đóng vai trò quan trọng trong việc thu hẹp khoảng cách này, thông qua các chương trình đào tạo kỹ năng AI, học bổng, cố vấn nghề nghiệp và các chính sách thúc đẩy phụ nữ tham gia sâu hơn vào lĩnh vực công nghệ.

Tiến sĩ Nguyễn Thị Thủy cũng nhấn mạnh rằng bình đẳng trong AI không tự nhiên xuất hiện, mà phải được thiết kế và xây dựng ngay từ đầu. Một hệ thống AI được phát triển với tư duy bao trùm có thể giúp hàng triệu phụ nữ tiếp cận cơ hội tốt hơn và nhận được những quyết định công bằng hơn trong nhiều lĩnh vực của đời sống.

Trong kỷ nguyên trí tuệ nhân tạo, vì thế, câu chuyện không chỉ là làm ra những cỗ máy thông minh hơn, mà còn là xây dựng những hệ thống công nghệ phản ánh đầy đủ tiếng nói của xã hội. Và trong bức tranh đó, sự tham gia của phụ nữ không chỉ cần thiết mà còn là điều kiện để AI thực sự phục vụ tất cả mọi người.

Mai Chi

Nguồn Hà Nội Mới : https://hanoimoi.vn/khi-ai-cung-mang-dinh-kien-cua-con-nguoi-737523.html