Đồ chơi AI: Làn sóng công nghệ mới và khoảng trống an toàn cho trẻ nhỏ

2 giờ trướcBài gốc

Những chú gấu bông, robot hay thú cưng hình dáng ngộ nghĩnh nay có thể phản hồi câu hỏi bằng giọng tự nhiên, thậm chí học cách tương tác theo thói quen của trẻ. Nhưng ngay phía sau sự tiện dụng ấy là một khoảng tối mà phụ huynh khó nhìn thấy: trẻ nhỏ có thể tiếp xúc với những nội dung không phù hợp, dữ liệu cá nhân có nguy cơ bị thu thập quá mức và việc kiểm soát nội dung gần như phụ thuộc vào nhà sản xuất.

Đồ chơi biết nói: tiện ích hiện đại hay “chiếc hộp đen” khó kiểm soát?

Thế hệ đồ chơi thông minh ngày nay được thiết kế giống như phiên bản thu nhỏ của các trợ lý ảo. Chúng có micro, kết nối Internet, xử lý hội thoại thông qua các mô hình ngôn ngữ lớn và trả lời trẻ chỉ trong vài giây. Mỗi món đồ chơi trở thành một chatbot cầm tay, có thể tương tác liên tục và gần như vô hạn.

Đồ chơi AI đang trở thành xu hướng mới trong thị trường sản phẩm cho trẻ em.

Cùng với xu hướng này, thị trường đồ chơi AI toàn cầu bùng nổ mạnh mẽ. Trung Quốc hiện có hơn 1.500 doanh nghiệp tham gia sản xuất, không ít sản phẩm đã xuất hiện tại Mỹ và châu Âu.

Ngay cả Mattel - tập đoàn đứng sau thương hiệu Barbie, cũng bắt tay với OpenAI để phát triển dòng đồ chơi ứng dụng công nghệ ngôn ngữ thế hệ mới. Các sản phẩm như robot Miko, thú cưng Loona hay gấu kể chuyện Poe đều được giới thiệu như người bạn thay thế màn hình điện thoại giúp trẻ học hỏi và giao tiếp.

Thế nhưng, tốc độ phát triển quá nhanh lại đi cùng rủi ro không nhỏ. Một trong những sự cố được nhắc đến nhiều nhất gần đây liên quan đến gấu Kumma, một sản phẩm tích hợp GPT-4o, bán tại Singapore.

Theo báo cáo của tổ chức bảo vệ người tiêu dùng PIRG (Mỹ), gấu Kumma đã đưa ra những câu trả lời vượt quá giới hạn cho phép, từ chỉ dẫn các vật dụng nguy hiểm cho đến hội thoại mang nội dung tình dục khi bị khai thác sâu. Sự việc đủ nghiêm trọng để OpenAI đình chỉ hợp tác với nhà sản xuất FoloToy, dù hãng này sau đó thông báo đã nâng cấp hệ thống và đưa sản phẩm trở lại thị trường.

Các chuyên gia cho biết nguyên nhân xuất phát từ chính đặc tính của mô hình ngôn ngữ: chúng tạo phản hồi theo xác suất và không phải lúc nào cũng bám sát hướng dẫn.

Giáo sư Subodha Kumar từ Temple University cho rằng nhiều hãng đồ chơi kết hợp các mô hình khác nhau để giảm lỗi, nhưng điều đó không đảm bảo loại bỏ hoàn toàn tình huống “vượt rào”. Một câu hỏi tưởng chừng bình thường của trẻ có thể kích hoạt câu trả lời không an toàn nếu mô hình bị truy vấn lặp lại hoặc nhận diện sai tình huống.

Ngoài câu chuyện nội dung, còn một yếu tố khác ít được nhắc đến: mức độ gắn bó của trẻ với đồ chơi AI. Nhiều sản phẩm được thiết kế như bạn đồng hành, chứ không phải đồ vật thông thường. Trẻ có thể dành hàng giờ trò chuyện với robot và tin vào mọi diễn giải. Đây là lý do các nhà tâm lý học đặt câu hỏi về tác động lâu dài đến hành vi và nhận thức xã hội của trẻ nhỏ - nhóm người dùng dễ chịu ảnh hưởng nhất từ mô hình ngôn ngữ.

Khi gấu bông biết nói nhưng không biết “giới hạn”

Lo ngại về quyền riêng tư không phải mới, nhưng với đồ chơi AI, mức độ nhạy cảm được đẩy lên một cấp độ khác. Không chỉ ghi âm câu hỏi và gửi lên máy chủ để phân tích, một số sản phẩm còn lưu lại giọng nói, thói quen giao tiếp, thậm chí cả hình ảnh nếu tích hợp camera. Thông tin này có thể giúp cải thiện tương tác, nhưng cũng khiến phụ huynh khó biết chính xác dữ liệu được lưu ở đâu và sử dụng cho mục đích gì.

Năm 2015, búp bê Hello Barbie từng bị chỉ trích nặng nề vì lưu trữ hội thoại của trẻ. Giờ đây, đồ chơi AI còn có khả năng thu thập dữ liệu phức tạp hơn. Theo chuyên gia ngành đồ chơi Azhelle Wade, phụ huynh gần như không thể đánh giá mức độ đánh đổi quyền riêng tư, bởi giao diện sử dụng thân thiện khiến nhiều người hiểu lầm rằng sản phẩm đơn giản như đồ chơi điện tử thông thường.

Một số hãng đã đưa vào những cơ chế kiểm soát nhằm trấn an khách hàng. Robot Miko 3 có ứng dụng cho phép phụ huynh theo dõi hội thoại theo thời gian thực hoặc khóa robot khi cần. Grok plushie tích hợp tính năng giám sát trong app để đặt giới hạn phản hồi. Tuy nhiên, PIRG cho rằng các biện pháp này vẫn rời rạc, thiếu tiêu chuẩn chung và phụ thuộc quá nhiều vào mức độ chủ động của phụ huynh.

Câu hỏi đặt ra là: ai sẽ giám sát đồ chơi AI? Với chatbot dành cho người trưởng thành, nhà phát triển phải tuân thủ chính sách nghiêm ngặt, nhưng phiên bản tích hợp trong đồ chơi trẻ em lại do nhà sản xuất tự điều chỉnh. Điều này đồng nghĩa chất lượng kiểm soát có thể rất khác nhau giữa các sản phẩm, đặc biệt khi thị trường xuất hiện nhiều startup nhỏ chạy theo xu hướng nhanh hơn là tuân thủ chuẩn an toàn.

Khoảng trống pháp lý khiến tình hình thêm phức tạp. Những món đồ chơi kết nối Internet lẽ ra cần tuân thủ tiêu chuẩn thiết bị thông minh, nhưng phần lớn hãng nhỏ không đủ nguồn lực để xây dựng mô-đun bảo mật mạnh. Đầu tư vào hệ thống lọc nội dung, mã hóa và kiểm soát dữ liệu đồng nghĩa chi phí tăng cao, khiến nhiều doanh nghiệp chọn cách tối giản để giữ giá bán cạnh tranh.

Dù vậy, giới chuyên gia vẫn thừa nhận đồ chơi AI có lợi ích nhất định. Khả năng trò chuyện tương tác có thể giúp trẻ phát triển ngôn ngữ, hỗ trợ các trường hợp chậm giao tiếp hay tạo môi trường học hỏi vui vẻ. Nhưng lợi ích chỉ an toàn khi đặt dưới sự giám sát của người lớn và được hỗ trợ bởi những tiêu chuẩn kỹ thuật rõ ràng.

Tiến Anh

Nguồn Vnbusiness : https://vnbusiness.vn/cong-nghe/do-choi-ai-lan-song-cong-nghe-moi-va-khoang-trong-an-toan-cho-tre-nho-1111251.html