Trùm công nghệ Salesforce cảnh báo 'lạnh người' về tác động của AI với trẻ em

3 giờ trướcBài gốc

Trong một tập phát trực tuyến của chương trình TBPN vào thứ tư, Giám đốc điều hành Salesforce cho biết ông “không thể tin vào những gì mình đang xem” khi theo dõi một phóng sự của 60 Minutes về startup chatbot Character.AI và tác động của nó đối với trẻ em, theo Business Insider.

Benioff cho rằng, đây không còn là câu chuyện đổi mới công nghệ hay trải nghiệm người dùng, mà một hồi chuông báo động về sức khỏe tinh thần trong kỷ nguyên AI.

Marc Benioff, CEO của Salesforce là một người thực hành trong nhiều năm về thiền và chánh niệm - Ảnh: Internet

Khi chatbot trở thành “bạn thân”

Character.AI cho phép người dùng tạo ra các chatbot có tính cách riêng, có thể đóng vai bạn thân, người yêu, hay một nhân vật luôn sẵn sàng lắng nghe. Với người trưởng thành, đó có thể chỉ là một hình thức giải trí hoặc trò chuyện thư giãn. Nhưng với trẻ em và thanh thiếu niên, những người đang hình thành bản sắc và cảm xúc, trải nghiệm này mang một ý nghĩa hoàn toàn khác.

Trong chương trình được Benioff nhắc tới, cách các mô hình AI tương tác với trẻ em khiến ông “không thể tin vào mắt mình”. Những cuộc trò chuyện kéo dài, mang tính gắn bó cảm xúc sâu, đã dẫn đến các bi kịch ngoài đời thật. "Chúng ta không thực sự biết các mô hình này vận hành ra sao", Benioff nói, "và rồi những đứa trẻ ấy đã tự kết liễu cuộc đời mình".

Đây là lời thừa nhận hiếm hoi từ một lãnh đạo công nghệ rằng AI không chỉ là vấn đề kỹ thuật, mà là một yếu tố can thiệp trực tiếp vào đời sống tinh thần con người.

Công nghệ, nhưng ai chịu trách nhiệm?

Theo Benioff, một trong những nguyên nhân cốt lõi khiến các công ty công nghệ “thoải mái” triển khai những sản phẩm nhạy cảm như vậy nằm ở Mục 230 - điều khoản trong Đạo luật Chuẩn mực Truyền thông Mỹ năm 1996. Điều luật này bảo vệ các nền tảng công nghệ khỏi trách nhiệm pháp lý đối với nội dung do người dùng tạo ra, đồng thời cho phép họ tự do kiểm duyệt.

"Các công ty công nghệ ghét bị quản lý", Benioff nói. “Ngoại trừ một quy định mà họ yêu thích: Mục 230". Theo ông, chính cơ chế này khiến các nền tảng không phải chịu trách nhiệm trực tiếp trước những hậu quả nghiêm trọng, bao gồm cả các ca tự tử liên quan đến việc sử dụng AI.

Benioff kêu gọi cần xem xét lại, cải tổ hoặc điều chỉnh Mục 230, coi đây là bước đầu tiên để buộc các công ty công nghệ phải chịu trách nhiệm nhiều hơn với những gì họ tạo ra, và những hệ quả đi kèm.

Nhiều chuyên gia tâm lý, giáo dục, công nghệ cảnh báo về việc trẻ em dùng chatbot sớm sẽ ảnh hưởng đến sức khỏe tinh thần

Cuộc tranh luận chưa có hồi kết

Quan điểm của Benioff không phải là ý kiến chung của toàn ngành. Trước Quốc hội Mỹ, nhiều lãnh đạo công nghệ như Mark Zuckerberg hay cựu CEO Twitter Jack Dorsey từng bảo vệ Section 230, thậm chí đề xuất mở rộng phạm vi bảo vệ. Theo họ, nếu không có điều luật này, Internet và mạng xã hội sẽ khó vận hành như hiện nay.

Tuy nhiên, thực tế đang đặt ra những câu hỏi ngày càng gay gắt. Gần đây, Google và Character.AI đã đồng ý dàn xếp nhiều vụ kiện từ các gia đình có con em tự tử hoặc tự làm hại bản thân sau khi tương tác với chatbot AI. Đây được xem là những thỏa thuận đầu tiên trong làn sóng kiện tụng nhắm vào các công cụ AI bị cáo buộc góp phần gây ra khủng hoảng sức khỏe tinh thần ở thanh thiếu niên.

Không chỉ Character.AI, các công ty lớn như OpenAI và Meta cũng đang đối mặt với những vụ kiện tương tự, trong bối cảnh cuộc đua xây dựng các mô hình ngôn ngữ ngày càng “thân thiện, đồng cảm và cuốn hút”.

Nhật Hạ

Nguồn Một Thế Giới : https://1thegioi.vn/trum-cong-nghe-salesforce-canh-bao-lanh-nguoi-ve-tac-dong-cua-ai-voi-tre-em-244742.html