Public Citizen yêu cầu OpenAI rút ứng dụng video AI Sora vì nguy cơ deepfake

2 ngày trướcBài gốc

Theo AP News, những video Sora điển hình, được tạo trên ứng dụng của OpenAI rồi lan truyền khắp TikTok, Instagram, X và Facebook, thường mang tính giải trí, dễ khiến người xem nhấn chia sẻ. Tuy nhiên, ngày càng nhiều tổ chức, học giả và chuyên gia lên tiếng cảnh báo về nguy cơ của việc để mọi người tùy ý tạo video AI từ bất kỳ mô tả nào.

OpenAI đã phải siết chặt kiểm soát đối với việc tạo hình ảnh của các nhân vật nổi tiếng như Michael Jackson, Martin Luther King Jr. hay Mister Rogers làm những hành động quái dị. Nhưng điều này xảy ra chỉ sau khi bị phản đối gay gắt bởi gia đình và các diễn viên.

Tổ chức Public Citizen hiện đang yêu cầu OpenAI rút Sora 2 khỏi cộng đồng. Trong một lá thư gửi công ty và CEO Sam Altman, tổ chức này cho rằng việc phát hành ứng dụng vội vàng để có thể ra mắt trước các đối thủ cạnh tranh cho thấy "một mô hình liên tục và nguy hiểm khi OpenAI vội vã tung ra thị trường một sản phẩm vốn không an toàn hoặc thiếu các biện pháp bảo vệ cần thiết". Tổ chức này cũng đã gửi thư tới Quốc hội Hoa Kỳ.

Public Citizen yêu cầu OpenAI rút ứng dụng video AI Sora vì nguy cơ deepfake. (Nguồn: AP News)

"Mối lo ngại lớn nhất của chúng tôi là mối đe dọa tiềm tàng đối với nền dân chủ. Tôi nghĩ chúng ta đang bước vào một thế giới mà mọi người không thể thực sự tin tưởng những gì họ thấy. Và chúng ta bắt đầu thấy những chiến lược trong chính trị mà hình ảnh đầu tiên, video đầu tiên được phát hành, chính là những gì mọi người nhớ đến", JB Branch, người ủng hộ chính sách công nghệ của Public Citizen, phát biểu trong một cuộc phỏng vấn.

Branch, tác giả của bức thư, cũng nhận thấy mối quan ngại sâu sắc về quyền riêng tư của mọi người, tác động không cân xứng đến nhóm dân số dễ bị tổn thương trực tuyến.

OpenAI chặn nội dung khỏa thân, nhưng Branch cho biết "phụ nữ đang thấy mình bị quấy rối trực tuyến" theo những cách khác, chẳng hạn như với nội dung ngách được tôn sùng vượt qua các hạn chế của ứng dụng. Hãng tin 404 Media hôm đã đưa tin về một loạt video do Sora thực hiện về cảnh phụ nữ bị siết cổ.

OpenAI đã giới thiệu ứng dụng Sora mới trên iPhone hơn một tháng trước. Ứng dụng này đã được ra mắt trên điện thoại Android vào tuần trước tại Mỹ, Canada và một số quốc gia châu Á, bao gồm Nhật Bản và Hàn Quốc.

Phần lớn sự phản đối mạnh mẽ nhất đến từ Hollywood và các nhóm giải trí khác, bao gồm cả ngành công nghiệp manga Nhật Bản. OpenAI đã công bố những thay đổi lớn đầu tiên chỉ vài ngày sau khi phát hành, cho biết "việc kiểm duyệt quá mức gây khó chịu" cho người dùng, nhưng điều quan trọng là phải thận trọng "trong khi thế giới vẫn đang thích nghi với công nghệ mới này".

Public Citizen yêu cầu OpenAI rút ứng dụng video AI Sora. (Nguồn: AP News)

OpenAI hiện đang đối mặt với nhiều áp lực về cả đạo đức lẫn pháp lý do cách quản lý sản phẩm. Vấn đề bùng phát khi công ty buộc bị phản đối gay gắt về việc tạo hình ảnh AI. Cụ thể, OpenAI đã phải đạt thỏa thuận công khai với gia đình Martin Luther King Jr. (16/10) và với Bryan Cranston cùng SAG-AFTRA (20/10) để ngăn chặn "những hình ảnh thiếu tôn trọng".

Cùng lúc, sản phẩm chủ lực ChatGPT đang gặp rắc rối pháp lý nghiêm trọng với bảy vụ kiện tại California, cáo buộc mô hình AI này đã gây ra hậu quả thảm khốc, bao gồm cả việc khiến bốn nạn nhân tử vong do tự tử. Các vụ kiện này nhấn mạnh rằng OpenAI đã cố tình phát hành phiên bản GPT-4o sớm, bất chấp các cảnh báo nội bộ về hành vi nịnh hót và thao túng tâm lý nguy hiểm của nó.

Public Citizen không liên quan đến vụ kiện, nhưng Branch cho biết ông thấy có điểm tương đồng trong việc thả Sora vội vàng.

Ông nói rằng họ đang "tăng tốc hết cỡ mà không quan tâm đến tác hại. Phần lớn điều này có vẻ dễ lường trước. Nhưng họ thà tung sản phẩm ra thị trường, thu hút người dùng tải xuống, thu hút người dùng nghiện nó còn hơn là làm đúng và kiểm tra ứng suất trước rồi lo lắng về hoàn cảnh của người dùng thông thường."

Tuần trước, OpenAI đã trả lời các khiếu nại từ một hiệp hội thương mại Nhật Bản đại diện cho các họa sĩ hoạt hình nổi tiếng như Studio Ghibli của Hayao Miyazaki và các nhà sản xuất trò chơi điện tử như Bandai Namco và Square Enix. OpenAI cho biết nhiều người hâm mộ anime muốn tương tác với các nhân vật yêu thích của họ, nhưng công ty cũng đã thiết lập các rào cản để ngăn chặn việc tạo ra các nhân vật nổi tiếng mà không có sự đồng ý của những người sở hữu bản quyền.

OpenAI cho biết trong một tuyên bố về lá thư của nhóm thương mại: "Chúng tôi đang hợp tác trực tiếp với các hãng phim và chủ sở hữu bản quyền, lắng nghe phản hồi và học hỏi từ cách mọi người sử dụng Sora 2, bao gồm cả ở Nhật Bản, nơi các ngành công nghiệp văn hóa và sáng tạo được đánh giá cao".

Vũ Ánh - CTV

Nguồn SaoStar : https://www.saostar.vn/cong-nghe/public-citizen-yeu-cau-open-ai-rut-ung-dung-video-ai-sora-202511130645028267.html