Cảnh báo gia tăng dùng công nghệ AI giả mạo người nổi tiếng để lừa đảo

2 giờ trướcBài gốc

Hàng loạt hội nhóm trên mạng xã hội lấy hình ảnh và tên gọi MC Lại Văn Sâm.

Giả mạo hình ảnh, giọng nói người nổi tiếng

Ngày 25/9, trên trang Facebook cá nhân, nhà báo Lại Văn Sâm bức xúc lên tiếng khi hàng loạt kênh YouTube, TikTok và Facebook sử dụng hình ảnh, giọng nói của ông để tạo video AI mạo danh. Nhiều khán giả bị nhầm lẫn, tưởng rằng đó là phát ngôn thật sự của nam MC.

Đăng tải trên Facebook, nhà báo Lại Văn Sâm cho biết: "Gần đây có nhiều người, cả quen lẫn không quen, hỏi tôi về những video trên YouTube, TikTok hay Facebook lấy tên, hình ảnh, thậm chí nhại giọng của tôi. Tôi xin khẳng định chỉ có duy nhất một trang Facebook có tích xanh, không tham gia bất kỳ hoạt động nào trên các nền tảng mạng xã hội khác".

“100% những bài rao giảng đạo lý, phê phán, khuyên răn, quảng cáo, săm soi… gắn tên, ảnh, giọng nói hay hình ảnh của tôi đều là giả mạo, lừa đảo. Xin mọi người đừng tin” - nhà báo Lại Văn Sâm nhấn mạnh.

Lợi dụng hình ảnh MC nổi tiếng, nhiều kênh YouTube đã thu hút lượng theo dõi lớn như Lại Văn Sâm Audio (hơn 60.000 lượt đăng ký), Lại Văn Sâm - Câu Chuyện Tuổi Già (hơn 16.600 lượt), Lại Văn Sâm Official (hơn 18.000 lượt) hay Lại Văn Sâm TV... Tất cả đều là kênh giả mạo, sử dụng trí tuệ nhân tạo để lồng ghép nội dung không phù hợp nhằm câu view, kiếm tiền.

Đáng lo ngại, nhiều khán giả không nhận ra sự khác biệt, để lại bình luận tán thưởng như "Lại Văn Sâm có tầm, vốn kiến thức rộng, tư tưởng lớn, tư duy thông thái”, “Chương trình của Lại Văn Sâm thấm thía, từ già đến trẻ đều cần nghe”, “Tuổi già nghe điều anh Sâm nói rất bổ ích”... Đó là một số ít trong rất nhiều bình luận khán giả bị lẫn lộn thật, giả, nhầm tưởng đó là giọng đọc và kênh của MC Lại Văn Sâm.

Trước đó, ca sĩ Khắc Việt đã phải đăng đàn giải thích việc anh bị cắt ghép giọng nói và khuôn mặt bằng công nghệ deepfake để quảng bá cho các hình thức cờ bạc.

Trên trang cá nhân của mình, ca sĩ Khắc Việt khẳng định anh chưa từng và sẽ không bao giờ tham gia hay quảng bá cho các hoạt động cờ bạc, lừa đảo hoặc các hình thức vi phạm pháp luật. Đây là hành vi vi phạm nghiêm trọng, không chỉ ảnh hưởng đến anh mà còn có thể gây thiệt hại cho cộng đồng.

“Tôi mong tất cả mọi người hãy tỉnh táo, cảnh giác cao độ, không tin - không chia sẻ - không tham gia bất kỳ đường link hay thông tin nào mạo danh tôi. Xin hãy cùng nhau chia sẻ thông tin này để mọi người không trở thành nạn nhân của các chiêu trò lừa đảo tinh vi” - Khắc Việt chia sẻ.

Hay vợ chồng đạo diễn Lý Hải - Minh Hà cũng đăng tải thông báo trên trang Facebook chính thức về việc mình bị các đối tượng xấu sử dụng công nghệ AI để giả mạo hình ảnh, giọng nói, nhằm lôi kéo người dùng tham gia cờ bạc và lừa đảo tuyển dụng việc làm tại nhà.

Tương tự, ca sĩ Đan Trường cũng phải lên tiếng về tình trạng các trang Facebook lấy hình ảnh của anh, chỉnh sửa mặt để đưa vào video quảng cáo dịch vụ cho vay nặng lãi, quảng cáo sữa hạt hay thực phẩm chức năng.

Hành vi vi phạm nghiêm trọng, gây tổn hại uy tín cá nhân

Trên thực tế, công nghệ trí tuệ nhân tạo (AI) ngày càng phổ biến với thủ thuật tạo âm thanh bằng giọng người nổi tiếng, đi kèm hình ảnh sinh động. Các kênh giả mạo thường sử dụng thủ thuật tạo giọng nói của người nổi tiếng bằng công cụ như Voices AI, sau đó sản xuất hàng loạt video trò chuyện dưới dạng nhân vật ảo. Đây là công nghệ trí tuệ nhân tạo có khả năng biến hình ảnh tĩnh hoặc nhân vật 3D thành video động, trong đó nhân vật có thể cử động miệng, thể hiện biểu cảm và phát giọng nói theo nội dung được nhập sẵn.

Hiện nay, trên thị trường có rất nhiều công cụ hỗ trợ tạo video AI, từ miễn phí đến trả phí. Các phần mềm này được quảng cáo có độ chính xác cao, đồng bộ khẩu hình tự nhiên và thậm chí hỗ trợ hơn 120 ngôn ngữ, giúp việc dựng video giả mạo trở nên dễ dàng hơn bao giờ hết.

Theo đó, chuyên gia khẳng định đây là những hành vi vi phạm nghiêm trọng, gây tổn hại uy tín cá nhân và đánh lừa dư luận. Đồng thời, kêu gọi cộng đồng nâng cao cảnh giác, không tin và không chia sẻ những clip mạo danh.

Giới chuyên gia cũng cảnh báo deepfake đang trở thành mối đe dọa lớn khi ranh giới thật - giả bị xóa nhòa. Một số dấu hiệu vẫn có thể giúp nhận diện, chẳng hạn như chuyển động môi lệch nhịp so với âm thanh, ánh mắt thiếu tự nhiên, tần suất chớp mắt bất thường, vùng hình ảnh bị nhòe hoặc giọng nói “lạnh”, thiếu cảm xúc.

Để tránh sập bẫy các đối tượng lừa đảo, chuyên gia khuyến nghị người dân cần tỉnh táo, cẩn trọng khi tiếp nhận thông tin quảng cáo, đặc biệt là các quảng cáo trên mạng xã hội. Bên cạnh đó, cơ quan chức năng cần có biện pháp xử lý nghiêm các trường hợp mạo danh người nổi tiếng để chuộc lợi, đồng thời có các biện pháp răn đe để ngăn chặn tình trạng này, siết chặt quản lý quảng cáo trên mạng.

Nhiên Nhiên

Nguồn KTĐT : https://kinhtedothi.vn/canh-bao-gia-tang-dung-cong-nghe-ai-gia-mao-nguoi-noi-tieng-de-lua-dao.854430.html