Deepfake và cơn ác mộng mang tên 'Gisele Bundchen' ở Brazil

7 giờ trướcBài gốc

Từ “studio deepfake” đến hệ thống rửa tiền kỹ thuật số

Theo cuộc điều tra của Cảnh sát Liên bang Brazil, mạng lưới này đã kiếm được hơn 20 triệu real (tương đương 3,9 triệu USD) chỉ trong vài tháng. Các quảng cáo deepfake của “Gisele Bundchen” được trả tiền để hiển thị dày đặc trên Instagram, hướng người dùng tới những trang web bán sản phẩm giả, yêu cầu thanh toán trước “phí vận chuyển” hoặc đăng ký dịch vụ “dùng thử miễn phí”.

Sau khi trả tiền, người mua không bao giờ nhận được hàng, còn dữ liệu thẻ tín dụng của họ có thể bị bán hoặc lợi dụng tiếp. Một điều tra viên mô tả trên tờ Folha de São Paulo: “Chúng đã biến công nghệ trí tuệ nhân tạo (AI) thành một công cụ lừa đảo hoàn hảo. Với deepfake, người dùng tin rằng họ đang nghe Gisele Bundchen thật nói chuyện với mình”.

Người mẫu Gisele Bundchen tạo dáng trong buổi chụp ảnh với giới truyền thông ở Geneva, Thụy Sĩ. Ảnh: Reuters.

Công nghệ deepfake - từng được kỳ vọng cho ngành điện ảnh và sáng tạo nội dung - đang dần trở thành một loại vũ khí lừa đảo kỹ thuật số. Trong trường hợp này, sức mạnh của nó được khuếch đại bởi Instagram, nơi quảng cáo trả phí có thể tiếp cận hàng triệu người chỉ trong vài giờ.

Thông tin đăng tải trên hãng Reuters cho hay, đường dây này hoạt động có tổ chức, trải rộng trên nhiều bang của Brazil, với các “đơn vị chuyên trách” gồm: Một nhóm kỹ thuật viên chuyên tạo deepfake bằng các mô hình AI huấn luyện trên video công khai của Gisele Bundchen, các buổi phỏng vấn và quảng cáo cũ; một nhóm phụ trách chạy quảng cáo và tối ưu thuật toán Instagram, ngụy trang các chiến dịch dưới tên thương hiệu mỹ phẩm giả; một bộ phận chuyên thu thập và rửa tiền thông qua tài khoản ngân hàng trung gian, ví điện tử và tiền mã hóa.

Nam diễn viên Rodrigo Santoro Ivete Sangalo.

Cảnh sát Brazil đã bắt giữ ít nhất 10 nghi phạm và phong tỏa hơn 50 tài khoản ngân hàng liên quan. Trong số tang vật bị thu giữ, phong tỏa, cơ quan chức năng phát hiện hàng chục máy tính có cài phần mềm tổng hợp hình ảnh và giọng nói dựa trên công nghệ text-to-video. Một số video deepfake còn được chỉnh sửa với phụ đề và biểu tượng xác minh giả nhằm tăng tính thuyết phục.

Cũng theo kết quả điều tra, ngoài siêu mẫu Gisele Bundchen, nhóm này còn sử dụng hình ảnh của nhiều người nổi tiếng khác như nữ ca sĩ kiêm sáng tác nhạc, diễn viên và người dẫn chương trình truyền hình người Brazil Ivete Sangalo; nam diễn viên người Rodrigo Santoro và thậm chí cả cựu Tổng thống Luiz Inácio Lula da Silva để làm quảng cáo hoặc “phát biểu” ủng hộ sản phẩm giả.

Một chi tiết đáng chú ý là nhóm tội phạm còn thuê các “đại lý quảng cáo” trung gian giúp đăng chiến dịch. Những công ty này đôi khi không biết mình đang tiếp tay cho lừa đảo, vì nội dung được nộp sẵn đã qua nhiều khâu biên tập, và tên miền trỏ đến thường biến mất sau vài ngày.

Tờ O Globo dẫn lời một quan chức của Bộ Tư pháp Brazil nói: “Đây không còn là hành vi lừa đảo nhỏ lẻ. Nó là một hệ sinh thái, nơi công nghệ deepfake, mạng xã hội và hệ thống thanh toán trực tuyến giao nhau - tạo ra vùng xám pháp lý mà luật hiện tại chưa kịp theo kịp”.

Nữ ca sĩ kiêm sáng tác nhạc, diễn viên và người dẫn chương trình truyền hình người Brazil Ivete Sangalo.

Deepfake - cuộc chiến mới của thời đại AI

Vụ việc này nhanh chóng thu hút sự chú ý toàn cầu, không chỉ vì danh tiếng của siêu mẫu Gisele Bundchen mà còn vì tác động sâu rộng của deepfake đối với xã hội. Meta - công ty mẹ của Instagram - tuyên bố rằng các quảng cáo deepfake “vi phạm nghiêm trọng chính sách quảng cáo của nền tảng” và họ đang tăng cường hợp tác với cơ quan chức năng Brazil.

Tuy nhiên, vụ việc vẫn cho thấy lỗ hổng trong việc kiểm duyệt nội dung trả phí. Bởi không giống các bài đăng cá nhân, quảng cáo trả phí có thể vượt qua bộ lọc kiểm duyệt nhờ hệ thống tự động của Meta vốn ưu tiên tốc độ hiển thị. Khi video có hình ảnh người nổi tiếng được gắn logo “đã xác minh”, người xem rất khó nhận ra đó là sản phẩm nhân tạo.

Về phần mình, siêu mẫu Gisele Bundchen - người hiện sống chủ yếu ở Florida, Mỹ - đã gửi thông cáo chính thức qua người đại diện, cảnh báo người hâm mộ “không tin vào bất kỳ nội dung quảng cáo nào không được chia sẻ qua kênh chính thức”. Cô gọi vụ việc là “một ví dụ đau lòng về việc công nghệ bị lạm dụng để thao túng niềm tin công chúng”.

Nhưng điều đáng nói là Brazil không phải là quốc gia duy nhất chịu ảnh hưởng. Các vụ lừa đảo sử dụng hình ảnh người nổi tiếng đã lan sang Argentina, Mexico, Chile - nơi các nhóm tội phạm copy mô hình hoạt động tương tự: Tạo deepfake các nhân vật có uy tín; chạy quảng cáo nhắm mục tiêu phụ nữ trung niên hoặc người lớn tuổi; kêu gọi mua sản phẩm “độc quyền”, hoặc đầu tư “sinh lời nhanh”. Một nghiên cứu của Phòng An ninh mạng Sao Paulo (CSPC) cho biết, chỉ riêng quý II năm 2025, đã có hơn 2.000 báo cáo lừa đảo deepfake trên mạng xã hội Brazil, tăng 400% so với năm trước.

Cảnh sát Brazil đang triển khai mở rộng điều tra băng nhóm tội phạm sử dụng deepfake để lừa đảo. Ảnh: Reuters.

Khi luật pháp đuổi theo công nghệ

Hiện nay, Brazil mới chỉ có khung pháp lý chung về “tội phạm mạng” (Luật số 12.737/2012 - còn gọi là “Luật Carolina Dieckmann”). Tuy nhiên, luật này chưa quy định cụ thể về deepfake. Một số chuyên gia pháp lý đang đề xuất sửa đổi luật để phân biệt giữa deepfake hợp pháp (nghiên cứu, nghệ thuật, giải trí) và deepfake lừa đảo, xúc phạm danh dự hoặc xâm phạm hình ảnh cá nhân.

Giáo sư luật số học Patricia Peck nhận xét: “Nếu chúng ta không định danh hành vi deepfake gian lận là tội phạm riêng biệt, nó sẽ tiếp tục tồn tại trong vùng xám, nơi người vi phạm luôn đi trước luật pháp một bước”.

Trên bình diện quốc tế, vụ việc ở Brazil là một hồi chuông cảnh tỉnh. Nó cho thấy deepfake không còn là công cụ giải trí hay tuyên truyền chính trị, mà đã trở thành một phương thức lừa đảo tài chính xuyên quốc gia. Các chuyên gia an ninh mạng cảnh báo rằng trong tương lai, deepfake có thể được sử dụng để giả mạo doanh nhân, bác sĩ, giáo viên, hoặc người thân - khiến nạn nhân chuyển tiền hoặc tiết lộ thông tin cá nhân.

Ở cấp độ toàn cầu, Liên hợp quốc và Liên minh châu Âu đang thúc đẩy việc ban hành “các nguyên tắc sử dụng AI có trách nhiệm”, trong đó yêu cầu mọi nội dung do AI tạo ra phải gắn nhãn minh bạch. Tuy nhiên, khi các nền tảng quảng cáo vẫn ưu tiên lợi nhuận, việc giám sát hiệu quả vẫn là bài toán chưa có lời giải.

Video deepfake dùng hình ảnh cựu Tổng thống Luiz Inácio Lula da Silva để lừa đảo.

Chuyên gia truyền thông số André Miceli bình luận: “Chúng ta đang sống trong thời kỳ mà cảm xúc và niềm tin có thể được nhân tạo hóa. Deepfake không chỉ làm sai lệch hình ảnh, mà còn thao túng cả lòng tin”.

Sau vụ việc, chính quyền Brazil đã tuyên bố mở chương trình giáo dục truyền thông số trong trường học, dạy học sinh cách nhận diện nội dung giả mạo. Meta cũng cam kết áp dụng hệ thống phát hiện deepfake bằng AI ngược, sử dụng dấu vết kỹ thuật số để nhận dạng video tổng hợp. Tuy vậy, giới chuyên gia nhận định rằng trách nhiệm không chỉ thuộc về các nền tảng, mà còn nằm ở người dùng: cần học cách kiểm chứng nguồn tin, không tin vào nội dung quảng cáo “quá tốt để là thật”, và luôn xác minh qua kênh chính thức.

Chu Nguyễn

Nguồn ANTG : https://antg.cand.com.vn/ho-so-interpol/deepfake-va-con-ac-mong-mang-ten-gisele-bundchen-o-brazil-i786433/