Mối nguy trình tạo hình ảnh mới của ChatGPT trong việc làm giả biên lai

một ngày trướcBài gốc

Tuy nhiên, người dùng nhanh chóng phát hiện tính năng này có thể bị lạm dụng để làm giả hóa đơn nhà hàng.

Nhà đầu tư Deedy Das đăng trên X hình ảnh hóa đơn giả tại một nhà hàng bít tết ở San Francisco, và khẳng định bức ảnh được tạo bằng GPT-4o.

Nhà đầu tư Deedy chia sẻ hình ảnh trên MXH X.

Nhiều người dùng khác cũng tái tạo thành công, thậm chí thêm vết đồ ăn, thức uống để tăng độ chân thực.

Một người dùng khác chia sẻ hình ảnh hóa đơn có vết đồ ăn, nhìn trông rất chân thực, nhưng cũng do ChatGPT tạo ra.

Hay như một người dùng ở Pháp đã đăng hóa đơn giả mạo chuỗi nhà hàng địa phương có vết nhàu nát

Ảnh do người dùng tại Pháp chia sẻ.

Nhiều người khác đã thử nghiệm tính năng mới và cũng tạo ra hóa đơn giả cho các cửa hàng, nhưng các bức ảnh vẫn có điểm bất hợp lý như: Dấu phẩy thay vì dấu chấm trong tổng tiền; Phép tính sai (đặc điểm yếu của AI trong tính toán cơ bản).

Dù vậy, kẻ gian chỉ cần chỉnh sửa đơn giản bằng phần mềm hoặc tinh chỉnh câu lệnh (prompt) để khắc phục.

Khả năng tạo hóa đơn giả dễ dàng mở ra rủi ro lớn, như gian lận hoàn tiền cho chi phí không tồn tại.

Phản hồi vấn đề này, OpenAI cho biết tất cả ảnh AI tạo đều chứa metadata (thuộc tính) ghi nhận nguồn gốc ảnh từ ChatGPT. Công ty cũng đã "hành động" khi người dùng vi phạm chính sách và "liên tục học hỏi" từ phản hồi thực tế.

Khi được hỏi về việc cho phép tạo hóa đơn giả, phát ngôn viên OpenAI Taya Christianson giải thích mục tiêu là "tối đa tự do sáng tạo", và cho rằng hóa đơn giả có thể dùng cho mục đích giáo dục tài chính, nghệ thuật hoặc quảng cáo.

Đây không phải lần đầu AI bị lợi dụng. Trước đó, MidJourney và DALL-E từng bị dùng tạo hình ảnh tài liệu giả, chứng minh thư, thậm chí tiền tệ.

Cao Phong (theo TC, MSB)

Nguồn Công Luận : https://congluan.vn/moi-nguy-trinh-tao-hinh-anh-moi-cua-chatgpt-trong-viec-lam-gia-bien-lai-post340969.html