OpenAI trấn an người dùng khi đổi mô hình sang phiên bản dựa trên o3

4 giờ trướcBài gốc

Sắp tới, Operator sẽ được vận hành bằng một mô hình dựa trên “o3”, một trong những phiên bản mới nhất trong dòng mô hình “o series” chuyên về lập luận của OpenAI. Trước đây, Operator sử dụng một phiên bản tùy biến của GPT-4o. Theo nhiều tiêu chí đánh giá, o3 là mô hình tiên tiến hơn đáng kể, đặc biệt ở các tác vụ liên quan đến toán học và tư duy logic.

Trong một bài blog, OpenAI cho biết: “Chúng tôi đang thay thế mô hình dựa trên GPT‑4o hiện tại của Operator bằng một phiên bản dựa trên OpenAI o3. Phiên bản API của Operator sẽ vẫn dựa trên GPT-4o”.

Operator là một trong nhiều công cụ tác nhân (agentic tools) được các công ty AI tung ra gần đây, trong cuộc đua xây dựng tác nhân thông minh có thể tự động thực hiện các nhiệm vụ mà không cần giám sát. Google hiện cũng cung cấp một tác nhân “sử dụng máy tính” thông qua Gemini API, có thể duyệt web và thực hiện hành động thay người dùng, cùng với một dịch vụ hướng đến người tiêu dùng hơn mang tên Mariner. Các mô hình của Anthropic cũng đã có khả năng thao tác trên máy tính như mở tập tin và điều hướng web.

Theo OpenAI, phiên bản mới có tên o3 Operator đã được tinh chỉnh thêm với dữ liệu an toàn dành riêng cho việc sử dụng máy tính, bao gồm các bộ dữ liệu được thiết kế để dạy mô hình về ranh giới giữa xác nhận và từ chối thực hiện yêu cầu.

OpenAI đã phát hành một báo cáo kỹ thuật cho thấy hiệu suất của o3 Operator trong các bài kiểm tra về an toàn. So với phiên bản GPT-4o Operator, o3 Operator ít có khả năng chấp nhận thực hiện các hành vi phi pháp hoặc tìm kiếm dữ liệu cá nhân nhạy cảm, có khả năng kháng lại tốt hơn các cuộc tấn công AI kiểu “prompt injection” (tiêm lệnh độc hại vào đầu vào của AI). Tuy nhiên, điều này có thể làm giảm trải nghiệm người dùng, đặc biệt trong môi trường sáng tạo hoặc nghiên cứu.

OpenAI khẳng định: “o3 Operator sử dụng cùng một phương pháp tiếp cận đa tầng về an toàn mà chúng tôi áp dụng cho phiên bản 4o Operator. Mặc dù o3 Operator thừa hưởng khả năng lập trình từ mô hình o3, nó không có quyền truy cập gốc vào môi trường lập trình hay terminal”.

Theo các chuyên gia, mô hình o3 được cho là lớnmạnh hơn, nên chi phí tính toán có thể cao hơn khi so với GPT-4o (tùy theo hạ tầng sử dụng). Đối với những tổ chức sử dụng Operator ở quy mô lớn, đây có thể là vấn đề được cân nhắc.

Anh Tú

Nguồn Một Thế Giới : https://1thegioi.vn/openai-tran-an-nguoi-dung-khi-doi-mo-hinh-sang-phien-ban-dua-tren-o3-232952.html