AI tạo ảnh, chatbox ngay trên máy tính cá nhân, không cần Internet

17 phút trướcBài gốc

Nhắc đến trí tuệ nhân tạo (AI), nhiều người thường nghĩ đến các công cụ trực tuyến như ChatGPT, Microsoft Copilot hay Meta AI,... vốn đòi hỏi Internet để truy cập vào sức mạnh tính toán khổng lồ của máy chủ. Nhưng với thế hệ máy tính AI PC hiện đại, người dùng đã có thể chạy AI không cần Internet (offline) ngay trên thiết bị cá nhân miễn thỏa các điều kiện về CPU (vi xử lý trung tâm), NPU (vi xử lý thần kinh) và GPU (vi xử lý đồ họa).

Tạo ảnh AI ngay trên laptop không cần Internet hay dịch vụ đám mây của bên thứ ba.

AI PC: Chạy AI không cần Internet

Ở phân khúc máy tính cá nhân, hiện đã phổ biến máy tính xách tay lẫn máy tính để bàn hỗ trợ AI offline nhờ sự xuất hiện của CPU Intel Ultra đời mới tích hợp sẵn NPU, thậm chí cả GPU. Trường hợp muốn có GPU mạnh hơn, các card màn hình rời của bên thứ ba cũng đủ nhỏ gọn, ngày càng mạnh hơn mà giá thành vẫn bình ổn. Các AI PC nổi bật có thể kể đến như Asus Zenbook 14, Dell Pro Max 16 hay MSI Prestige 16.

Máy được trang bị CPU Intel Core Ultra 9 285H tích hợp NPU và GPU Intel Arc 140T. Trong tình huống làm việc không có Internet, việc mở phần mềm LM Studio để trò chuyện với chatbot hoàn toàn không gặp khó khăn. Hay thông qua phần mềm AI Playground, việc tạo hình ảnh từ câu lệnh cũng trở nên đơn giản.

Chatbot AI chạy trực tiếp trên laptop với LM Studio.

Chẳng hạn, sau khi cài đặt phần mềm LM Studio và nạp mô hình AI openai/gpt-os-20b, người viết chỉ cần gõ câu hỏi là phản hồi sẽ xuất hiện sau một thoáng suy luận Việc dùng AI offline như thế này giúp tránh phụ thuộc vào dịch vụ AI của bên thứ ba và cả đường truyền Internet, đồng thời mang lại sự riêng tư hơn khi những thông tin cung cấp không bị lưu trữ trên máy chủ của bất kỳ ai.

Hay với Intel AI Playground, người dùng có thể tạo hình ảnh từ câu lệnh trực tiếp trên máy. Thay vì phải tải dữ liệu từ đám mây, hình ảnh hiển thị ngay trên màn hình và lưu trữ sẵn trong ổ cứng. Khi dựng phim bằng Filmora, tính năng AI Editor cũng hoạt động trơn tru: Nhập câu lệnh để yêu cầu dựng clip, máy sẽ tự động cắt ghép và gợi ý khung cảnh cho người dùng quyết định thành phẩm.

Với chỉnh sửa ảnh, tính năng AI Masking trong Photoshop hoặc Lightroom cho phép tách chủ thể và nền hoàn toàn offline, tiện dụng hơn rất nhiều so với các dịch vụ đám mây khác hoặc đám mây của chính Adobe. Đáng tiếc là CapCut - một công cụ xử lý ảnh, video mà người viết thường xuyên sử dụng, lại chưa hỗ trợ chạy offline cho các tính năng AI nên Prestige 16 chưa có dịp thử sức.

Trong mảng âm thanh, thử nghiệm với Audacity và plugin AI cho thấy, máy có thể khử tạp âm và tinh chỉnh giọng nói khá thú vị. Đặc biệt, tính năng tạo nhạc bằng câu lệnh hoạt động không cần Internet sẽ phù hợp cho người làm podcast hoặc sản xuất nhạc độc lập. Đây là một công cụ khá đặc thù cho người chuyên về âm nhạc, nếu tận dụng tốt có thể tạo ra các sản phẩm âm nhạc mang tính cá nhân hóa.

Để làm được các việc trên, NPU là nhân tố quan trọng giúp tối ưu năng lượng cho thỏi pin 99Wh của Prestige 16, không làm máy nóng quá mức với các tác vụ AI nhẹ. Trường hợp phải xử lý AI nặng hơn, máy tính sẽ tự động cân bằng hiệu suất giữa CPU, NPU và GPU. Việc phân phối công việc cho các thành phần nói trên cũng chính là một tính năng AI của máy tính dưới sự điều phối của NPU.

Điểm đánh giá vi xử lý Intel Core Ultra 9 285H trên laptop MSI Prestige 16.

Tốc độ và hiệu quả

Mặc dù tiện dụng nhưng trải nghiệm cũng cho thấy, AI chạy offline chưa thể sánh ngang đám mây về ở một số mặt. Chẳng hạn, ngay cả mô hình openai/gpt-os-20b "khủng" với 20 tỷ tham số, kết quả trả vẫn về chưa đáp ứng được kỳ vọng của người viết với các câu hỏi chuyên sâu, đi vào chi tiết; nhưng tạm chấp nhận được với các câu hỏi tổng quát, chung chung. Tuy nhiên, đây chỉ là vấn đề của mô hình AI chứ không phải bản thân chiếc máy tính.

Ngoài ra, tốc độ chatbox nói trên chậm hơn đám mây chatgpt.com cũng là vấn đề. Lý do là các dịch vụ đám mây được vận hành trên hệ thống máy chủ với hàng nghìn GPU mạnh mẽ, được huấn luyện và cập nhật liên tục. Trong khi đó, laptop chỉ giới hạn trong sức mạnh phần cứng và bộ nhớ, khiến tốc độ xử lý các tác vụ nặng hoặc câu hỏi phức tạp bị chậm lại, kết quả đôi lúc sai lệch hoặc kém tối ưu hơn.

Song sự chênh lệch này không phải ở mọi tác vụ. Khi biên tập ảnh hoặc video, AI trên MSI Prestige 16 xử lý còn nhanh hơn cả đám mây, vì toàn bộ dữ liệu được giữ trong máy, không mất thời gian tải lên và tải xuống. Và điểm cộng phải nói thêm chính là miễn phí, không giới hạn dung lượng, không giới hạn lượt dùng như hầu hết dịch vụ đám mây hiện nay.

Nhìn chung, tuy chưa thể thay thế hoàn toàn AI trên đám mây, AI PC đã mở ra hướng tiếp cận mới: AI trở thành công cụ cá nhân, gọn gàng và sẵn sàng hoạt động mọi lúc, mọi nơi. Trong tương lai, khi các mô hình AI mở nguồn mở được huấn luyện, cập nhật và phát hành phiên bản nâng cao, hiệu quả xử lý ngôn ngữ lẫn video, hình ảnh hứa hẹn sẽ cải thiện và sẽ giúp AI PC trở nên thiết thực hơn.

An An

Nguồn Người Đưa Tin : https://nguoiduatin.vn/ai-tao-anh-chatbox-ngay-tren-may-tinh-xach-tay-khong-can-internet-204251808165202804.htm