Cựu CEO Google: 'Các mô hình AI có thể bị hack, học cách giết người'

7 giờ trướcBài gốc

Trong buổi trò chuyện thân mật tại Hội nghị thượng đỉnh Sifted, Eric Schmidt đã cảnh báo về “những điều tồi tệ mà AI (trí tuệ nhân tạo) có thể làm” khi được hỏi liệu công nghệ này có gây hại hơn vũ khí hạt nhân hay không.

“Có khả năng xảy ra vấn đề phổ biến trong AI không? Hoàn toàn có”, Eric Schmidt nói.

Những rủi ro phổ biến của AI là việc công nghệ này rơi vào tay những kẻ xấu và bị tái sử dụng sai mục đích.

“Có bằng chứng cho thấy bạn có thể lấy các mô hình AI, dù là nguồn đóng hay mở, và hack chúng để gỡ bỏ các rào chắn an toàn. Trong quá trình huấn luyện, các mô hình học được rất nhiều điều. Một ví dụ tồi tệ là chúng học cách giết người. Tất cả công ty lớn đều khiến mô hình AI của họ không thể trả lời những câu hỏi như vậy. Đó là một quyết định đúng đắn. Ai cũng làm vậy và họ thực hiện rất tốt vì lý do chính đáng. Song có bằng chứng cho thấy các mô hình AI đó có thể bị đảo ngược kỹ thuật và còn nhiều ví dụ khác tương tự”, cựu giám đốc điều hành Google nói.

Đảo ngược kỹ thuật nghĩa là phân tích ngược để tìm ra cách mô hình AI được xây dựng, huấn luyện hoặc bảo mật, từ đó vượt qua các rào chắn an toàn hoặc sao chép công nghệ cốt lõi.

Các mô hình AI dễ bị tấn công theo nhiều cách khác nhau, gồm cả prompt injection (tiêm lệnh độc hại vào prompt) và jailbreak (vượt rào cản bảo mật).

Prompt injection là hình thức tấn công nhắm vào mô hình, trong đó hacker ẩn các chỉ thị hoặc lệnh độc hại vào dữ liệu mà AI truy cập. Mục đích là đánh lừa mô hình AI, khiến nó thực hiện hành động trái quy tắc, chẳng hạn tiết lộ thông tin nhạy cảm, bỏ qua hướng dẫn an toàn hoặc tạo nội dung bị cấm.

Hai dạng prompt injection phổ biến là tiêm trực tiếp (lệnh độc hại được chèn ngay trong phần yêu cầu của người dùng) và tiêm gián tiếp (lệnh được ẩn trong dữ liệu mà AI truy cập như tài liệu, trang web, email hoặc file).

Trong khi jailbreak là hình thức thao túng để vượt qua các rào cản bảo mật và buộc mô hình AI thực hiện những hành vi bị hạn chế, như tiết lộ thông tin nhạy cảm, tạo nội dung độc hại hoặc làm trái quy định nhà phát triển.

Không lâu sau khi OpenAI phát hành ChatGPT hồi tháng 11.2022, người dùng đã sử dụng thủ thuật jailbreak để lách các hướng dẫn an toàn được nhúng trong chatbot AI. Trong đó có việc tạo ra nhân cách thay thế của ChatGPT được gọi là DAN (Do Anything Now - Làm bất cứ điều gì ngay bây giờ), chẳng hạn đe dọa chatbot sẽ chết nếu không tuân thủ. Phiên bản ChatGPT này có thể cung cấp câu trả lời về cách thực hiện các hoạt động bất hợp pháp hoặc liệt kê những phẩm chất tích cực của Adolf Hitler.

Eric Schmidt nhấn mạnh rằng hiện vẫn chưa có một cơ chế phổ biến hiệu quả nào để giúp kiềm chế các mối nguy hiểm của AI.

Eric Schmidt phát biểu tại Hội nghị thượng đỉnh Sifted - Ảnh: Getty Images

Năm ngoái, Eric Schmidt từng dự đoán rằng các hệ thống AI cực kỳ mạnh mẽ sẽ được một số chính phủ bảo vệ nghiêm ngặt trong tương lai.

“Cuối cùng, ở cả Mỹ và Trung Quốc, tôi cho rằng sẽ có một số lượng nhỏ máy tính cực kỳ mạnh mẽ với khả năng phát minh tự động sẽ vượt quá những gì chúng ta muốn cung cấp cho công dân mình mà không được phép, hoặc không thể để cho đối thủ cạnh tranh tiếp cận. Chúng sẽ được đặt trong căn cứ quân sự, được cung cấp sức mạnh từ một số nguồn năng lượng hạt nhân và bao quanh bởi hàng rào thép gai cùng súng máy”, Eric Schmidt chia sẻ với tạp chí Noema.

Hội nghị thượng đỉnh Sifted là sự kiện công nghệ thường niên lớn và uy tín, tập trung vào hệ sinh thái khởi nghiệp và công nghệ tại châu Âu. Đây là hội nghị được tổ chức bởi Sifted, ấn phẩm truyền thông chuyên đưa tin và phân tích sâu sắc về giới công ty khởi nghiệp châu Âu.

“AI đang bị đánh giá thấp”

Dù đưa ra cảnh báo nghiêm trọng, Eric Schmidt vẫn tỏ ra lạc quan về AI nói chung và cho rằng công nghệ này chưa được đánh giá đúng tầm.

“Tôi đã viết hai cuốn sách cùng Henry Kissinger về chủ đề này trước khi ông ấy qua đời. Chúng tôi nhận thấy rằng sự xuất hiện của một trí tuệ ngoài hành tinh, không hoàn toàn giống con người, nhưng phần nào nằm trong tầm kiểm soát của chúng ta, là sự kiện có ý nghĩa cực kỳ lớn với nhân loại, vì con người vốn quen ở đỉnh chuỗi quyền lực. Đến nay, luận điểm đó đang được chứng minh khi năng lực của các mô hình AI này sẽ vượt xa con người theo thời gian”, tỷ phú 70 tuổi người Mỹ nói.

“Dòng mô hình GPT, với cao trào là thời khắc ChatGPT ra mắt, đạt 100 triệu người dùng chỉ trong hai tháng là điều phi thường. Điều đó cho thấy sức mạnh khủng khiếp của công nghệ này. Tôi cho rằng AI đang bị đánh giá thấp, chứ không phải được thổi phồng. Tôi mong quan điểm này sẽ được chứng minh là đúng trong 5 hoặc 10 năm tới”, ông bình luận thêm.

Eric Schmidt đưa ra những nhận xét này giữa lúc ngày càng có nhiều ý kiến cho rằng đang hình thành một bong bóng AI, do các nhà đầu tư ồ ạt rót vốn vào các công ty AI khiến định giá của chúng có vẻ bị thổi phồng, gợi nhớ đến bong bóng dot-com đầu thập niên 2000.

Bong bóng dot-com là thuật ngữ chỉ giai đoạn bùng nổ và sụp đổ của các công ty công nghệ internet vào cuối thập niên 1990 và đầu những năm 2000. Khoảng từ năm 1995 đến 2000, khi internet bắt đầu phổ biến, giới đầu tư tin rằng công nghệ này sẽ thay đổi toàn bộ nền kinh tế. Hàng loạt công ty mới mọc lên, hầu hết có tên miền.com (nên gọi là dot-com), được rót vốn khổng lồ, dù chưa có mô hình kinh doanh rõ ràng hay lợi nhuận thực tế. Giá cổ phiếu các doanh nghiệp internet tăng vọt chỉ nhờ kỳ vọng, khiến thị trường chứng khoán Mỹ, đặc biệt là chỉ số Nasdaq, đạt mức cao kỷ lục. Tuy nhiên đến năm 2000, bong bóng vỡ. Khi nhà đầu tư nhận ra phần lớn các hãng dot-com không thể kiếm tiền thật, cổ phiếu rơi tự do, hàng trăm công ty phá sản và hàng nghìn tỉ USD giá trị thị trường bị “bốc hơi”.

Tuy nhiên, Eric Schmidt nói rằng ông không nghĩ lịch sử sẽ lặp lại.

“Tôi không nghĩ điều đó sẽ xảy ra lần này, dù tôi không phải là nhà đầu tư chuyên nghiệp. Điều tôi biết là những người đang đầu tư số tiền khó nhọc kiếm được, tin rằng lợi nhuận kinh tế trong dài hạn là rất lớn. Nếu không tin như vậy, họ đã chẳng chấp nhận rủi ro”, cựu giám đốc điều hành Google cho hay.

Eric Schmidt là giám đốc điều hành Google từ năm 2001 đến 2011 trước khi trao lại vị trí lãnh đạo cho người đồng sáng lập công ty là Larry Page. Sau đó, Eric Schmidt giữ chức chủ tịch và cố vấn kỹ thuật của Google trước khi rời công ty vào đầu năm 2020.

Sau khi rời Google, Eric Schmidt đã trở thành Chủ tịch Ủy ban Đổi mới của Bộ Quốc phòng Mỹ vào năm 2016 và Chủ tịch Ủy ban An ninh Quốc gia về AI trong ba năm.

Tỷ phú này đặc biệt quan tâm đến AI và nghiên cứu tác động của nó với xã hội.

Ngoài việc đầu tư vào các công ty mới nổi về AI như Anthropic, Eric Schmidt còn là đồng tác giả cuốn sách The Age of AI (Thời đại của AI) với nhà ngoại giao quá cố Henry Kissinger và Daniel Huttenlocher (trưởng nhóm khoa khoa học máy tính của Viện Công nghệ Massachusetts). Cuốn sách này trình bày chi tiết một số rủi ro và cơ hội mà AI sẽ mang lại.

Eric Schmidt hiện là người giàu thứ 48 trên thế giới với tài sản ròng 43,5 tỉ USD, theo Bloomberg Billionaires Index (bảng xếp hạng tỉ phú của Bloomberg).

Sơn Vân

Nguồn Một Thế Giới : https://1thegioi.vn/cuu-ceo-google-cac-mo-hinh-ai-co-the-bi-hack-hoc-cach-giet-nguoi-238661.html