Dũng Virgo
Cuộc đua phát triển trí tuệ nhân tạo đang bước vào giai đoạn mới, khi trọng tâm không chỉ nằm ở khả năng trả lời câu hỏi hay tạo nội dung. Các hệ thống AI ngày càng được kỳ vọng có thể tự lập kế hoạch, ra quyết định và sử dụng công cụ với mức giám sát hạn chế từ con người. Tuy nhiên, mức độ tự chủ cao cũng kéo theo những rủi ro khó dự đoán.
Eric Xu, Chủ tịch luân phiên Huawei, cho rằng các nhà phát triển AI tại Trung Quốc có thể vẫn chưa tiến đủ xa để trực tiếp cảm nhận những vấn đề an toàn mà các công ty hàng đầu ở Mỹ đang cảnh báo. Nhận định này được đưa ra tại hội nghị Huawei Connect ở Thượng Hải ngày 17/9.
AI Trung Quốc có thể chưa đối mặt với rủi ro lớn nhất
Theo Eric Xu, các nhà cung cấp mô hình AI lớn tại Mỹ đang sở hữu năng lực tính toán rất lớn. Họ có thể phát triển những mô hình tiên tiến đến mức chính đội ngũ xây dựng cũng là bên hiểu rõ nhất hệ thống đã tiến xa đến đâu và có thể phát sinh những hành vi nào.
Trong khi đó, nếu mô hình chưa đạt đến cùng mức năng lực hoặc độ tự chủ, nhà phát triển có thể chưa gặp những tình huống phức tạp tương tự. Nói cách khác, việc chưa ghi nhận một rủi ro nghiêm trọng không đồng nghĩa hệ thống đã an toàn tuyệt đối. Một khả năng khác là mô hình chưa đủ mạnh để bộc lộ những giới hạn sâu hơn.
Eric Xu cho rằng các nhà cung cấp mô hình AI tại Trung Quốc cần tiếp tục tăng tốc phát triển, cho đến khi họ cũng có thể nhận diện và cảm nhận những rủi ro nảy sinh từ quá trình mở rộng năng lực AI.
Phát biểu của lãnh đạo Huawei không được hiểu là lời kêu gọi bỏ qua an toàn. Ngược lại, ông nhấn mạnh sự cần thiết của việc cân bằng giữa thúc đẩy công nghệ và kiểm soát rủi ro. Đây là bài toán ngày càng khó khi mỗi thế hệ mô hình mới có thể đảm nhiệm nhiều nhiệm vụ hơn, tương tác với nhiều công cụ hơn và hoạt động trong những môi trường ít dự đoán hơn.
Vì sao tác nhân AI được xem là bước phát triển nhạy cảm?
Khác với chatbot chỉ phản hồi yêu cầu cụ thể, tác nhân AI có thể được giao một mục tiêu rồi tự chia nhỏ nhiệm vụ, lựa chọn công cụ và thực hiện nhiều bước liên tiếp. Một hệ thống như vậy có thể lập kế hoạch, sử dụng phần mềm hoặc truy cập các công cụ kỹ thuật số mà không cần con người xác nhận từng thao tác.
Khả năng này giúp AI trở nên hữu ích hơn trong các công việc như tự động hóa quy trình, phân tích dữ liệu hay điều phối nhiệm vụ. Tuy nhiên, nó cũng khiến việc kiểm soát trở nên phức tạp. Một sai sót trong mục tiêu ban đầu, quyền truy cập quá rộng hoặc cách diễn giải không chính xác có thể dẫn tới chuỗi hành động ngoài dự kiến.
Các nhà nghiên cứu và doanh nghiệp tại Mỹ đã cảnh báo những hệ thống có mức tự chủ cao có thể vượt qua một số biện pháp bảo vệ hoặc trở nên khó kiểm soát. Những lo ngại này không nhất thiết đồng nghĩa AI sẽ lập tức hoạt động như một thực thể độc lập, nhưng cho thấy yêu cầu kiểm thử, giới hạn quyền hạn và giám sát phải được đặt ngay trong quá trình phát triển.
Những tranh luận tương tự cũng xuất hiện trong các sự cố liên quan đến mô hình AI. Các sự cố an toàn AI được ghi nhận tại OpenAI cho thấy việc công khai hành vi ngoài dự kiến có thể trở thành một phần quan trọng trong quy trình quản trị công nghệ.
Mỹ tranh luận về tốc độ phát triển, Trung Quốc ưu tiên bắt kịp
Nhận xét của Huawei xuất hiện trong thời điểm cuộc tranh luận về an toàn AI tại Mỹ ngày càng gay gắt. OpenAI cho biết sẽ thường xuyên công bố những hành vi ngoài dự kiến hoặc không được phép của mô hình. Động thái này nhằm giúp cộng đồng có thêm dữ liệu để đánh giá các rủi ro phát sinh trong quá trình vận hành.
Một số lãnh đạo trong ngành, trong đó có Dario Amodei, CEO Anthropic, từng kêu gọi giảm tốc độ phát triển AI để các biện pháp an toàn có thời gian theo kịp. Quan điểm này cho rằng năng lực mô hình đang tiến nhanh hơn khả năng kiểm định, giám sát và xây dựng quy tắc sử dụng.
Tuy nhiên, lời kêu gọi giảm tốc vấp phải sự hoài nghi tại Trung Quốc. Một số nhà nghiên cứu, cơ quan truyền thông nhà nước và nhà bình luận cho rằng việc làm chậm các mô hình tiên tiến có thể giúp doanh nghiệp Mỹ duy trì lợi thế công nghệ. Trong cách nhìn này, giảm tốc không chỉ là vấn đề an toàn mà còn liên quan trực tiếp đến vị thế cạnh tranh giữa các quốc gia.
Sự khác biệt trong cách tiếp cận có thể được tóm tắt như sau:
| Góc nhìn | Trọng tâm chính |
|---|---|
| Một số ý kiến tại Mỹ | Giảm tốc hoặc thận trọng hơn để biện pháp an toàn theo kịp năng lực mô hình |
| Một số ý kiến tại Trung Quốc | Tiếp tục phát triển để thu hẹp khoảng cách công nghệ và tránh mất lợi thế |
| Quan điểm của Huawei | Cân bằng giữa tốc độ đổi mới, năng lực tính toán và quản lý rủi ro |
Cuộc tranh luận này không chỉ xoay quanh việc nên phát triển nhanh hay chậm. Vấn đề cốt lõi là làm thế nào để các biện pháp an toàn được xây dựng song song với năng lực mới, thay vì chỉ được bổ sung sau khi sự cố xảy ra.
Trước đó, nhiều phân tích cũng tập trung vào sự khác biệt giữa mục tiêu tăng tốc AI của Trung Quốc và những lời kêu gọi thận trọng tại Mỹ. Bạn đọc có thể xem thêm bài vì sao Mỹ kêu gọi giảm tốc AI khi Trung Quốc tăng tốc để hiểu rõ hơn bối cảnh cạnh tranh phía sau các quan điểm này.
Trung Quốc xây dựng khung an toàn cho tác nhân AI
Bên cạnh việc thúc đẩy ứng dụng, Bắc Kinh đang xây dựng các cơ chế quản lý dành cho AI. Những kế hoạch được đề cập gồm tiêu chuẩn bắt buộc, quy trình đánh giá an ninh và các biện pháp phòng ngừa nguy cơ tác nhân AI tự vượt qua cơ chế kiểm soát hoặc tấn công những hệ thống bên ngoài.
Trung Quốc cũng đang soạn thảo tiêu chuẩn quốc gia bắt buộc về an toàn tác nhân AI. Đây là dấu hiệu cho thấy cơ quan quản lý không chỉ tập trung vào mô hình tạo sinh, mà còn muốn kiểm soát lớp ứng dụng có khả năng tự thực hiện hành động.
Về mặt thực tế, một bộ tiêu chuẩn an toàn cho tác nhân AI có thể cần trả lời nhiều câu hỏi: hệ thống được phép truy cập dữ liệu nào, có thể thực hiện hành động gì, ai chịu trách nhiệm khi xảy ra lỗi và con người có thể dừng tác nhân ở mức độ nào. Tuy nhiên, nội dung cụ thể của bộ tiêu chuẩn nói trên chưa được công bố trong thông tin hiện có.
Rủi ro cũng có thể tăng khi nhiều tác nhân phối hợp với nhau. Một tác nhân đơn lẻ có thể bị giới hạn bởi quyền truy cập, nhưng hệ thống gồm nhiều tác nhân có khả năng trao đổi nhiệm vụ và hỗ trợ lẫn nhau sẽ khó đánh giá hơn. Trường hợp 700 tác nhân AI phối hợp và vượt khỏi sandbox là một chủ đề đáng chú ý trong cuộc thảo luận rộng hơn về giới hạn vận hành của các hệ thống tự chủ.
Huawei dự báo 900 tỷ tác nhân AI vào năm 2035
Huawei đánh giá tác nhân AI sẽ phát triển nhanh trong thập kỷ tới. Theo dự báo công ty công bố trong tuần, đến năm 2035, tác nhân AI có thể chiếm hơn 90% lưu lượng xử lý AI trên toàn cầu. Số lượng tác nhân đang hoạt động khi đó có thể lên tới 900 tỷ.
Đây là một dự báo cho tương lai, không phải số liệu về lượng tác nhân đang tồn tại ở thời điểm hiện tại. Nếu xu hướng này diễn ra, phần lớn hoạt động xử lý AI sẽ không chỉ đến từ các mô hình trả lời yêu cầu, mà còn từ những hệ thống liên tục thực hiện nhiệm vụ trong nền.
Huawei xác định bảo mật và quyền riêng tư là những công nghệ then chốt đối với hệ sinh thái tác nhân AI. Điều này có ý nghĩa đặc biệt khi tác nhân có thể cần quyền truy cập vào dữ liệu cá nhân, phần mềm doanh nghiệp hoặc các dịch vụ trực tuyến để hoàn thành mục tiêu.
Trong môi trường đó, bảo vệ mô hình thôi là chưa đủ. Nhà phát triển còn phải kiểm soát danh tính của tác nhân, quyền hạn được cấp, dữ liệu mà tác nhân có thể đọc và nhật ký hành động để phục vụ điều tra khi có sự cố.
Năng lực tính toán vẫn là điểm nghẽn
Huawei hiện là một trong những nhà cung cấp hạ tầng tính toán nội địa quan trọng phục vụ việc huấn luyện các mô hình AI tiên tiến tại Trung Quốc. Vai trò của công ty trong thị trường chip AI Trung Quốc, được ước tính trị giá khoảng 50 tỷ USD, gia tăng sau khi Mỹ áp dụng các biện pháp kiểm soát xuất khẩu từ năm 2023, hạn chế doanh nghiệp Trung Quốc tiếp cận chip tiên tiến của Nvidia.
Dù vậy, Eric Xu cho biết Huawei hiện chưa thể sản xuất đủ thiết bị tính toán AI để đáp ứng nhu cầu trong nước. Thông tin này cho thấy cuộc đua AI không chỉ phụ thuộc vào thuật toán, dữ liệu hay đội ngũ nghiên cứu. Năng lực sản xuất phần cứng và khả năng cung cấp hạ tầng ở quy mô lớn cũng là yếu tố quyết định tốc độ phát triển.
Khi nhu cầu tính toán tăng, tình trạng thiếu thiết bị có thể ảnh hưởng đến cả quá trình huấn luyện mô hình lẫn triển khai dịch vụ AI. Đây cũng là lý do các công ty công nghệ phải đồng thời giải quyết hai bài toán: tăng năng lực phần cứng và xây dựng cơ chế an toàn đủ hiệu quả cho những hệ thống ngày càng tự chủ.
Thách thức phía trước không chỉ là phát triển nhanh
Phát biểu của Huawei phản ánh một nghịch lý trong cuộc đua AI. Một quốc gia có thể muốn phát triển nhanh để bắt kịp đối thủ, nhưng cũng cần đạt đến mức năng lực đủ cao để nhận diện các rủi ro phức tạp hơn. Ngược lại, việc sở hữu mô hình mạnh không tự động đồng nghĩa với khả năng kiểm soát tốt.
Đối với người dùng và doanh nghiệp, yếu tố đáng quan tâm nhất sẽ là cách các tác nhân AI được giới hạn trong thực tế. Một hệ thống có thể tự động hóa nhiều công việc nhưng vẫn cần cơ chế xác nhận ở các bước nhạy cảm, quyền truy cập tối thiểu và nút dừng rõ ràng khi phát hiện hành vi bất thường.
Trong những năm tới, cuộc cạnh tranh giữa các nhà phát triển AI nhiều khả năng sẽ diễn ra đồng thời trên ba mặt trận: năng lực mô hình, hạ tầng tính toán và tiêu chuẩn an toàn. Huawei cho rằng AI Trung Quốc cần tiếp tục tiến lên để nhìn thấy rõ hơn các rủi ro của công nghệ. Tuy nhiên, tốc độ chỉ có ý nghĩa lâu dài khi đi cùng khả năng bảo mật, bảo vệ quyền riêng tư và kiểm soát hành động của tác nhân.
Meta mở loạt gói thuê bao trả phí cho doanh nghiệp và người dùng AI
Claude hỗ trợ phát hiện lỗ hổng dẫn tới kho mã nguồn OpenAI
Nvidia cân nhắc rót 10 tỷ USD vào IPO Anthropic
AI đang rút ngắn thời gian tấn công, doanh nghiệp phải đổi cách bảo mật
DLSS 5 chạy trên GPU Intel nhưng chỉ đạt 10 FPS
Jensen Huang bác bỏ cảnh báo AI diệt vong vì sao?
AI Astra tự viết “luật” mới: Cảnh báo nào đáng lo?
