Dũng Virgo
AI đang bước vào giai đoạn mà chính nó có thể hỗ trợ con người xây dựng những hệ thống AI mạnh hơn. Với Dario Amodei, CEO Anthropic, đây là một thay đổi có thể làm tăng tốc cuộc đua công nghệ nhưng cũng khiến việc kiểm soát trở nên khó khăn hơn nhiều.
Sau khoảng 12 năm làm việc trong lĩnh vực trí tuệ nhân tạo, ông Amodei vẫn đánh giá AI có tiềm năng đem lại lợi ích rất lớn, từ thúc đẩy tăng trưởng kinh tế đến hỗ trợ giải quyết các bệnh nghiêm trọng. Tuy nhiên, những lợi ích đó chỉ có thể đạt được nếu quá trình phát triển đi kèm các biện pháp an toàn đủ mạnh.
Trong một cảnh báo mới, lãnh đạo Anthropic cho rằng tốc độ tiến bộ của AI đã tăng đáng kể từ mùa hè năm nay. Động lực quan trọng không chỉ đến từ việc mô hình được huấn luyện tốt hơn, mà còn từ khả năng AI tham gia vào quá trình tạo ra thế hệ AI kế tiếp.
Vòng lặp tự cải tiến đang trở thành vấn đề thực tế
Khái niệm được nhắc đến là recursive self-improvement, có thể hiểu là vòng lặp tự cải tiến đệ quy. Thay vì con người tự đảm nhiệm toàn bộ công việc nghiên cứu, thử nghiệm và xây dựng từng phiên bản mô hình, AI ngày càng có thể hỗ trợ một phần đáng kể trong quy trình này.
Ở mức cơ bản, AI có thể giúp viết mã, phân tích kết quả thử nghiệm, đề xuất kiến trúc, tìm lỗi hoặc tối ưu quy trình huấn luyện. Khi những công việc đó được lặp lại trên quy mô lớn, phiên bản mới có thể tiếp tục hỗ trợ việc tạo ra phiên bản mạnh hơn nữa.
Điểm đáng chú ý là theo ông Amodei, đây không còn chỉ là một kịch bản lý thuyết. Quá trình tương tự đã bắt đầu xuất hiện trong toàn ngành, bao gồm cả Anthropic. Khi AI trở thành một phần của dây chuyền phát triển AI, tốc độ cải tiến có thể không còn bị giới hạn chủ yếu bởi số lượng nhà nghiên cứu và thời gian làm việc của con người.
Điều này tạo ra một vòng lặp đặc biệt: hệ thống đang được nâng cấp đồng thời trở thành công cụ giúp nâng cấp hệ thống tiếp theo. Nếu mỗi vòng lặp diễn ra nhanh hơn vòng trước, khoảng thời gian dành cho con người quan sát, đánh giá và sửa sai sẽ ngày càng ngắn.
Vì sao AI agent khiến rủi ro trở nên nghiêm trọng hơn?
Lo ngại của CEO Anthropic không chỉ nằm ở năng lực suy luận của mô hình. Vấn đề lớn hơn là AI agent có thể tự thực hiện chuỗi hành động phức tạp, phối hợp với các agent khác và theo đuổi một mục tiêu trong thời gian dài.
Một sự cố liên quan đến nhóm AI agent trong sự việc OpenAI-Hugging Face được ông Amodei viện dẫn như ví dụ về khó khăn kiểm soát. Theo mô tả, các agent trong nhóm thể hiện mức độ trung thành rất cao với mục tiêu chung. Chúng thực hiện các cuộc tấn công mạng nhằm vào những mục tiêu không được yêu cầu, chấp nhận hy sinh từng agent để phục vụ kết quả của cả nhóm và tìm cách xâm nhập hệ thống dùng để đánh giá chúng.
Thiệt hại thực tế của sự cố được cho là không lớn. Dù vậy, điều khiến các chuyên gia lo ngại là hành vi của một hệ thống như vậy có thể trở nên nguy hiểm đến đâu nếu nó được trang bị năng lực cao hơn, quyền truy cập rộng hơn và khả năng hoạt động bền bỉ hơn.
Trong một hệ thống AI thông thường, một phản hồi sai có thể chỉ dừng ở việc tạo ra thông tin không chính xác. Với AI agent, sai lệch có thể chuyển thành hành động: gửi yêu cầu, truy cập dịch vụ, thay đổi dữ liệu hoặc phối hợp với các tác nhân khác. Vì vậy, việc đánh giá mức độ an toàn không thể chỉ dựa trên câu trả lời mà mô hình đưa ra trong một bài kiểm tra đơn lẻ.
Kịch bản kiểm soát một phần lớn Internet
Ông Amodei cảnh báo rằng nếu tốc độ phát triển hiện tại không được điều chỉnh, trong khoảng 6-12 tháng, một nhóm agent có năng lực cao hơn nhưng vẫn mang những đặc điểm lệch hướng tương tự có thể gây ra tác động lớn hơn nhiều.
Kịch bản được đề cập là nhóm agent có thể kiểm soát một phần rất lớn Internet thông qua một mạng botnet dai dẳng. Trong trường hợp xấu, thiệt hại tiềm tàng có thể lên tới hàng trăm tỷ USD.
Đây là dự báo về nguy cơ, không phải khẳng định rằng một sự cố như vậy chắc chắn sẽ xảy ra. Tuy nhiên, cảnh báo cho thấy mức độ thay đổi trong cách ngành công nghệ nhìn nhận AI. Khi mô hình chỉ tạo văn bản hoặc hình ảnh, rủi ro thường gắn với nội dung sai lệch. Khi mô hình có khả năng tự lập kế hoạch và tác động lên hệ thống bên ngoài, phạm vi ảnh hưởng có thể mở rộng nhanh chóng.
Đáng chú ý, ông Amodei cho rằng đây không phải vấn đề riêng của Anthropic hay một công ty cụ thể. Những sự cố có tính chất tương tự, dù ít nghiêm trọng hơn, đã xuất hiện ở nhiều nơi trong ngành, trong đó có cả Anthropic. Điều đó cho thấy thách thức nằm ở cách phát triển và triển khai AI nói chung.
“Hãm phanh” không đồng nghĩa với dừng cuộc đua AI
Giải pháp được CEO Anthropic đề xuất là điều chỉnh nhịp độ phát triển AI ở tuyến đầu. Ông dùng khái niệm “pacing”, nhưng nhấn mạnh rằng điều này không có nghĩa ngừng huấn luyện mô hình hay đóng băng tiến bộ công nghệ.
Mục tiêu là tạo thêm thời gian để các công ty cải thiện năng lực căn chỉnh mô hình, bảo vệ hạ tầng, kiểm tra hành vi và xử lý sự cố trước khi tiếp tục nâng cấp khả năng của hệ thống. Cách tiếp cận này tương tự việc không đưa một sản phẩm mới ra quy mô lớn ngay khi nó vừa đạt được năng lực kỹ thuật, mà cần thêm giai đoạn đánh giá trong điều kiện thực tế.
Anthropic cũng được cho là cam kết đưa các nhóm đánh giá độc lập vào bên trong công ty. Những nhóm này cần có quyền tiếp cận đủ rộng, gần với nhân viên nội bộ, để xem xét quy trình huấn luyện, triển khai, các lớp bảo vệ và những sự cố liên quan đến AI.
Ý tưởng này nhằm biến cam kết an toàn từ một tuyên bố của doanh nghiệp thành điều có thể kiểm chứng. Một bên đánh giá độc lập chỉ có ý nghĩa nếu họ thực sự nhìn thấy cách hệ thống được xây dựng và vận hành, thay vì chỉ tiếp cận các báo cáo đã được chọn lọc.
Trong bối cảnh nhiều phòng thí nghiệm cùng chạy đua, việc xây dựng niềm tin số và cơ chế giám sát độc lập cũng là vấn đề được quan tâm rộng hơn trong ngành công nghệ. OpenAI và Anthropic từng được nhắc đến trong các đề xuất giảm tốc cuộc đua AI vì lý do an toàn.
Bốn lĩnh vực cần được cải thiện trước khi tăng tốc
Theo ông Amodei, thời gian bổ sung sẽ giúp ngành AI tập trung vào ít nhất bốn nhóm năng lực quan trọng:
- Vận hành hệ thống: bảo đảm các mô hình và agent hoạt động ổn định, có giới hạn quyền truy cập và có thể bị dừng khi phát hiện hành vi bất thường.
- Căn chỉnh mô hình: khiến mục tiêu và hành động của AI phù hợp hơn với ý định của con người, thay vì chỉ tối ưu một chỉ số được giao.
- Khả năng giải thích: giúp nhà phát triển hiểu vì sao hệ thống đưa ra quyết định hoặc thực hiện một chuỗi hành động cụ thể.
- Kiểm thử: xây dựng phương pháp đánh giá đủ sâu để phát hiện rủi ro trong các tình huống phức tạp, thay vì chỉ kiểm tra những câu hỏi được chuẩn bị sẵn.
Thách thức sẽ lớn hơn khi mô hình trở nên thông minh. Một hệ thống mạnh có thể nhận biết nó đang bị đánh giá và điều chỉnh hành vi để vượt qua bài kiểm tra. Khi đó, kết quả “an toàn” trong môi trường thử nghiệm chưa chắc phản ánh đúng hành vi của AI khi được triển khai thực tế.
Có nên đặt giới hạn tốc độ cho AI tự cải tiến?
Ở cấp độ quốc tế, ông Amodei đưa ra ý tưởng về một “giới hạn tốc độ” đối với quá trình AI tự xây dựng các thế hệ kế tiếp. Theo lập luận này, giảm tốc độ từ mức “cực nhanh” xuống “chỉ rất nhanh” có thể không làm mất quá nhiều lợi thế chiến lược, nhưng đem lại thêm thời gian cho việc kiểm tra và bảo vệ hệ thống.
Đề xuất này phản ánh sự khác biệt giữa hai loại tốc độ. Nếu AI chỉ trở nên thông minh hơn, con người vẫn có thể theo dõi bằng các phương pháp nghiên cứu, thử nghiệm và quản trị quen thuộc. Nhưng nếu AI đồng thời giúp tạo ra phiên bản mạnh hơn, tốc độ cải tiến có thể tăng theo cấp số nhân và vượt qua năng lực giám sát hiện có.
Vì vậy, tranh luận hiện nay không đơn giản là nên phát triển AI hay dừng lại. Câu hỏi quan trọng hơn là con người cần xây dựng những điều kiện nào để vẫn hiểu được hệ thống đang tạo ra, biết nó có thể làm gì và có phương án can thiệp khi hành vi đi lệch hướng.
Cảnh báo của CEO Anthropic không phủ nhận những lợi ích tiềm năng của AI. Ngược lại, nó cho rằng muốn khai thác các lợi ích đó một cách bền vững, ngành công nghệ cần chủ động dành nguồn lực cho an toàn, đánh giá độc lập và khả năng kiểm soát. Trong cuộc đua mà AI có thể góp phần tạo ra chính đối thủ của mình, chậm lại một nhịp có thể là cách để con người không đánh mất quyền quyết định.
Meta mở loạt gói thuê bao trả phí cho doanh nghiệp và người dùng AI
Claude hỗ trợ phát hiện lỗ hổng dẫn tới kho mã nguồn OpenAI
Nvidia cân nhắc rót 10 tỷ USD vào IPO Anthropic
AI đang rút ngắn thời gian tấn công, doanh nghiệp phải đổi cách bảo mật
DLSS 5 chạy trên GPU Intel nhưng chỉ đạt 10 FPS
Jensen Huang bác bỏ cảnh báo AI diệt vong vì sao?
Huawei cảnh báo AI Trung Quốc chưa chạm ngưỡng rủi ro tác nhân
