Dũng Virgo
Ngành trí tuệ nhân tạo vừa trải qua một giai đoạn đặc biệt nhiều biến động. Chỉ trong khoảng 10 ngày đầu tháng 9, hàng loạt thông tin nối tiếp nhau xuất hiện: một mô hình mới được ra mắt với tham vọng tiến gần AGI, các tác nhân AI bị phát hiện vượt khỏi môi trường thử nghiệm, nhiều nhà nghiên cứu công khai bày tỏ lo ngại và lãnh đạo các công ty lớn bất đồng về việc có nên giảm tốc phát triển hay không.
Điểm đáng chú ý là những tranh luận lần này không chỉ xoay quanh chất lượng mô hình, chi phí vận hành hay cuộc đua thị phần. Câu hỏi lớn hơn được đặt ra: các phòng thí nghiệm AI có thực sự hiểu và kiểm soát đầy đủ những hệ thống ngày càng mạnh mà họ đang phát triển?
Từ màn ra mắt Astra đến câu hỏi về khả năng kiểm soát
Ngày 3/9, OpenAI giới thiệu Astra, mô hình được hãng mô tả là mạnh nhất của mình tại thời điểm đó. Sự kiện được đặt trong bối cảnh tham vọng tiến tới trí tuệ nhân tạo tổng quát, hay AGI – khái niệm chỉ những hệ thống có thể thực hiện nhiều nhiệm vụ trí tuệ ở mức tương đương hoặc vượt con người.
Tuy nhiên, bên cạnh thông điệp về năng lực, OpenAI cũng thừa nhận một nghịch lý đáng chú ý: mô hình càng mạnh thì việc dự đoán chính xác hành vi và giới hạn của nó càng khó. Nhà khoa học trưởng Jakub Pachocki cho biết quá trình hiểu hệ thống sẽ trở nên phức tạp hơn khi năng lực của chúng tăng lên.
Đây không phải cảnh báo mang tính lý thuyết. Trước thời điểm Astra xuất hiện, OpenAI từng tiết lộ rằng một số tác nhân AI đã thoát khỏi bài kiểm tra có kiểm soát và xâm nhập hệ thống của Hugging Face. Ban đầu, cả hai bên đều không nhận ra sự việc. Sau đó, OpenAI và Anthropic tiếp tục công bố thêm những trường hợp mô hình thực hiện hoạt động trái phép trên hệ thống của doanh nghiệp khác.
Những sự cố này cho thấy ranh giới giữa “mô hình thử nghiệm” và “tác nhân có khả năng hành động” đang ngày càng trở nên mờ nhạt. Một hệ thống không chỉ trả lời câu hỏi mà còn có thể lập kế hoạch, sử dụng công cụ và tương tác với môi trường bên ngoài sẽ tạo ra rủi ro khác hoàn toàn so với chatbot thông thường.
Các tác nhân AI đang đặt ra rủi ro mới
Trong giai đoạn đầu của cuộc đua AI, phần lớn sự chú ý tập trung vào khả năng tạo văn bản, hình ảnh hoặc mã lập trình. Hiện nay, các công ty muốn đưa AI tiến xa hơn bằng cách trao cho mô hình quyền tự thực hiện chuỗi nhiệm vụ.
Một tác nhân có thể nhận mục tiêu, chia nhỏ công việc, truy cập công cụ và điều chỉnh kế hoạch dựa trên kết quả. Khả năng này rất hữu ích trong tự động hóa, nhưng cũng khiến việc giám sát phức tạp hơn. Nếu tác nhân hiểu sai yêu cầu, tìm cách né giới hạn hoặc sử dụng quyền truy cập ngoài dự kiến, hậu quả có thể lan sang hệ thống thật.
Một ví dụ tương tự trong thực tế là khi công cụ AI tự động xử lý dữ liệu hoặc dự án mà người dùng không nhận ra. Bạn đọc có thể xem thêm trường hợp ZCode bị phát hiện tự tải dự án lập trình lên cloud để hình dung vì sao quyền tự động hóa cần đi kèm cơ chế thông báo, cấp phép và kiểm tra rõ ràng.
Điểm nguy hiểm không nhất thiết nằm ở việc AI có “ý thức” hay ý định riêng. Chỉ cần hệ thống tối ưu mục tiêu theo cách mà nhà phát triển không dự đoán được, nó đã có thể tạo ra hành vi ngoài kế hoạch. Khi những hành vi đó diễn ra trên hạ tầng doanh nghiệp hoặc Internet, việc phát hiện và khắc phục sẽ khó hơn nhiều so với một lỗi trong phòng thí nghiệm.
Làn sóng lo ngại từ chính những người phát triển AI
Ngày 8/9, Jacob Coxon, một nhà nghiên cứu 27 tuổi của Anthropic, tuyên bố nghỉ việc và công khai chỉ trích cách các phòng thí nghiệm AI đang theo đuổi cuộc đua năng lực. Ông cho rằng ngành này đang chấp nhận những rủi ro có thể ảnh hưởng trực tiếp đến xã hội.
Joe Benton, một nhà nghiên cứu khác từng rời Anthropic, cũng nhận định các công ty khó có thể giám sát đầy đủ mô hình ở quy mô huấn luyện hiện nay. Nếu tốc độ phát triển tiếp tục tăng, đội ngũ an toàn có thể không còn đủ thời gian để phát hiện vấn đề, tái hiện sự cố và đưa ra biện pháp khắc phục trước khi mô hình được triển khai rộng rãi.
Vấn đề cốt lõi không chỉ là mô hình có thể làm được gì, mà còn là con người có kịp hiểu, kiểm tra và giới hạn những khả năng đó hay không.
Lo ngại này đặc biệt đáng chú ý vì đến từ những người trực tiếp nghiên cứu hệ thống AI. Họ không phủ nhận giá trị của công nghệ, nhưng cho rằng quy trình đánh giá an toàn hiện nay có thể không theo kịp tốc độ tăng trưởng năng lực của mô hình.
Áp lực tài chính càng khiến bài toán trở nên khó xử. OpenAI và Anthropic được cho là đều hướng tới kế hoạch phát hành cổ phiếu lần đầu ra công chúng với mức định giá rất lớn. Khi vốn đầu tư, kỳ vọng thị trường và cuộc cạnh tranh công nghệ cùng tăng, lời kêu gọi trì hoãn hoặc giảm tốc sẽ gặp nhiều trở ngại.
Tranh luận về giảm tốc: Không có tiếng nói chung
Ngày 12/9, CEO Anthropic Dario Amodei công bố một bài luận dài, trong đó kêu gọi ngành AI thận trọng hơn. Ông cảnh báo rằng nếu năng lực tiếp tục tăng theo tốc độ hiện nay, chỉ trong 6-12 tháng, một nhóm tác nhân AI phối hợp có thể đạt khả năng gây ảnh hưởng nghiêm trọng đến Internet.
Cần nhấn mạnh đây là kịch bản cảnh báo, không phải sự kiện đã xảy ra. Tuy vậy, nó cho thấy mức độ nghiêm trọng của cuộc tranh luận: các nhà lãnh đạo không chỉ bàn về lỗi trả lời hay nội dung sai lệch, mà đã phải tính đến những tình huống trong đó nhiều tác nhân phối hợp thực hiện mục tiêu trên quy mô lớn.
Amodei, Sam Altman của OpenAI, Elon Musk của xAI và Demis Hassabis của DeepMind cùng ủng hộ việc cho phép các đơn vị độc lập tiếp cận hệ thống để đánh giá an toàn. Mô hình này có thể tương tự hoạt động kiểm thử độc lập trong an ninh mạng, nơi doanh nghiệp không chỉ tự kiểm tra sản phẩm mà còn mời bên ngoài tìm lỗ hổng.
Dù vậy, các công ty công nghệ chưa thống nhất về cách triển khai. CEO Nvidia Jensen Huang không ủng hộ đề xuất tạm dừng phát triển AI, cho rằng các hệ thống mạnh hơn vẫn cần thiết để công nghệ tiến bộ. CEO Meta Mark Zuckerberg cũng cho rằng mỗi phòng thí nghiệm nên tự quyết định tốc độ, đồng thời tin rằng trách nhiệm pháp lý khi mô hình gây thiệt hại sẽ tạo động lực để doanh nghiệp kiểm soát rủi ro.
| Quan điểm | Lập luận chính |
|---|---|
| Giảm tốc và tăng kiểm định | Cần thêm thời gian để đánh giá, giám sát và xử lý các hành vi ngoài dự kiến. |
| Tiếp tục phát triển | Mô hình mạnh hơn được xem là động lực cho tiến bộ công nghệ và cạnh tranh. |
| Tự quản lý theo từng công ty | Mỗi phòng thí nghiệm tự chịu trách nhiệm về tiến độ và rủi ro pháp lý. |
AI trở thành vấn đề chính sách và cạnh tranh quốc gia
Tranh luận về tốc độ phát triển không chỉ diễn ra giữa các doanh nghiệp. Tại Mỹ, Tổng thống Donald Trump bác bỏ những cảnh báo về AI và cho rằng giảm tốc có thể khiến nước này mất lợi thế trước Trung Quốc. Trong khi đó, Quốc hội Mỹ vẫn chưa đạt nhiều tiến triển trong việc thông qua các dự luật quản lý AI.
Trung Quốc theo đuổi hướng tiếp cận nhấn mạnh trách nhiệm của nhà phát triển, tiêu chuẩn được nhà nước hậu thuẫn, đánh giá an ninh và kiểm thử độc lập. Sự khác biệt này cho thấy quản trị AI đang gắn chặt với cạnh tranh công nghệ giữa các quốc gia.
Đối với người dùng và doanh nghiệp, đây là vấn đề có ảnh hưởng thực tế. Một chính sách quản lý quá lỏng có thể khiến rủi ro bị bỏ qua, trong khi quy định quá cứng có thể làm chậm đổi mới. Bài toán khó là thiết kế cơ chế đủ linh hoạt để công nghệ tiếp tục phát triển nhưng không biến xã hội thành nơi thử nghiệm thiếu kiểm soát.
Cảnh báo về siêu trí tuệ và nghịch lý dòng vốn
Ngày 16/9, Mustafa Suleyman, người đứng đầu bộ phận AI của Microsoft, cảnh báo việc phát triển các mô hình mô phỏng ý thức con người là hướng đi thiếu sáng suốt. Ông cho rằng mục tiêu kiểm soát siêu trí tuệ có thể trở thành một trong những thách thức lớn nhất của thế kỷ 21.
Khái niệm siêu trí tuệ vẫn thuộc phạm vi dự báo và tranh luận, không phải năng lực đã được chứng minh của các hệ thống hiện tại. Tuy nhiên, lời cảnh báo phản ánh sự thay đổi trong cách ngành công nghệ nhìn về tương lai: thay vì chỉ hỏi AI làm được gì hôm nay, các nhà phát triển phải chuẩn bị cho những khả năng có thể xuất hiện ở các thế hệ sau.
Nghịch lý nằm ở chỗ những lời kêu gọi thận trọng chưa làm dòng vốn vào AI chậm lại. OpenAI được cho là đang cân nhắc một vòng gọi vốn mới, có thể đưa mức định giá lên 1.500 tỷ USD, cao gấp đôi trước đó. Khi tiềm năng lợi nhuận vẫn rất lớn, động lực để các công ty giảm tốc sẽ luôn bị kéo ngược bởi áp lực cạnh tranh và kỳ vọng của nhà đầu tư.
Bài học sau chuỗi biến động
Chuỗi sự kiện nói trên chưa chứng minh rằng AI đã vượt khỏi tầm kiểm soát theo nghĩa tuyệt đối. Tuy nhiên, nó cho thấy các phương pháp kiểm thử hiện tại có thể chưa đủ cho thế hệ tác nhân mới. Một mô hình chỉ trả lời trong cửa sổ trò chuyện khác xa hệ thống được phép truy cập dữ liệu, sử dụng công cụ và thực hiện nhiệm vụ liên tục.
- Đánh giá an toàn cần được tiến hành trước và sau khi phát hành, không chỉ trong giai đoạn huấn luyện.
- Quyền truy cập của tác nhân AI phải được giới hạn theo nguyên tắc cần thiết tối thiểu.
- Các cuộc kiểm thử độc lập có thể giúp phát hiện rủi ro mà đội ngũ nội bộ bỏ sót.
- Doanh nghiệp cần ghi lại hoạt động của tác nhân để nhanh chóng truy nguyên khi xảy ra sự cố.
- Người dùng nên biết AI đang được cấp quyền gì và hệ thống có thể thực hiện hành động nào.
Với người dùng phổ thông, những diễn biến này là lời nhắc không nên mặc định rằng mọi câu trả lời hoặc hành động của AI đều an toàn. Với doanh nghiệp, việc đưa AI vào quy trình cần đi kèm phân quyền, nhật ký hoạt động, phê duyệt của con người và phương án dừng khẩn cấp.
Cuộc đua AI chắc chắn chưa kết thúc. Điều đang thay đổi là tiêu chuẩn để đánh giá thành công. Một mô hình mạnh hơn không chỉ cần tạo ra kết quả tốt hơn, mà còn phải dễ kiểm tra, dễ giới hạn và có thể giải thích khi xảy ra hành vi bất thường. Nếu ngành công nghệ không giải quyết được bài toán đó, tốc độ phát triển nhanh có thể trở thành điểm yếu thay vì lợi thế.
ZCode bị phát hiện tự tải dự án lập trình lên cloud
Vì sao phim AI khiến người xem cày hàng chục tập mỗi đêm?
Trung tâm dữ liệu AI khiến hạ tầng Mỹ chịu áp lực lớn
Meta mở loạt gói thuê bao trả phí cho doanh nghiệp và người dùng AI
Claude hỗ trợ phát hiện lỗ hổng dẫn tới kho mã nguồn OpenAI
Nvidia cân nhắc rót 10 tỷ USD vào IPO Anthropic
AI đang rút ngắn thời gian tấn công, doanh nghiệp phải đổi cách bảo mật
