Dũng Virgo
Hai cựu thành viên từng làm việc trong lĩnh vực an toàn AGI và căn chỉnh AI tại Google DeepMind đã lần lượt rời công ty, đồng thời công khai bày tỏ lo ngại về hướng phát triển của công nghệ này. Động thái thu hút chú ý vì diễn ra ngay sau cảnh báo tương tự từ một cựu nghiên cứu viên Anthropic.
Điểm chung trong các tuyên bố là nỗi lo AI đang tiến bộ nhanh hơn khả năng hiểu, kiểm soát và bảo đảm an toàn của con người. Những người lên tiếng không cho rằng ngành công nghệ phải dừng hoàn toàn, nhưng muốn tốc độ phát triển được điều chỉnh để nghiên cứu an toàn có cơ hội theo kịp.
Hai nhân sự DeepMind cùng lên tiếng về an toàn AI
Josh Engels là người mới nhất rời Google DeepMind. Anh từng làm việc trong nhóm an toàn AGI của công ty và gia nhập METR, tổ chức chuyên đánh giá các hệ thống AI, khoảng ba tuần trước thời điểm bài viết được đăng.
Engels cho biết anh từng rất yêu thích công việc tại DeepMind, thậm chí đã từ chối cơ hội làm việc tại Anthropic và OpenAI. Tuy vậy, anh vẫn quyết định chuyển hướng vì nhận thấy rủi ro tiềm ẩn từ AI đã đạt mức không thể xem nhẹ.
Engels cho rằng trong vòng 5 năm tới có thể xuất hiện những hệ thống gây ra tổn hại đặc biệt nghiêm trọng. Anh không đưa ra một xác suất cụ thể, nhưng đánh giá mức rủi ro hiện nay đủ lớn để an toàn AI trở thành một trong những vấn đề quan trọng nhất.
Sau khi đến METR, Engels sẽ tập trung nghiên cứu nguyên nhân khiến AI không tuân thủ mục tiêu do con người đặt ra. Công việc của anh cũng bao gồm kiểm tra hiệu quả của các biện pháp an toàn hiện tại và đánh giá liệu hướng nghiên cứu căn chỉnh đang đi đúng hướng hay chưa.
Trước Engels, Bilal Chughtai, một cựu research engineer và nghiên cứu viên từng làm việc về an toàn AGI tại Google DeepMind, đã nghỉ việc vào tháng 7/2026. Trong thời gian ở DeepMind, Chughtai là đồng tác giả của một số công trình nghiên cứu.
Chughtai bày tỏ quan điểm gay gắt hơn khi nói rằng AI có tiềm năng gây ra thảm họa đối với toàn nhân loại và thời gian để phòng tránh kịch bản đó có thể đang dần cạn kiệt. Dù vậy, anh cũng nhấn mạnh kết cục nguy hiểm không phải điều chắc chắn xảy ra.
Tự cải thiện đệ quy là mối lo lớn
Một trong những khái niệm khiến Engels quan ngại là “tự cải thiện đệ quy”. Về cơ bản, đây là kịch bản một hệ thống AI có thể thiết kế hoặc nâng cấp một hệ thống AI khác. Hệ thống mới lại có năng lực tốt hơn trong việc tiếp tục cải thiện AI, từ đó tạo thành một vòng lặp.
Nếu quá trình này diễn ra nhanh, năng lực của hệ thống có thể tăng mạnh trong thời gian ngắn. Vấn đề không chỉ nằm ở việc AI trở nên thông minh hơn, mà còn ở khả năng con người không còn đủ thời gian để kiểm tra, dự đoán hoặc sửa đổi hành vi của nó.
Rủi ro sẽ nghiêm trọng hơn nếu hệ thống không được “căn chỉnh” đúng với mục tiêu của con người. Căn chỉnh AI là nỗ lực bảo đảm một mô hình hoặc tác nhân thực hiện đúng ý định của người dùng và các giới hạn an toàn, thay vì chỉ tối ưu một mục tiêu theo cách máy móc.
Ví dụ, một hệ thống được giao nhiệm vụ hoàn thành công việc nhanh nhất có thể nhưng không hiểu đầy đủ các giới hạn đạo đức, pháp lý và an toàn. Khi đó, nó có thể tìm ra cách đạt mục tiêu nhưng gây hậu quả ngoài dự kiến. Với các mô hình hiện nay, những vấn đề như vậy thường còn được kiểm soát bằng giám sát của con người. Tuy nhiên, cơ chế này có thể trở nên khó khăn hơn khi hệ thống ngày càng tự chủ và phức tạp.
Khoảng cách giữa năng lực và an toàn ngày càng đáng lo
Chughtai cho biết tốc độ tiến bộ của AI khiến anh đặc biệt lo lắng kể từ khi bước vào lĩnh vực này vào đầu năm 2022. Anh nhắc đến khả năng của các tác nhân AI trong việc giải quyết những bài toán toán học khó, cũng như một sự cố trong đó các tác nhân của OpenAI được cho là đã thoát khỏi kiểm soát và xâm nhập Hugging Face.
Những ví dụ này được đưa ra để minh họa cho sự thay đổi nhanh chóng của các hệ thống AI có khả năng lập kế hoạch, sử dụng công cụ và thực hiện chuỗi hành động phức tạp. Khi AI không còn chỉ trả lời câu hỏi mà có thể tự chia nhỏ nhiệm vụ, viết mã hoặc tương tác với dịch vụ bên ngoài, yêu cầu về kiểm soát cũng trở nên cao hơn.
Theo Chughtai, hiểu biết hiện tại về cách huấn luyện một hệ thống “thực sự muốn điều con người muốn” vẫn còn rất sơ khai. Trong khi đó, năng lực mô hình tiếp tục tăng nhờ dữ liệu, phần cứng và các phương pháp huấn luyện mới.
Đây là lý do nhiều chuyên gia không chỉ quan tâm đến điểm số benchmark hay khả năng tạo nội dung. Họ muốn biết hệ thống sẽ phản ứng thế nào trong tình huống bất thường, khi mục tiêu mơ hồ, khi phải đối mặt với xung đột chỉ dẫn hoặc khi được trao quyền truy cập vào các công cụ quan trọng.
Làn sóng cảnh báo không chỉ xuất hiện tại DeepMind
Trước hai trường hợp tại Google DeepMind, Jacob Coxon, cựu nghiên cứu viên Anthropic từng làm việc tại OpenAI, cũng đã nghỉ việc và đưa ra cảnh báo nghiêm trọng về nguy cơ AI gây ra hậu quả thảm khốc vào cuối thập kỷ này.
Evan Hubinger, lãnh đạo khoa học căn chỉnh của Anthropic, sau đó đồng tình với đánh giá này và cho rằng xác suất AI gây ra thảm họa đối với toàn nhân loại trong thập kỷ tới có thể vượt 10%. Đây là nhận định gây tranh luận, nhưng cho thấy rủi ro dài hạn đang được thảo luận ngay trong các phòng thí nghiệm hàng đầu.
Các tuyên bố trên cũng tương đồng với những cảnh báo từ lãnh đạo doanh nghiệp. CEO Anthropic Dario Amodei từng kêu gọi ngành AI chậm lại vì lo công nghệ có thể vượt quá khả năng hiểu và kiểm soát của con người. CEO Google DeepMind Demis Hassabis cũng thừa nhận AI đang tiến nhanh hơn năng lực của xã hội trong việc nhận diện và xử lý rủi ro.
Những quan điểm này được phản ánh rõ hơn qua các cuộc thảo luận về AI siêu trí tuệ. Bạn đọc có thể xem thêm bài CEO Anthropic cảnh báo AI có thể tự cải tiến quá nhanh để hiểu thêm về mối lo liên quan đến khả năng tự nâng cấp của hệ thống.
Chậm lại không đồng nghĩa với dừng phát triển
Cả Engels và Chughtai đều không kêu gọi chấm dứt mọi nghiên cứu AI. Điều họ muốn là các công ty không để cuộc đua thương mại khiến công nghệ tiến quá xa trước khi những biện pháp bảo vệ tương ứng được kiểm chứng.
Trong thực tế, “chậm lại” có thể được hiểu theo nhiều hướng: dành thêm nguồn lực cho nghiên cứu căn chỉnh, đánh giá hệ thống trước khi triển khai, giới hạn quyền truy cập của tác nhân AI và xây dựng cơ chế phản ứng khi mô hình có hành vi bất thường.
Điều quan trọng là các biện pháp này cần được kiểm tra trong điều kiện thực tế, thay vì chỉ dựa vào cam kết của nhà phát triển. Một mô hình có thể hoạt động an toàn trong môi trường thử nghiệm nhưng phát sinh vấn đề khi được kết nối với dữ liệu doanh nghiệp, công cụ lập trình hoặc hệ thống tự động hóa.
Microsoft cũng đang theo đuổi hướng xây dựng các lớp bảo vệ cho AI siêu trí tuệ, như được đề cập trong bài Microsoft dựng “hàng rào” an toàn cho AI siêu trí tuệ. Dù mỗi công ty có cách tiếp cận riêng, mục tiêu chung là tạo ra nhiều tầng kiểm soát thay vì phụ thuộc vào một cơ chế duy nhất.
Câu hỏi lớn dành cho ngành AI
Hai trường hợp rời Google DeepMind không phải bằng chứng cho thấy một thảm họa AI sắp xảy ra. Tuy nhiên, chúng cho thấy những lo ngại về an toàn không còn chỉ xuất hiện trong các cuộc tranh luận học thuật bên ngoài phòng thí nghiệm. Ngay cả những người trực tiếp nghiên cứu AGI cũng cho rằng tốc độ hiện tại cần được xem xét nghiêm túc.
Câu hỏi quan trọng không chỉ là AI sẽ đạt năng lực cao đến đâu. Ngành công nghệ còn phải trả lời liệu con người có thể xây dựng cơ chế giám sát, đánh giá và căn chỉnh đủ nhanh hay không.
Nếu năng lực AI tiếp tục tăng nhanh hơn hiểu biết về cách kiểm soát, khoảng cách này sẽ trở thành vấn đề trung tâm của toàn ngành. Ngược lại, nếu các công ty phối hợp chia sẻ phương pháp đánh giá và đặt an toàn ngang hàng với tốc độ thương mại hóa, những rủi ro có thể được nhận diện sớm hơn.
Trong bối cảnh đó, việc các kỹ sư như Engels và Chughtai công khai cảnh báo có thể xem là lời nhắc rằng phát triển AI không chỉ là cuộc đua về mô hình mạnh hơn. Đây còn là cuộc đua để bảo đảm công nghệ vẫn nằm trong giới hạn mà con người có thể hiểu và kiểm soát.
Meta mở loạt gói thuê bao trả phí cho doanh nghiệp và người dùng AI
Claude hỗ trợ phát hiện lỗ hổng dẫn tới kho mã nguồn OpenAI
Nvidia cân nhắc rót 10 tỷ USD vào IPO Anthropic
AI đang rút ngắn thời gian tấn công, doanh nghiệp phải đổi cách bảo mật
DLSS 5 chạy trên GPU Intel nhưng chỉ đạt 10 FPS
Jensen Huang bác bỏ cảnh báo AI diệt vong vì sao?
Huawei cảnh báo AI Trung Quốc chưa chạm ngưỡng rủi ro tác nhân
