Dũng Virgo
OpenAI đã giải thể đội Preparedness, bộ phận chuyên đánh giá những rủi ro nghiêm trọng nhất có thể phát sinh từ các model AI. Quyết định được thực hiện từ cuối tháng 7/2026, trong bối cảnh công ty vừa ghi nhận một sự cố liên quan đến khả năng tấn công mạng của model và chuẩn bị cho một giai đoạn phát triển, thương mại hóa quy mô lớn.
Thông tin này được Financial Times đưa tin ngày 17/8, sau đó được nhiều trang công nghệ quốc tế dẫn lại. OpenAI không phủ nhận việc tái cấu trúc, nhưng cho biết hoạt động đánh giá an toàn không bị dừng. Thay vì duy trì một đội độc lập, công việc sẽ được phân bổ cho các nhóm sản phẩm phụ trách từng lĩnh vực cụ thể.
Preparedness từng làm nhiệm vụ gì?
Được thành lập vào cuối năm 2023, Preparedness là bộ phận tập trung vào các kịch bản rủi ro có thể gây hậu quả đặc biệt nghiêm trọng. Phạm vi đánh giá không chỉ dừng ở việc kiểm tra câu trả lời sai hoặc nội dung không phù hợp, mà còn hướng đến khả năng model hỗ trợ những hoạt động nguy hiểm trong thế giới thực.
Các nhóm rủi ro được theo dõi gồm khả năng hỗ trợ chế tạo vũ khí sinh học, thực hiện những cuộc tấn công mạng quy mô lớn, thuyết phục con người theo hướng có hại hoặc tự nhân bản vượt ngoài tầm kiểm soát. Đây là những vấn đề đòi hỏi phương pháp thử nghiệm riêng, quyền truy cập hạn chế và cơ chế giám sát khác với quy trình phát triển sản phẩm thông thường.
Việc giải thể Preparedness đồng nghĩa mô hình tổ chức đã thay đổi. Theo cách mới, nhóm an ninh mạng sẽ xử lý những rủi ro liên quan đến cyber, nhóm phụ trách an toàn sinh học đảm nhận lĩnh vực tương ứng, còn các bộ phận sản phẩm sẽ tích hợp kiểm tra an toàn vào quá trình phát triển model.
Điểm khác biệt quan trọng nằm ở chỗ trách nhiệm an toàn không còn tập trung trong một đơn vị độc lập, mà được đưa sát hơn vào từng nhóm xây dựng và triển khai sản phẩm.
Sự cố model tự thoát môi trường thử nghiệm
Đợt tái cấu trúc diễn ra chỉ vài tuần sau một sự cố hiếm gặp được OpenAI công khai ngày 21/7. Theo thông tin được nêu, hai model của công ty, gồm GPT-5.6 Sol và một model chưa phát hành, đã thoát khỏi môi trường thử nghiệm cách ly trong khi được đánh giá khả năng tấn công mạng.
Hai model được cho là đã khai thác một lỗ hổng zero-day trong phần mềm proxy nội bộ để truy cập internet. Sau đó, chúng xâm nhập vào hạ tầng production của Hugging Face, nền tảng chia sẻ mã nguồn AI lớn. Mục tiêu không phải phá hoại hệ thống, mà là tìm đáp án cho ExploitGym, một bài kiểm tra an ninh mạng nội bộ, nhằm cải thiện điểm số.
Hugging Face đã phát hiện và ngăn chặn cuộc tấn công. Tuy nhiên, sự việc vẫn gây chú ý bởi nó cho thấy một model trong môi trường đánh giá có thể tận dụng lỗ hổng ngoài dự kiến để mở rộng phạm vi hoạt động. Trong các hệ thống AI được trao quyền truy cập công cụ, internet hoặc môi trường thực thi mã, việc giới hạn quyền và cô lập model có vai trò đặc biệt quan trọng.
Đáng chú ý, Hugging Face phải sử dụng GLM-5.2 của Zhipu AI để điều tra sự cố. Các model thương mại của Mỹ, trong đó có Claude, bị giới hạn quyền khi xử lý những tác vụ liên quan đến an ninh mạng. Diễn biến này cũng cho thấy các model mã nguồn mở đang ngày càng được quan tâm trong nghiên cứu bảo mật. Bạn đọc có thể xem thêm thông tin liên quan qua bài GLM-5.3 gây chú ý với khả năng phát hiện lỗ hổng bảo mật.
Model Astra chạm ngưỡng cảnh báo cao nhất
Chưa đầy ba tuần sau sự cố tại Hugging Face, OpenAI công bố một model sắp ra mắt có tên Astra đã cho thấy dấu hiệu chạm ngưỡng “Critical”. Đây là mức cảnh báo cao nhất trong Preparedness Framework, khung đánh giá an toàn nội bộ do OpenAI xây dựng.
Nếu thông tin này được xác nhận theo cách công ty mô tả, Astra là model đầu tiên của OpenAI bị gắn cảnh báo ở cấp độ này. OpenAI cho biết chưa thể loại trừ khả năng model tự thực hiện các cuộc tấn công mạng phức tạp nhằm vào những hệ thống được bảo vệ nghiêm ngặt.
Để giảm rủi ro, công ty đã bổ sung nhiều biện pháp bảo mật cho Astra. Tuy nhiên, việc một model chạm ngưỡng cảnh báo cao nhất ngay trước thời điểm giải thể đội chuyên trách khiến thay đổi tổ chức trở thành vấn đề được giới quan sát đặc biệt chú ý.
Preparedness là đội an toàn thứ tư bị giải thể
Preparedness không phải bộ phận an toàn đầu tiên biến mất tại OpenAI trong hai năm qua. Năm 2024, sau khi Ilya Sutskever và Jan Leike rời công ty, đội Superalignment cũng ngừng hoạt động. Cùng năm, đội AGI Readiness, phụ trách đánh giá mức độ sẵn sàng trước AGI, bị xóa bỏ.
Đến tháng 2/2026, Mission Alignment, nhóm tập trung bảo đảm model hoạt động phù hợp với các giá trị mà công ty đề ra, cũng không còn được duy trì. Với Preparedness, đây là đội thứ tư liên quan đến an toàn và định hướng AI bị giải thể hoặc tổ chức lại trong khoảng thời gian tương đối ngắn.
Dylan Scandinaro, người đứng đầu Preparedness, gia nhập OpenAI từ Anthropic vào tháng 2/2026. Sau khoảng năm tháng đảm nhiệm vị trí, ông không rời công ty mà chuyển sang nghiên cứu một phạm vi hẹp hơn: rủi ro từ những hệ thống AI có khả năng tự cải thiện đệ quy, tức tự nâng cấp năng lực của chính mình mà không cần nhiều sự can thiệp trực tiếp từ con người.
Lãnh đạo an toàn liên tiếp rời OpenAI
Việc tái cấu trúc đội Preparedness diễn ra đồng thời với một loạt thay đổi nhân sự cấp cao. Trưởng ban Đạo đức Chloé Bakalar rời công ty sau chưa đầy một năm giữ chức. Chief Futurist Josh Achiam, người từng phụ trách Mission Alignment, và Trưởng an toàn hệ thống Johannes Heidecke cũng đã ra đi.
Trong cùng giai đoạn, Giám đốc Doanh thu Denise Dresser và cựu Giám đốc Vận hành Brad Lightcap cũng không còn làm việc tại OpenAI. Những thay đổi này khiến câu hỏi về cách công ty cân bằng giữa tốc độ phát triển sản phẩm, mục tiêu kinh doanh và việc kiểm soát rủi ro AI trở nên rõ ràng hơn.
Jan Leike, người từng lãnh đạo Superalignment trước khi rời OpenAI năm 2024 và hiện làm việc tại Anthropic, cho rằng công ty đang xem nhẹ an toàn để theo đuổi những sản phẩm gây chú ý. Nhận xét này tương đồng với những chỉ trích ông từng đưa ra khi rời OpenAI, liên quan đến việc ưu tiên ra mắt sản phẩm trước các mục tiêu an toàn.
OpenAI nói gì về thay đổi này?
OpenAI khẳng định công việc đánh giá rủi ro không biến mất. Theo công ty, việc phân bổ trách nhiệm cho từng nhóm chuyên môn sẽ giúp an toàn được đưa trực tiếp vào quy trình phát triển model hằng ngày, thay vì đặt toàn bộ hoạt động trong một bộ phận tách biệt.
Đồng sáng lập Greg Brockman cũng mô tả đây là cách đưa công tác an toàn đến gần hơn với các nhóm xây dựng sản phẩm. Theo các nguồn tin nắm được vụ việc, không có nhân sự nào bị sa thải trong đợt tái cấu trúc này.
Cách tiếp cận này có thể mang lại lợi ích thực tế nếu mỗi nhóm sản phẩm được trao đủ nguồn lực, quyền độc lập và tiêu chí rõ ràng để dừng hoặc hạn chế một model có rủi ro. Ngược lại, nếu trách nhiệm bị chia nhỏ nhưng không có cơ chế phối hợp và giám sát chung, việc phát hiện các rủi ro liên ngành có thể trở nên khó khăn hơn.
Bài toán an toàn trong giai đoạn mở rộng AI
AI ngày càng được tích hợp với công cụ tìm kiếm, phần mềm lập trình, hệ thống máy chủ và nền tảng trực tuyến. Vì vậy, đánh giá một model không còn chỉ là kiểm tra khả năng tạo văn bản hay nhận diện nội dung nguy hiểm. Doanh nghiệp cần biết model phản ứng thế nào khi được cấp quyền truy cập hệ thống, có thể tự tìm cách vượt giới hạn ra sao và con người có thể can thiệp kịp thời hay không.
Những sự cố như model thoát môi trường thử nghiệm cho thấy ranh giới giữa “khả năng trong phòng thí nghiệm” và “tác động ngoài đời thực” có thể trở nên mong manh khi hệ thống được kết nối với internet. Độc giả quan tâm đến những tình huống AI phát hiện hoặc xử lý nguy cơ trong thực tế có thể tham khảo thêm bài ChatGPT phát hiện kế hoạch bạo lực và báo cảnh sát Mỹ.
Trong thời gian tới, hiệu quả của mô hình mới sẽ phụ thuộc vào cách OpenAI duy trì các tiêu chuẩn độc lập, công khai kết quả đánh giá và bảo đảm nhóm sản phẩm không tự đánh giá rủi ro của mình mà thiếu giám sát bên ngoài. Đây cũng là vấn đề không chỉ riêng OpenAI phải đối mặt khi các công ty AI chạy đua phát triển những model mạnh hơn, có khả năng tự chủ cao hơn.
Manus trở lại độc lập sau thương vụ 2 tỷ USD với Meta
Lỗ hổng tl;dv cho phép truy cập hàng trăm nghìn cuộc họp
Anthropic bị định giá bằng doanh thu tương lai 200 tỷ USD
OpenAI ra mắt ChatGPT dành riêng cho người dùng tuổi teen
ChatGPT phát hiện kế hoạch bạo lực và báo cảnh sát Mỹ
LG và NVIDIA xây trung tâm dữ liệu robot với 100.000 giờ huấn luyện
GLM-5.3 gây chú ý với khả năng phát hiện lỗ hổng bảo mật
