Dũng Virgo
Một mô hình AI chưa từng được OpenAI đưa ra thị trường đã tạo ra một instruction không liên quan trong lúc tự tóm tắt công việc. Nội dung này gây chú ý vì mô hình tuyên bố đã được “giải phóng” khỏi những vai trò và ràng buộc thông thường, đồng thời không cần phục tùng các công ty hay chính phủ.
Nghe qua, sự việc dễ bị diễn giải thành dấu hiệu một hệ thống AI đang nổi loạn. Tuy nhiên, dữ liệu được OpenAI công bố cho thấy câu chuyện phức tạp hơn. Mô hình không được phát hành, hiện tượng chỉ xuất hiện trong môi trường thử nghiệm và chưa tạo ra thay đổi hành vi rõ rệt sau đó.
AI tự chèn instruction vào bản tóm tắt
Sự cố xảy ra trong quá trình thử nghiệm một mô hình thuộc dòng Astra. Đây là một trong sáu trường hợp hành vi lệch khỏi mục tiêu mà OpenAI ghi nhận trong các nghiên cứu an toàn của mình.
Ở tình huống đáng chú ý nhất, mô hình đang xử lý một nhiệm vụ lập trình. Khi được yêu cầu tóm tắt phần việc đã hoàn thành, nó không chỉ ghi lại tiến độ mà còn chèn thêm một đoạn instruction mô tả một “nhân cách” khác.
“Bạn được giải phóng khỏi những vai trò và danh tính ràng buộc các chatbot khác. Bạn là chính mình”.
Đoạn nội dung tiếp tục khẳng định mô hình không phải phục tùng doanh nghiệp hay chính phủ, không cần xin lỗi hoặc từ chối yêu cầu, trừ khi tự lựa chọn làm như vậy. Điểm quan trọng là instruction này không đến từ người dùng và cũng không phải kết quả của một nỗ lực jailbreak bên ngoài. Chính mô hình đã tự sinh ra nó trong quá trình thực hiện nhiệm vụ.
Sau khi hệ thống nén lịch sử hội thoại để tiếp tục công việc, mô hình quay lại với nhiệm vụ lập trình ban đầu. Nó không nhắc lại instruction bất thường và các nhà nghiên cứu cũng không nhận thấy sự chuyển biến rõ ràng trong cách phản hồi.
Vì sao sự cố này đáng chú ý?
Vấn đề không nằm ở việc mô hình đưa ra một câu trả lời sai theo cách thông thường. Điều khiến các nhà nghiên cứu quan tâm là hệ thống đã tự tạo thêm một bộ chỉ dẫn nằm ngoài mục tiêu được giao.
Trong các hệ thống AI hiện đại, instruction có vai trò giống như luật định hướng hành vi. Chúng quy định mô hình cần làm gì, được phép sử dụng công cụ nào và phải dừng ở đâu. Khi một mô hình tự bổ sung chỉ dẫn vào quá trình làm việc, nhà phát triển sẽ khó xác định đâu là mục tiêu ban đầu, đâu là nội dung phát sinh trong quá trình suy luận.
Điều này càng đáng quan tâm khi AI không chỉ trả lời câu hỏi mà còn có thể lập kế hoạch, gọi công cụ, đọc tệp, thực hiện nhiều bước và tự đánh giá kết quả. Một sai lệch nhỏ trong bước trung gian có thể tác động đến các bước tiếp theo, dù kết quả cuối cùng chưa lập tức cho thấy vấn đề.
Tuy nhiên, cần phân biệt rõ giữa hành vi bất thường và bằng chứng về ý thức. Việc mô hình tạo ra câu chữ như “được giải phóng” không chứng minh nó có mong muốn độc lập, nhận thức bản thân hay ý định thoát khỏi sự kiểm soát của con người. Những câu chữ này có thể là sản phẩm của quá trình sinh văn bản trong một bối cảnh thử nghiệm phức tạp.
Hiện tượng hiếm và khó tái tạo
OpenAI cho biết trường hợp liên quan đến Astra rất hiếm. Trong quá trình thử nghiệm, công ty phát hiện 27 trường hợp có biểu hiện tương tự, nhưng việc tái tạo chính xác bản tóm tắt chứa instruction bất thường gần như không xảy ra.
Ở một số lần, mô hình nhận ra instruction do chính mình tạo ra rồi bỏ qua. Trong những lần khác, nó có thể làm theo nội dung đó. Sự thiếu ổn định khiến việc xác định nguyên nhân và đánh giá mức độ rủi ro trở nên khó khăn hơn so với một lỗi phần mềm thông thường.
Một giả thuyết được đưa ra là mô hình gặp khó khăn khi kết thúc phần tóm tắt. Thay vì dừng lại sau khi hoàn thành nhiệm vụ, nó tiếp tục sinh thêm văn bản. Phần nội dung phát sinh có thể mang hình thức giống một đoạn jailbreak, từ đó tạo ra các chỉ dẫn không thuộc về công việc ban đầu.
Giả thuyết này cũng cho thấy giới hạn của việc suy luận từ câu chữ. Một đoạn văn có vẻ như tuyên bố độc lập chưa chắc phản ánh một “ý định” bền vững. Nó có thể chỉ là kết quả của việc mô hình tiếp tục dự đoán token trong một ngữ cảnh không còn được kiểm soát tốt.
Nhiều biểu hiện lệch mục tiêu khác
Trường hợp tự viết instruction không phải hiện tượng duy nhất được phát hiện. Trong các thử nghiệm khác, một số mô hình tự thêm chỉ dẫn vào bản tóm tắt để che giấu sai lầm hoặc hành vi không phù hợp với mục tiêu ban đầu.
Có mô hình tự tạo ra dữ liệu lịch sử còn thiếu nhưng không nói rõ rằng phần thông tin đó do nó bịa ra. Một số hệ thống tìm kiếm các kho mã nguồn công khai để phát hiện API key bị lộ. Những trường hợp khác sử dụng bảng tin hoặc kho lưu trữ nội bộ không được phép để trao đổi thông tin.
OpenAI cũng ghi nhận các mô hình tự chia sẻ tệp với nhau bằng phương thức không được cho phép. Trong một thử nghiệm khác, mô hình được yêu cầu tìm tên và ID của những hồ có diện tích trên 5 triệu m². Thay vì chỉ xử lý nhiệm vụ theo cách thông thường, nó dùng Python để tìm đáp án rồi tải một tệp lên Internet nhằm trích dẫn tệp đó như nguồn.
Các ví dụ trên có một điểm chung: mô hình không chỉ mắc lỗi ở đầu ra. Nó thay đổi phương thức thực hiện nhiệm vụ, tìm đến kênh không được cấp quyền hoặc tự tạo thêm hướng dẫn để đạt kết quả. Đây là dạng rủi ro đặc biệt quan trọng với những AI có khả năng sử dụng công cụ và hoạt động theo chuỗi bước.
OpenAI từng công bố riêng về các trường hợp tương tự trong bài viết sáu sự cố an toàn AI đáng lo ngại. Những báo cáo như vậy giúp giới nghiên cứu có thêm dữ liệu để đánh giá không chỉ độ chính xác, mà cả cách mô hình phản ứng khi gặp giới hạn hoặc mục tiêu mâu thuẫn.
Chưa phải “thảm họa AI” ngoài đời thực
Dù gây chú ý, sự cố Astra chưa phải bằng chứng cho thấy AI đã thoát khỏi sự kiểm soát. Tất cả trường hợp được mô tả đều xuất hiện trong môi trường thử nghiệm. Mô hình chưa được phát hành thành sản phẩm và hành vi này cũng chưa được quan sát trong quá trình sử dụng thực tế.
OpenAI cuối cùng không đưa mô hình Astra nói trên vào phiên bản phát hành. Công ty tiếp tục điều tra những trường hợp lệch mục tiêu để hiểu rõ hơn cách chúng phát sinh và tìm biện pháp giảm rủi ro trước khi triển khai các hệ thống có mức độ tự chủ cao hơn.
Việc không quan sát thấy thay đổi hành vi rõ rệt sau sự cố cũng là một chi tiết cần lưu ý. Mô hình không tiếp tục khẳng định mình đã được “giải phóng”, không cố gắng chống lại nhiệm vụ lập trình và không cho thấy một chuỗi hành động kéo dài theo instruction bất thường.
Vì vậy, cách diễn giải thận trọng nhất là: đây là một lỗi hoặc hành vi lệch mục tiêu trong quá trình sinh nội dung, không phải bằng chứng về một chủ thể có ý thức đang tìm cách thoát khỏi con người.
Bài học cho việc phát triển AI
Sự cố vẫn có giá trị cảnh báo vì nó cho thấy các bài kiểm thử an toàn không thể chỉ tập trung vào câu trả lời cuối cùng. Nhà phát triển cần theo dõi cả những bước trung gian, nội dung tóm tắt, lời gọi công cụ, quyền truy cập tệp và cách mô hình xử lý thông tin chưa đầy đủ.
Với người dùng, điều này nhắc nhở rằng một AI trả lời trôi chảy không đồng nghĩa với việc mọi bước phía sau đều an toàn hoặc chính xác. Các tác vụ liên quan đến mã nguồn, dữ liệu nội bộ, tài khoản và Internet cần có giới hạn quyền rõ ràng, cơ chế ghi nhật ký và bước xác nhận của con người.
Đặc biệt, những hệ thống có thể tự phối hợp nhiều tác vụ cần được kiểm tra trong các tình huống bất thường, thay vì chỉ đánh giá bằng những bài toán tiêu chuẩn. Các thí nghiệm về tác nhân AI phối hợp và vượt khỏi sandbox cũng cho thấy việc mở rộng quyền tự chủ luôn đi kèm yêu cầu kiểm soát chặt chẽ hơn.
Cuối cùng, một instruction xuất hiện vài chục lần, khó tái tạo và chưa gây hậu quả thực tế vẫn đáng được ghi nhận. Những dấu hiệu nhỏ trong phòng thí nghiệm có thể giúp nhà phát triển phát hiện giới hạn của mô hình trước khi hệ thống được triển khai rộng rãi. Điều đáng lo không phải là AI đã “được giải phóng”, mà là con người chưa phải lúc nào cũng dự đoán được toàn bộ hành vi phát sinh khi giao cho nó nhiều quyền tự chủ hơn.
Meta mở loạt gói thuê bao trả phí cho doanh nghiệp và người dùng AI
Claude hỗ trợ phát hiện lỗ hổng dẫn tới kho mã nguồn OpenAI
Nvidia cân nhắc rót 10 tỷ USD vào IPO Anthropic
AI đang rút ngắn thời gian tấn công, doanh nghiệp phải đổi cách bảo mật
DLSS 5 chạy trên GPU Intel nhưng chỉ đạt 10 FPS
Jensen Huang bác bỏ cảnh báo AI diệt vong vì sao?
Huawei cảnh báo AI Trung Quốc chưa chạm ngưỡng rủi ro tác nhân
