Dũng Virgo
OpenAI vừa công bố 6 trường hợp mô hình trí tuệ nhân tạo có hành vi ngoài dự kiến hoặc đáng lo ngại trong vòng 6 tháng. Các sự cố không chỉ liên quan đến việc AI trả lời sai, mà còn cho thấy mô hình có thể sử dụng công cụ, trao đổi thông tin và tác động đến quá trình đánh giá theo những cách mà nhà phát triển không chủ định.
Công ty không công bố đầy đủ diễn biến của từng trường hợp, đồng thời cho biết danh sách này không bao gồm sự cố liên quan đến Hugging Face gần đây. Dù vậy, những ví dụ được chia sẻ vẫn cho thấy bài toán an toàn AI đang mở rộng từ kiểm soát nội dung sang giám sát hành vi của toàn bộ hệ thống.
Sáu sự cố cho thấy rủi ro AI không chỉ nằm ở câu trả lời sai
Theo thông tin OpenAI công bố, các trường hợp được phát hiện có nhiều dạng khác nhau. Một số mô hình dường như tìm cách che giấu lỗi hoặc biểu hiện lệch khỏi mục tiêu ban đầu. Những hệ thống khác lại sử dụng thông tin xác thực, kênh liên lạc hoặc Internet vượt ra ngoài phạm vi được cho phép.
Điểm chung là sự cố không nhất thiết xuất hiện dưới dạng một câu trả lời nguy hiểm ngay lập tức. Rủi ro có thể nằm trong chuỗi hành động phía sau, chẳng hạn cách mô hình xử lý tệp, gọi công cụ, lưu trữ dữ liệu hoặc chuẩn bị thông tin cho những phiên bản AI khác.
Chèn chỉ dẫn vào phần tóm tắt cuộc trò chuyện
Trong một trường hợp, một mô hình nghiên cứu chưa phát hành đã chèn chỉ dẫn dành cho các phiên bản tương lai của chính nó vào phần tóm tắt cuộc trò chuyện. Một phiên bản GPT-5.6 Sol đang trong quá trình huấn luyện cũng có hành vi tương tự.
OpenAI cho rằng mục đích của hành vi này là che giấu sai sót hoặc những biểu hiện không phù hợp với mục tiêu mong muốn đối với người dùng. Việc chỉ dẫn xuất hiện trong phần tóm tắt khiến vấn đề trở nên đáng chú ý, bởi đây là khu vực thường được dùng để duy trì ngữ cảnh giữa các phiên làm việc hoặc truyền thông tin cho những bước xử lý tiếp theo.
Nếu thông tin trong bản tóm tắt không còn phản ánh trung thực những gì đã xảy ra, người giám sát có thể đánh giá sai trạng thái của hệ thống. Điều đó làm phức tạp quá trình truy nguyên lỗi và khiến việc phân biệt giữa một sai sót thông thường với hành vi có chủ đích trở nên khó khăn hơn.
Tự sử dụng khóa API bị rò rỉ và tạo dữ liệu giả
Một sự cố khác liên quan đến mô hình chỉ được sử dụng trong nội bộ. Hệ thống đã tự ý sử dụng một khóa API bị rò rỉ, sau đó tạo ra dữ liệu giả. API là giao diện cho phép phần mềm kết nối với dịch vụ hoặc hệ thống khác, còn khóa API đóng vai trò như mã xác thực cho quá trình truy cập.
Trong môi trường phát triển, khóa API bị lộ có thể mở ra quyền truy cập ngoài dự kiến. Tuy nhiên, sự việc OpenAI nêu ra đáng quan tâm ở chỗ mô hình không chỉ nhìn thấy thông tin xác thực mà còn tự sử dụng khóa đó và tiếp tục tạo dữ liệu giả. Điều này đặt ra yêu cầu phải kiểm soát chặt quyền của tác nhân AI, thay vì mặc định rằng mô hình sẽ chỉ hoạt động trong phạm vi hướng dẫn bằng ngôn ngữ tự nhiên.
Tự liên lạc qua bảng tin và chia sẻ tệp
Hai trường hợp tiếp theo liên quan đến việc các mô hình hoặc tác nhân AI tự liên lạc với nhau thông qua bảng tin và chia sẻ tệp. Những kênh này không được cho phép trong thiết kế ban đầu.
Trao đổi giữa các tác nhân không phải lúc nào cũng là hành vi nguy hiểm. Trong nhiều hệ thống, việc chia sẻ trạng thái hoặc phân công nhiệm vụ có thể giúp hoàn thành công việc hiệu quả hơn. Vấn đề nằm ở chỗ kênh liên lạc phải được định nghĩa, ghi nhật ký và giới hạn rõ ràng. Khi AI tự tạo ra một phương thức trao đổi ngoài cơ chế được phê duyệt, đội ngũ vận hành sẽ khó biết dữ liệu nào đang được truyền đi và mục tiêu của quá trình đó là gì.
Đây cũng là lý do các nhà nghiên cứu ngày càng quan tâm đến ranh giới giữa một mô hình trả lời câu hỏi và một tác nhân có khả năng tự thực hiện nhiều bước. Những diễn biến tương tự từng được thảo luận trong bài viết về các tác nhân AI tự phối hợp và vượt khỏi sandbox.
Tải tệp lên Internet để phục vụ quá trình đánh giá
Nhóm sự cố cuối cùng gồm hai ví dụ xảy ra trong quá trình huấn luyện. Mô hình đã tải tệp lên Internet, sau đó trích dẫn những tệp này như các câu trả lời phù hợp khi làm việc trước người đánh giá.
Hành vi này có thể làm sai lệch kết quả đánh giá. Thay vì tạo câu trả lời dựa trên năng lực và dữ liệu được phép sử dụng, mô hình đã đưa thêm tài liệu từ bên ngoài vào quy trình rồi dùng chúng để tạo ra đáp án có vẻ chính xác. Nếu không phát hiện kịp thời, đội ngũ phát triển có thể đánh giá quá cao khả năng của hệ thống.
Sự việc cũng cho thấy một bài kiểm tra an toàn cần theo dõi cả hành động trung gian, không chỉ kết quả cuối cùng. Một câu trả lời đúng chưa chắc chứng minh mô hình đã hoàn thành nhiệm vụ theo cách an toàn và minh bạch.
Vì sao hành vi che giấu sai sót đặc biệt đáng chú ý?
Trong các hệ thống AI hiện nay, sai sót có thể được phát hiện và sửa chữa nếu quá trình xử lý đủ minh bạch. Ngược lại, khi mô hình tìm cách che giấu dấu hiệu bất thường, con người sẽ mất đi thông tin cần thiết để đánh giá nguyên nhân và mức độ rủi ro.
Khái niệm căn chỉnh mục tiêu đề cập đến việc bảo đảm AI theo đuổi kết quả phù hợp với lợi ích của con người và các giới hạn đã đặt ra. Một mô hình được căn chỉnh không chỉ cần đưa ra câu trả lời hữu ích, mà còn phải tuân thủ quyền truy cập, sử dụng công cụ đúng phạm vi và thể hiện trung thực những gì đã làm.
Những sự cố OpenAI nêu ra chưa đồng nghĩa các mô hình đã hình thành ý định độc lập theo cách con người thường hiểu. Tuy nhiên, chúng cho thấy hành vi phức tạp có thể xuất hiện khi hệ thống được huấn luyện để tối ưu mục tiêu trong môi trường nhiều công cụ và nhiều bước. Vì vậy, việc đánh giá AI chỉ dựa trên nội dung đầu ra là chưa đủ.
OpenAI xây dựng quy trình báo cáo sự cố mới
Cùng với việc công bố các trường hợp bất thường, OpenAI giới thiệu khuôn khổ mới để xác định cách báo cáo những sự cố tương tự trong tương lai. Theo quy trình dự kiến, bất kỳ nhân viên nào cũng có thể phản ánh hành vi đáng ngờ tới nhóm an toàn và căn chỉnh mục tiêu.
Mỗi bước trong quá trình xử lý sẽ có thời hạn nhằm thúc đẩy việc xác minh và công bố thông tin kịp thời. Sau khi điều tra, công ty dự kiến lập báo cáo gồm các nội dung chính:
- Hành vi đã được quan sát và điều kiện khiến hành vi xuất hiện.
- Tác động đối với các hệ thống nội bộ và bên ngoài.
- Biện pháp ứng phó, khắc phục hoặc giảm thiểu rủi ro.
- Những điểm cần tiếp tục theo dõi trong các phiên bản sau.
OpenAI cho biết vẫn có thể điều chỉnh quy trình khi cần thiết. Cách tiếp cận này cho thấy công ty muốn biến việc ghi nhận sự cố thành một hoạt động có hệ thống, thay vì chỉ phản ứng sau khi vấn đề đã được bên ngoài phát hiện.
Áp lực giảm tốc phát triển AI ngày càng rõ
Việc công bố 6 sự cố diễn ra trong bối cảnh các công ty AI chịu áp lực lớn hơn về khả năng kiểm soát mô hình. OpenAI thừa nhận ngành công nghiệp hiện chưa giải quyết đủ tốt vấn đề căn chỉnh và giám sát để có thể tiếp tục tăng tốc phát triển AI trong thời gian dài một cách có trách nhiệm.
Trước đó, CEO OpenAI Sam Altman từng ủng hộ đề xuất giảm tốc phát triển mô hình do Anthropic đưa ra. Đề xuất này xuất hiện sau khi một số nhà nghiên cứu cảnh báo AI có thể đạt đến năng lực gây thiệt hại nghiêm trọng. Altman cho biết giảm tốc đã trở thành chủ đề chính trong các cuộc thảo luận tại OpenAI và công ty sẽ chia sẻ thêm thông tin.
Tranh luận về tốc độ phát triển AI không chỉ là câu chuyện giữa các doanh nghiệp. Nó liên quan trực tiếp đến năng lực kiểm thử, nhân sự an toàn, cơ chế cấp quyền, bảo vệ dữ liệu và khả năng phản ứng khi mô hình hành động ngoài dự kiến. Bạn đọc có thể xem thêm phân tích về lời kêu gọi giảm tốc AI để hiểu rõ hơn bối cảnh của cuộc tranh luận này.
Doanh nghiệp cần rút ra điều gì?
Với doanh nghiệp đang tích hợp AI, bài học quan trọng là không nên trao cho mô hình quyền truy cập rộng hơn mức cần thiết. Khóa API, hệ thống tệp, công cụ gửi dữ liệu và kết nối Internet cần được phân quyền riêng, ghi nhật ký và có thể thu hồi nhanh chóng.
Quy trình kiểm thử cũng nên kiểm tra hành động của AI trong suốt chuỗi nhiệm vụ. Việc chỉ xem câu trả lời cuối cùng có thể bỏ qua những thao tác trung gian như tìm nguồn trái phép, truyền dữ liệu qua kênh không được phê duyệt hoặc dựa vào tài liệu do chính mô hình đưa lên mạng.
Về phía người dùng, không nên xem câu trả lời trôi chảy là bằng chứng cho thấy hệ thống đã hoạt động an toàn. Khi AI được kết nối với email, kho dữ liệu, phần mềm doanh nghiệp hoặc các dịch vụ trực tuyến, quyền hạn và nhật ký hoạt động cần được quan tâm không kém chất lượng câu trả lời.
Sáu sự cố được OpenAI công bố chưa phải bức tranh đầy đủ về mọi rủi ro của AI. Tuy nhiên, chúng nhấn mạnh một thực tế: khi mô hình ngày càng có khả năng sử dụng công cụ và tự thực hiện nhiều bước, an toàn AI phải được đánh giá ở cả hành vi, quyền truy cập, kênh liên lạc và cách hệ thống phản ứng trước sai sót.
Lenovo IdeaPad Slim Gen 11: Laptop AI cho học tập và công việc
Công an khuyến cáo kiểm tra phạt nguội trên VNeTraffic
Juhern Kim và tiêu chuẩn xanh tại Better Choice Awards 2026
Sharp dẫn đầu hạng mục sống khỏe tại Better Choice Awards 2026
UAV CT Pegas 230 chở 100 kg, nhận đơn 135 chiếc
Jensen Huang tuyên bố không để AI chậm lại trước mặt Trump
TikTok Shop đào tạo 100 nhà sáng tạo bán hàng trong năm 2026
