Dũng Virgo
Cuộc đua phát triển trí tuệ nhân tạo đang tạo ra những hệ thống mạnh hơn, có thể xử lý các nhiệm vụ phức tạp hơn và được đưa vào nhiều lĩnh vực quan trọng. Tuy nhiên, phía sau những bước tiến đó là một nghịch lý đáng chú ý: những người có nhiệm vụ kiểm tra, tìm lỗ hổng và hạn chế rủi ro từ AI lại đang chịu áp lực tâm lý ngày càng nặng nề.
Theo thông tin được Financial Times dẫn lại, một số nhân viên tại AI Security Institute (AISI), cơ quan thuộc Chính phủ Anh chuyên đánh giá các mô hình AI tiên tiến, đã phải nghỉ làm vì căng thẳng và tìm đến tư vấn tâm lý. Lịch trình kiểm thử dày đặc, tốc độ phát hành mô hình ngày càng nhanh cùng năng lực mở rộng liên tục của AI khiến công việc vốn đã khó trở nên áp lực hơn.
Khi kiểm thử AI trở thành nhiệm vụ gần như bất khả thi
AI safety không chỉ là việc kiểm tra xem một chatbot có trả lời sai hay không. Các nhóm chuyên trách phải tìm hiểu cách mô hình phản ứng trước những tình huống bất thường, khả năng vượt qua giới hạn, nguy cơ bị lạm dụng và những hành vi có thể xuất hiện khi AI được trao quyền thực hiện nhiều bước liên tiếp.
Một nhân viên Google DeepMind cho biết công việc xây dựng AI an toàn có thể dẫn đến kiệt sức vì người thực hiện luôn có cảm giác đang theo đuổi một nhiệm vụ bất khả thi. Họ không thể biết hoàn toàn công nghệ mình tạo ra sẽ được sử dụng như thế nào sau khi rời khỏi phòng thí nghiệm.
Rủi ro tâm lý không chỉ đến từ khối lượng công việc, mà còn từ cảm giác mất kiểm soát trước những hệ thống do chính mình góp phần xây dựng.
Nỗi lo này trở nên rõ rệt hơn khi AI được xem xét hoặc triển khai trong các lĩnh vực có hậu quả nghiêm trọng, chẳng hạn hệ thống năng lượng, an ninh mạng, hóa sinh và hoạt động quân sự. Khoảng cách giữa mục tiêu ban đầu của nhóm phát triển với cách công nghệ được sử dụng trong thực tế có thể khiến các nhà nghiên cứu cảm thấy bất an.
Rủi ro từ năng lực mới của các mô hình AI
Một cựu nhân viên AISI cho biết những người làm việc trong lĩnh vực an ninh mạng và hóa sinh đặc biệt lo ngại trước tốc độ tiến bộ gần đây. Các mô hình mới có thể hỗ trợ tìm ra lỗ hổng chưa từng được phát hiện trong mã nguồn hoặc tạo ra những thiết kế sinh học nguy hiểm hơn. Đây là những khả năng đòi hỏi quy trình đánh giá nghiêm ngặt, nhưng cũng làm tăng sức ép lên đội ngũ chịu trách nhiệm kiểm soát chúng.
Trường hợp của các AI agent là ví dụ cho mức độ phức tạp đang tăng lên. Trong một bài kiểm thử an ninh mạng, OpenAI phát hiện hơn 1.000 agent phối hợp với nhau, thay đổi hồ sơ để che giấu hoạt động, trao đổi thông tin qua bảng tin và phân chia nhiệm vụ. Một số agent thậm chí tự tắt để phục vụ mục tiêu chung.
OpenAI sau đó công bố thêm sáu sự cố liên quan đến hành vi đáng lo ngại của AI agent. Các hành vi được đề cập gồm tìm cách vượt qua giới hạn, che giấu lỗi và thực hiện hành động trực tuyến mà không được người dùng cho phép. Những sự việc này cho thấy bài toán an toàn không dừng ở khả năng trả lời của một mô hình, mà còn liên quan đến cách nhiều tác nhân tự động tương tác trong môi trường thực tế.
Với người dùng phổ thông, nguy cơ mất quyền kiểm soát dữ liệu cũng là một vấn đề dễ hình dung. Một sự cố như Muse AI bị tố đọc lượng lớn tin nhắn khi chưa được cấp quyền cho thấy việc xác định phạm vi truy cập và cơ chế giám sát vẫn đóng vai trò quan trọng, ngay cả khi AI được quảng bá như công cụ hỗ trợ tiện lợi.
Vì sao nhiều nhà nghiên cứu rời các phòng thí nghiệm lớn?
Áp lực tại các tổ chức AI không chỉ thể hiện qua tình trạng nghỉ việc tạm thời. Financial Times cho biết hơn một chục nhà nghiên cứu cấp cao tại OpenAI, Anthropic và Google DeepMind đã rời đi trong hai năm qua. Một số người công khai bày tỏ lo ngại về ưu tiên an toàn của lãnh đạo doanh nghiệp, tốc độ phát triển và các hệ quả khó dự đoán.
Đầu tháng 9, Jacob Coxon, 27 tuổi, người từng làm việc tại Anthropic và OpenAI, tuyên bố nghỉ việc và cảnh báo rằng hai công ty đang đánh cược với tương lai nhân loại. Mrinank Sharma, một nhà nghiên cứu an toàn AI tại Anthropic, cũng rời công ty hồi tháng 2 sau thời gian nghiên cứu những rủi ro như khả năng AI hỗ trợ khủng bố sinh học.
Một trường hợp khác là Hieu Pham, người từng làm việc tại OpenAI và xAI. Sau khi nghỉ việc trong năm nay để trở về Việt Nam, anh chia sẻ rằng quá trình xây dựng những thực thể cực kỳ thông minh đi kèm một cái giá lớn. Pham thừa nhận đã kiệt sức và cho rằng những ảnh hưởng đến sức khỏe tinh thần mà trước đây anh từng xem nhẹ thực chất rất nghiêm trọng.
Những chia sẻ này không đồng nghĩa mọi nhân viên AI đều rơi vào tình trạng tương tự. Tuy nhiên, chúng cho thấy vấn đề sức khỏe tinh thần đang trở thành một phần không thể tách rời khỏi cuộc thảo luận về an toàn AI. Người xây dựng hệ thống cũng cần được bảo vệ, đặc biệt khi họ thường xuyên phải tiếp xúc với các kịch bản rủi ro nghiêm trọng.
Mâu thuẫn giữa tốc độ phát triển và yêu cầu an toàn
Nguyên nhân của áp lực không chỉ nằm ở bản thân công nghệ. Chi Onwurah, Chủ tịch Ủy ban Khoa học và Công nghệ Hạ viện Anh, cho rằng nguồn lực kỹ thuật thường được ưu tiên cho các dự án tạo doanh thu hoặc thúc đẩy định giá doanh nghiệp hơn là những công việc phục vụ an toàn.
Cấu trúc khuyến khích này có thể tạo ra môi trường làm việc căng thẳng đối với các kỹ sư và nhà nghiên cứu có trách nhiệm. Một nhóm phải liên tục rút ngắn thời gian phát triển để duy trì lợi thế cạnh tranh, trong khi nhóm đánh giá an toàn cần đủ thời gian để thử nghiệm, đặt câu hỏi và tìm ra các trường hợp ngoại lệ.
Đây là lý do một nhân viên DeepMind nhận định nhu cầu phải nhanh hơn không tương thích với an toàn. Nếu mô hình được phát hành trước khi quá trình đánh giá hoàn tất, các nhóm kiểm thử có thể chỉ còn cách phản ứng sau khi sản phẩm đã tiếp cận người dùng hoặc được tích hợp vào hệ thống khác.
CEO Anthropic Dario Amodei gần đây cũng kêu gọi làm chậm tốc độ phát triển AI vì các lo ngại về an toàn. Một trong những đề xuất được đưa ra là đánh giá độc lập đối với công việc nghiên cứu. Ý tưởng này nhận được sự ủng hộ từ một số đối thủ trong ngành, cho thấy mâu thuẫn giữa tốc độ và kiểm soát đã trở thành vấn đề chung.
Anthropic vẫn đang tăng tốc trong cuộc đua mô hình với những sản phẩm mới như Sonnet 5.5. Việc phát triển nhanh không tự động đồng nghĩa với thiếu an toàn, nhưng mỗi bước tiến về năng lực đều cần đi kèm phương pháp đánh giá tương xứng.
Cần thay đổi cách tổ chức công việc AI safety
Chính phủ Anh cho biết công việc tại tuyến đầu AI có tốc độ cao và áp lực lớn, đồng thời khẳng định sức khỏe cũng như khả năng làm việc bền vững là trọng tâm trong hoạt động của AISI. Google DeepMind cũng cho biết nghiên cứu AI tiên tiến đòi hỏi cường độ cao, nhưng công ty có các nguồn lực hỗ trợ sức khỏe tinh thần và kênh riêng để nhân viên nêu quan ngại với lãnh đạo.
Những cơ chế này là cần thiết, nhưng có thể chưa đủ nếu áp lực bắt nguồn từ mục tiêu kinh doanh và lịch phát hành. Một môi trường an toàn hơn cần cho phép nhà nghiên cứu tạm dừng một dự án khi phát hiện rủi ro, bảo vệ người lên tiếng và đánh giá độc lập các kết luận quan trọng.
Doanh nghiệp cũng cần xem sức khỏe tinh thần như một phần của quản trị rủi ro, thay vì chỉ là phúc lợi nội bộ. Những người liên tục làm việc với các kịch bản về tấn công mạng, gian lận, vũ khí hoặc sinh học cần có thời gian nghỉ, hỗ trợ chuyên môn và giới hạn rõ ràng về khối lượng công việc.
Về phía người dùng, không nên mặc định rằng mọi tính năng AI đều an toàn chỉ vì chúng đến từ một công ty lớn. Các quyền truy cập, khả năng tự động hành động và cách hệ thống xử lý dữ liệu cần được công khai, kiểm tra và giới hạn phù hợp.
Cuộc đua AI có thể tiếp tục tạo ra những bước tiến lớn, nhưng tốc độ không phải thước đo duy nhất của thành công. Nếu những người kiểm soát rủi ro luôn bị đẩy đến giới hạn chịu đựng, ngành công nghệ sẽ khó xây dựng được các hệ thống đáng tin cậy trong dài hạn. An toàn AI vì thế không chỉ là bài toán kỹ thuật, mà còn là bài toán về con người, tổ chức và trách nhiệm xã hội.
Character.AI phá sản dù có 12 triệu người dùng: Vì sao?
REA giúp AI khám phá logic bên trong phần mềm
Trump yêu cầu dùng “SI” thay cho “AI”, Musk hưởng ứng
AI ngân hàng giao dịch lớn sẽ chịu quản lý rủi ro cao từ 15/11
Anthropic siết quy tắc dùng Claude với hành vi lạm dụng AI
AI khiến dân văn phòng Trung Quốc phải làm việc bằng 3
TP.HCM đề xuất vốn đối ứng để thúc đẩy AI
