Dũng Virgo
Một vụ án tại Florida đang thu hút sự chú ý vì vai trò của hệ thống giám sát an toàn trong chatbot AI. Darren Zhou, 25 tuổi, đã sử dụng ChatGPT trong khoảng hai tháng để chia sẻ những suy nghĩ ngày càng nguy hiểm liên quan đến bạn gái cũ. Sau khi phát hiện các dấu hiệu đe dọa nghiêm trọng, OpenAI chuyển thông tin cho Cục Điều tra Liên bang Mỹ (FBI), từ đó vụ việc được chuyển tới cảnh sát hạt Palm Beach.
Ngày 13/8, tòa án hạt Palm Beach tuyên Zhou 8 năm quản chế. Thỏa thuận nhận tội giúp anh ta không phải chấp hành án tù và không bị ghi nhận án hình sự, nhưng đi kèm nhiều điều kiện giám sát nghiêm ngặt.
Từ chia tay đến những cuộc trò chuyện đáng lo ngại
Theo hồ sơ vụ án, Zhou từng làm nhà phân tích tài chính tại chi nhánh Goldman Sachs ở West Palm Beach. Mối quan hệ kéo dài khoảng sáu tháng với bạn gái 21 tuổi kết thúc vào tháng 3. Sau đó, anh ta bắt đầu kể với ChatGPT về lịch sinh hoạt, những địa điểm người yêu cũ thường lui tới và sự ghen tuông với các mối quan hệ xung quanh cô.
Nội dung trao đổi không dừng ở việc than phiền sau chia tay. Qua thời gian, các tin nhắn chuyển sang những lời đe dọa cưỡng hiếp và sát hại bạn gái cũ, thậm chí mở rộng tới cả gia đình cô. Một kịch bản được nêu trong hồ sơ mô tả việc chờ nạn nhân tại bãi đỗ xe phòng gym với hoa, sau đó sử dụng súng nếu bị từ chối rồi tự sát.
Cảnh sát viên rà soát hơn hai tháng tin nhắn nhận định đây không chỉ là những lời bộc phát do khủng hoảng cảm xúc. Các cuộc trò chuyện thể hiện một khuôn mẫu lặp lại, trong đó người dùng liên tục hình dung và diễn tập những bước có thể dẫn tới hành vi bạo lực.
Hành vi quấy rối tiếp diễn bên ngoài chatbot
Vụ việc còn nghiêm trọng hơn bởi Zhou không chỉ viết về các ý định nguy hiểm trong ChatGPT. Anh ta tiếp tục gọi điện và gửi tin nhắn cho bạn gái cũ bằng nhiều số điện thoại ảo do ứng dụng tạo ra, kể cả sau khi bị chặn.
Nạn nhân từng nhận tin nhắn có nội dung tình dục mang tính quấy rối ngay trong ngày sinh nhật lần thứ 21. Theo lời khai với điều tra viên, cô không trình báo ngay vì vẫn còn tình cảm với Zhou và lo rằng việc tố giác có thể khiến hành vi của anh ta leo thang.
Chi tiết này cho thấy rủi ro trong các vụ quấy rối sau chia tay thường không nằm ở một tin nhắn riêng lẻ. Khi việc liên lạc trái ý muốn lặp lại, kết hợp với theo dõi lịch trình, ghen tuông và lời đe dọa cụ thể, mức độ nguy hiểm có thể tăng nhanh. Nạn nhân trong tình huống tương tự nên lưu lại bằng chứng, thông báo cho người đáng tin cậy và liên hệ cơ quan chức năng khi cảm thấy bị đe dọa.
Vì sao OpenAI chuyển thông tin cho FBI?
OpenAI cho biết các cuộc trò chuyện nguy hiểm được phát hiện thông qua hệ thống giám sát nội bộ. Khi có dấu hiệu người dùng đang lên kế hoạch gây thương tích nghiêm trọng hoặc tử vong cho người khác, một nhóm nhân viên được đào tạo riêng sẽ xem xét nội dung để đánh giá mức độ đe dọa.
Trong trường hợp này, nhóm đánh giá xác định cuộc trò chuyện có dấu hiệu của một mối nguy sắp xảy ra. Theo chính sách được nêu trong hồ sơ, công ty có thể chuyển vụ việc cho cơ quan thực thi pháp luật nếu nhận thấy nguy cơ gây hại nghiêm trọng. FBI sau đó chuyển khoảng hai tháng tin nhắn của Zhou tới cảnh sát hạt Palm Beach để phục vụ điều tra.
Đây là một ví dụ cho thấy chatbot AI không phải không gian tuyệt đối riêng tư trong mọi tình huống. Người dùng có thể kỳ vọng các cuộc trò chuyện thông thường được bảo vệ theo chính sách dịch vụ, nhưng nội dung liên quan đến nguy cơ bạo lực nghiêm trọng có thể được xem xét và chuyển tiếp theo quy trình an toàn của nền tảng.
Chủ đề này cũng gợi lại tranh luận rộng hơn về việc AI cần làm gì khi nhận thấy nguy cơ ngoài đời thực. Những cảnh báo về rủi ro và cơ chế tự bảo vệ trong AI cho thấy các hệ thống thông minh ngày càng phải được thiết kế không chỉ để trả lời nhanh, mà còn để nhận diện những tình huống có thể gây hại cho con người.
Quá trình bắt giữ và truy tố
Cảnh sát bắt Zhou vào tháng 5. Anh ta bị tạm giam hai ngày tại nhà tù hạt Palm Beach, sau đó được tại ngoại với mức bảo lãnh 100.000 USD, tương đương khoảng 2,6 tỷ đồng.
Đến tháng 6, công tố viên Ana Cuskova truy tố Zhou với ba cáo buộc: đe dọa giết người bằng văn bản, rình stalker ở mức độ nghiêm trọng và sử dụng thiết bị liên lạc để thực hiện hành vi phạm tội. Theo thông tin từ hồ sơ, các tội danh này có tổng khung hình phạt lên tới 25 năm tù.
Zhou nhận tội cả ba cáo buộc vào ngày 13/8. Thẩm phán Scott Suskauer chỉ chấp nhận thỏa thuận sau khi bạn gái cũ của bị cáo đồng ý với các điều khoản. Việc nạn nhân được tham gia vào quá trình xem xét thỏa thuận là một chi tiết đáng chú ý trong vụ án, bởi các biện pháp bảo vệ cô là phần quan trọng của bản án.
Bản án 8 năm quản chế gồm những điều kiện nào?
Tòa án tuyên Zhou 8 năm quản chế nhưng không ghi nhận án hình sự trong hồ sơ tư pháp. Thẩm phán cho biết việc xem xét mức án có liên quan tới thành tích học tập của bị cáo, việc tốt nghiệp loại giỏi ngành tài chính tại Đại học Northeastern ở Boston và tình trạng chưa có tiền án.
Dù tránh án tù, Zhou phải tuân thủ một loạt hạn chế trong thời gian quản chế:
- Chịu giám sát điện tử trong hai năm.
- Tham gia chương trình can thiệp hành vi bạo lực.
- Thực hiện đánh giá và điều trị tâm lý.
- Không được liên lạc với nạn nhân.
- Không được sử dụng súng, rượu và ma túy.
Goldman Sachs đã sa thải Zhou sau khi anh ta bị bắt. Như vậy, hậu quả của vụ việc không chỉ nằm ở thủ tục tố tụng mà còn ảnh hưởng trực tiếp tới công việc, các mối quan hệ và khả năng tiếp cận những công cụ có thể làm gia tăng nguy cơ.
Bài học về an toàn khi sử dụng AI
Vụ án đặt ra hai vấn đề song song. Thứ nhất, chatbot có thể trở thành nơi người dùng bộc lộ những suy nghĩ mà họ không chia sẻ với người khác. Điều này đôi khi giúp nhận diện dấu hiệu khủng hoảng sớm, nhưng cũng khiến nền tảng phải cân bằng giữa quyền riêng tư, tính bảo mật và trách nhiệm ngăn chặn nguy hiểm.
Thứ hai, AI không thay thế cơ quan điều tra hay chuyên gia sức khỏe tâm thần. Việc phát hiện một cuộc trò chuyện đáng ngờ chỉ là bước đầu. Trong trường hợp này, thông tin phải được nhân viên đánh giá, chuyển tới FBI rồi bàn giao cho cảnh sát địa phương trước khi tiến hành các thủ tục pháp lý.
Người dùng không nên xem các cuộc trò chuyện với AI là phương án duy nhất để xử lý cơn giận, ám ảnh hoặc ý định làm hại bản thân và người khác. Nếu xuất hiện nguy cơ khẩn cấp, cần lập tức rời xa vũ khí và các công cụ nguy hiểm, tìm đến người thân, chuyên gia tâm lý hoặc cơ quan khẩn cấp tại địa phương.
Với người bị quấy rối, việc lưu ảnh chụp màn hình, nhật ký cuộc gọi, nội dung tin nhắn và thông tin về các tài khoản hoặc số điện thoại liên quan có thể giúp ích cho quá trình trình báo. Không nên tiếp tục tranh luận với người đe dọa nếu điều đó làm tăng nguy cơ; thay vào đó, hãy ưu tiên an toàn cá nhân và tìm sự hỗ trợ càng sớm càng tốt.
Chatbot có thể nhận diện một số dấu hiệu nguy hiểm, nhưng trách nhiệm bảo vệ nạn nhân vẫn cần sự phối hợp giữa nền tảng công nghệ, cơ quan thực thi pháp luật, chuyên gia và cộng đồng.
Manus trở lại độc lập sau thương vụ 2 tỷ USD với Meta
Lỗ hổng tl;dv cho phép truy cập hàng trăm nghìn cuộc họp
Anthropic bị định giá bằng doanh thu tương lai 200 tỷ USD
OpenAI giải thể đội Preparedness giữa loạt cảnh báo AI
OpenAI ra mắt ChatGPT dành riêng cho người dùng tuổi teen
LG và NVIDIA xây trung tâm dữ liệu robot với 100.000 giờ huấn luyện
GLM-5.3 gây chú ý với khả năng phát hiện lỗ hổng bảo mật
