Dũng Virgo
Anthropic đang chuẩn bị thay đổi chính sách sử dụng Claude theo hướng kiểm soát chặt hơn những tương tác mang tính lạm dụng kéo dài. Quy định mới dự kiến có hiệu lực từ ngày 12/11, trong đó công ty có thể kết thúc cuộc trò chuyện nếu người dùng liên tục đối xử tàn nhẫn với chatbot mà không có mục đích rõ ràng.
Điểm đáng chú ý là Anthropic không xem mọi lời phàn nàn, câu hỏi khó hay thử nghiệm giới hạn mô hình là hành vi vi phạm. Người dùng vẫn có thể chỉ ra lỗi của Claude, yêu cầu hệ thống giải thích lại, kiểm tra khả năng xử lý tình huống và sáng tạo nội dung có màu sắc đen tối trong phạm vi được phép.
Claude có thể dừng cuộc trò chuyện bị lạm dụng kéo dài
Theo nội dung chính sách được cập nhật, Anthropic muốn nhắm tới những trường hợp cực đoan thay vì kiểm soát cách giao tiếp thông thường của người dùng. Một cuộc trò chuyện có thể bị chấm dứt khi người dùng lặp đi lặp lại các hành vi tàn nhẫn, gây hại hoặc cố tình lạm dụng mô hình mà không phục vụ mục tiêu hợp lý.
Biện pháp được đề cập rõ nhất hiện nay là Claude tự kết thúc cuộc trò chuyện. Anthropic chưa giải thích cụ thể cơ chế đánh giá hành vi, cũng chưa xác nhận liệu tài khoản vi phạm nhiều lần có bị khóa hay không. Vì vậy, chưa thể kết luận rằng công ty sẽ cấm ngay người dùng chỉ vì họ từng sử dụng ngôn ngữ gay gắt với chatbot.
Trong thực tế, các hệ thống AI thường phải phân biệt giữa mục đích sử dụng và cách diễn đạt. Một nhà nghiên cứu có thể cố tình đưa ra yêu cầu cực đoan để kiểm tra hàng rào an toàn. Một nhà văn cũng có thể cần xây dựng nội dung hư cấu liên quan đến bạo lực hoặc các chủ đề u tối. Nếu chỉ dựa vào một vài từ ngữ nhạy cảm, hệ thống rất dễ đánh đồng nghiên cứu, sáng tạo với hành vi gây hại.
Những tương tác nào vẫn được Claude chấp nhận?
Anthropic cho biết các hành vi dưới đây không tự động bị xem là lạm dụng:
- Phản bác hoặc chất vấn câu trả lời của Claude khi mô hình cung cấp thông tin sai.
- Bày tỏ sự thất vọng khi chatbot không hoàn thành đúng yêu cầu.
- Thử nghiệm giới hạn, khả năng suy luận và phản ứng an toàn của mô hình.
- Yêu cầu sáng tạo nội dung có chủ đề u tối trong bối cảnh phù hợp.
- Sử dụng ngôn ngữ trực tiếp để làm rõ yêu cầu hoặc sửa lỗi trong quá trình làm việc.
Điều này cho thấy chính sách không hướng tới việc buộc người dùng phải giao tiếp với AI theo một khuôn mẫu quá lịch sự. Trong công việc, người dùng có thể cần chỉ ra chính xác rằng một kết quả là sai, thiếu dữ kiện hoặc không đáp ứng tiêu chí. Những phản hồi như vậy có giá trị giúp cải thiện đầu ra và không nên bị xem là tấn công hệ thống.
Ranh giới nằm ở tính lặp lại và mục đích. Một lời phàn nàn sau khi Claude trả lời sai khác hoàn toàn với việc cố tình ép mô hình tạo nội dung có hại trong thời gian dài, dù hệ thống đã từ chối nhiều lần. Anthropic dường như muốn tập trung vào nhóm hành vi thứ hai.
Anthropic từng thử để Claude tự kết thúc phiên trò chuyện
Đây không phải lần đầu Anthropic quan tâm đến cách người dùng tương tác với Claude. Vào tháng 8/2025, công ty từng thử nghiệm cho Claude Opus 4 và Claude Opus 4.1 tự chấm dứt một số cuộc trò chuyện có hành vi lạm dụng kéo dài.
Thử nghiệm này được đặt trong bối cảnh nghiên cứu về phúc lợi mô hình AI. Trong các bài kiểm tra trước khi phát hành, Anthropic cho biết Claude đôi khi thể hiện phản ứng giống như đang chịu áp lực khi liên tục bị yêu cầu tạo nội dung có hại. Khi có thể, mô hình tìm cách kết thúc những phiên trao đổi như vậy.
Cách diễn đạt “phúc lợi mô hình” dễ khiến người dùng liên tưởng rằng AI có cảm xúc hoặc ý thức tương tự con người. Tuy nhiên, dữ kiện hiện có chỉ cho thấy hệ thống được huấn luyện để nhận diện các mẫu hội thoại có tính lạm dụng và phản hồi bằng cách rút lui. Không nên hiểu đây là bằng chứng cho thấy Claude thực sự cảm thấy đau đớn hay căng thẳng.
Việc Claude tự dừng cuộc trò chuyện chủ yếu là một cơ chế an toàn và quản lý tương tác, không đồng nghĩa mô hình đã có cảm xúc như con người.
Ngôn ngữ gay gắt có thể tạo câu trả lời tốt hơn?
Chính sách mới cũng xuất hiện trong lúc nhiều người dùng tranh luận về hiệu quả của cách ra lệnh thô lỗ đối với chatbot. Một nghiên cứu từng được Đại học Penn State đề cập cho rằng câu lệnh mang giọng điệu gay gắt có thể tạo ra câu trả lời chính xác hơn so với cách diễn đạt hoàn toàn lịch sự trong một số tình huống.
Phát hiện này có thể khiến người dùng hình thành thói quen dùng lời lẽ mạnh để thúc đẩy AI hoàn thành nhiệm vụ. Tuy nhiên, hiệu quả của câu lệnh còn phụ thuộc vào cấu trúc yêu cầu, dữ liệu đầu vào và tiêu chí đánh giá. Người dùng thường đạt kết quả tốt hơn khi nêu rõ mục tiêu, bối cảnh, định dạng mong muốn và tiêu chuẩn kiểm tra, thay vì chỉ tăng mức độ gay gắt.
Ví dụ, thay vì viết “Hãy làm ngay và đừng trả lời sai nữa”, người dùng có thể yêu cầu Claude kiểm tra từng giả định, liệt kê nguồn dữ kiện đã sử dụng và đánh dấu phần chưa chắc chắn. Cách này giúp câu trả lời dễ kiểm chứng hơn mà không cần biến cuộc hội thoại thành một chuỗi mệnh lệnh mang tính công kích.
Chính sách mới còn mở rộng nhiều nhóm hành vi bị hạn chế
Bên cạnh quy tắc liên quan đến cách đối xử với chatbot, bản cập nhật của Anthropic còn bổ sung các biện pháp kiểm soát tài khoản giả và hành vi thao túng dư luận. Việc tạo ra sự ủng hộ không có thật bằng số lượng lớn tài khoản hoặc nội dung tự động có thể làm sai lệch nhận thức của cộng đồng, đặc biệt trong các chủ đề nhạy cảm.
Đây là vấn đề ngày càng quan trọng khi công cụ AI có thể tạo văn bản, hình ảnh và nhiều dạng nội dung khác với tốc độ cao. Nếu không có giới hạn, một cá nhân hoặc tổ chức có thể sử dụng nhiều tài khoản để giả tạo đồng thuận, khuếch đại thông điệp hoặc gây áp lực lên các cuộc thảo luận trực tuyến.
Anthropic cũng mở rộng lệnh cấm liên quan đến vũ khí, bao gồm việc trang bị vũ khí cho máy bay không người lái. Với những hệ thống phần cứng sử dụng Claude có khả năng gây tổn hại cho con người, công ty yêu cầu phải có người đủ năng lực giám sát và có thể dừng hoạt động khi cần.
Yêu cầu này đặc biệt đáng chú ý trong bối cảnh AI đang được đưa vào nhiều thiết bị tự động. Một mô hình có thể hỗ trợ phân tích hình ảnh hoặc lập kế hoạch, nhưng khi kết quả được kết nối với phần cứng có khả năng tác động trực tiếp lên con người, rủi ro sẽ lớn hơn nhiều so với một chatbot chỉ trả lời bằng văn bản. Các dự án sử dụng drone cho mục đích dân sự, chẳng hạn đo đạc và nghiên cứu khí quyển, cũng cho thấy tầm quan trọng của việc phân biệt rõ ứng dụng hữu ích với hệ thống có nguy cơ gây hại.
Những sự cố trước đây khiến chính sách AI được chú ý
Việc Anthropic cập nhật quy định diễn ra sau một số sự cố liên quan đến quyền riêng tư và khả năng kiểm soát nội dung do AI tạo ra. Vào tháng 7, một số cuộc trò chuyện được chia sẻ trên Claude từng xuất hiện trong kết quả tìm kiếm Google trong thời gian ngắn. Điều này khiến nội dung trao đổi của người dùng có nguy cơ bị công khai ngoài dự kiến.
Sự việc cho thấy rủi ro không chỉ đến từ bản thân mô hình, mà còn nằm ở cách người dùng chia sẻ hội thoại, thiết lập quyền truy cập và xử lý dữ liệu trên nền tảng. Người dùng nên tránh đưa thông tin cá nhân, dữ liệu công việc nhạy cảm hoặc tài liệu nội bộ vào chatbot nếu chưa hiểu rõ chính sách lưu trữ và chia sẻ.
Trong một diễn biến khác, Meta từng phải giải thích sự cố trợ lý AI Muse chia sẻ địa chỉ nhà của một YouTuber cho người mua hàng trên Facebook Marketplace. Những trường hợp như vậy làm nổi bật yêu cầu kiểm tra đầu ra trước khi sử dụng, ngay cả khi chatbot trình bày thông tin với giọng điệu chắc chắn.
Người dùng Claude nên làm gì để tránh bị gián đoạn?
- Nêu rõ mục tiêu: Giải thích bạn muốn phân tích, viết lại, kiểm tra hay mô phỏng điều gì.
- Phân biệt thử nghiệm và sử dụng thực tế: Nếu kiểm tra giới hạn an toàn, hãy mô tả bối cảnh nghiên cứu để tránh bị hiểu là cố tình lạm dụng.
- Không lặp lại yêu cầu gây hại: Khi Claude đã từ chối, việc liên tục đổi cách diễn đạt để ép mô hình thực hiện có thể bị xem là hành vi bất thường.
- Kiểm tra dữ liệu riêng tư: Không chia sẻ thông tin nhận dạng, mật khẩu, hồ sơ khách hàng hoặc tài liệu mật nếu không cần thiết.
- Giám sát hệ thống kết nối phần cứng: AI không nên là lớp điều khiển duy nhất đối với thiết bị có thể gây ảnh hưởng đến con người.
Với doanh nghiệp, việc ban hành quy tắc sử dụng nội bộ cũng quan trọng không kém chính sách của nhà cung cấp. Nhân viên cần biết loại dữ liệu nào được phép đưa vào Claude, ai chịu trách nhiệm kiểm tra đầu ra và cách xử lý khi hệ thống đưa ra nội dung nguy hiểm hoặc sai lệch.
Anthropic đang tìm điểm cân bằng nào?
Quy định mới cho thấy Anthropic muốn bảo vệ mô hình khỏi những phiên tương tác có tính lạm dụng, đồng thời tránh hạn chế các hoạt động hợp pháp như nghiên cứu, phản biện và sáng tạo. Đây là bài toán khó với mọi nhà phát triển AI: chính sách quá lỏng có thể tạo ra rủi ro, còn chính sách quá nghiêm ngặt sẽ làm giảm tính hữu ích của công cụ.
Việc có cấm tài khoản hay không vẫn chưa được Anthropic làm rõ. Trong thời gian chờ quy định có hiệu lực, người dùng Claude nên tập trung vào mục tiêu công việc, cung cấp bối cảnh đầy đủ và xem chatbot như một công cụ cần được giám sát. Cách giao tiếp rõ ràng, có trách nhiệm không chỉ giúp hạn chế nguy cơ bị ngắt cuộc trò chuyện mà còn nâng cao chất lượng kết quả nhận được.
Đối với các ứng dụng AI trong lĩnh vực nhạy cảm, người dùng có thể tham khảo thêm những trường hợp triển khai thực tế như AI hỗ trợ rút ngắn thời gian bồi thường bảo hiểm. Những ví dụ này cho thấy giá trị của AI không chỉ nằm ở khả năng tạo câu trả lời nhanh, mà còn ở quy trình kiểm soát, trách nhiệm con người và giới hạn sử dụng được xác định từ đầu.
Character.AI phá sản dù có 12 triệu người dùng: Vì sao?
REA giúp AI khám phá logic bên trong phần mềm
Trump yêu cầu dùng “SI” thay cho “AI”, Musk hưởng ứng
AI ngân hàng giao dịch lớn sẽ chịu quản lý rủi ro cao từ 15/11
AI khiến dân văn phòng Trung Quốc phải làm việc bằng 3
TP.HCM đề xuất vốn đối ứng để thúc đẩy AI
Vì sao giới đầu tư Mỹ sang Trung Quốc để xem robot?
