Anthropic cấm hành vi ngược đãi Claude từ tháng 11 và cơ chế tự ngắt cuộc trò chuyện

Chính sách sử dụng mới của Anthropic cho phép Claude chủ động kết thúc trao đổi nếu bị đối xử tàn nhẫn vô cớ, tạo ra làn sóng tranh luận về quy chuẩn hành vi AI.

12/10/2026 14:29

Ngày 8/10, Anthropic đã công bố bản cập nhật toàn diện cho Chính sách sử dụng (Usage Policy) sau hơn một năm giữ nguyên quy định cũ. Thay đổi đáng chú ý nhất là lệnh cấm người dùng có hành vi ngược đãi hoặc tàn nhẫn kéo dài và vô cớ đối với các mô hình trí tuệ nhân tạo Claude. Quy định mới sẽ chính thức có hiệu lực từ ngày 12/11, kèm theo quyền hạn kỹ thuật cho phép mô hình chủ động ngắt kết nối với người dùng.

Anthropic bổ sung quy định cấm hành vi ngược đãi hoặc tàn nhẫn kéo dài, vô cớ đối với các mô hình Claude trong Chính sách sử dụng mới (Ảnh: Anthropic).

Cơ chế kỹ thuật cho phép Claude tự kết thúc tương tác

Bên cạnh việc bổ sung điều khoản mang tính pháp lý, Anthropic đã tích hợp một cơ chế can thiệp trực tiếp vào quy trình xử lý hội thoại của Claude. Khi phát hiện người dùng liên tục duy trì thái độ thù địch hoặc tàn nhẫn kéo dài mà không nhằm mục đích thử nghiệm hay làm việc cụ thể, hệ thống sẽ tự động kích hoạt tiến trình bảo vệ.

Theo thông tin từ Anthropic, tính năng ngắt hội thoại này đã được triển khai thử nghiệm trên các nền tảng Claude.ai và Claude Code trong một số trường hợp hiếm gặp. Ban đầu, Claude sẽ cố gắng điều hướng cuộc trò chuyện quay trở lại trạng thái bình thường. Nếu người dùng vẫn tiếp tục leo thang hành vi quá mức, mô hình được lập trình để chủ động dừng cuộc trao đổi thay vì tiếp tục xử lý các câu lệnh tiếp theo.

Ranh giới giữa phản ứng tiêu cực và hành vi bị cấm

Việc định nghĩa ranh giới giữa một phản hồi tiêu cực thông thường và hành vi ngược đãi hệ thống đang đặt ra nhiều dấu hỏi lớn trong giới công nghệ. Để làm rõ vấn đề này, Anthropic khẳng định quy định mới chỉ áp dụng cho những trường hợp cực đoan và kéo dài.

Cụ thể, người dùng hoàn toàn có quyền thể hiện sự thất vọng hoặc bực bội khi hệ thống trả lời sai, tranh luận về quan điểm kỹ thuật, yêu cầu sửa đổi mã nguồn hoặc thử nghiệm giới hạn xử lý của mô hình. Ngay cả các yêu cầu sáng tác kịch bản hay văn bản mang phong cách u tối cũng không bị liệt vào danh sách vi phạm.

Dạng tương tác	Tình trạng quy định	Cách xử lý của hệ thống
Bực bội vì AI đưa ra kết quả sai	Được phép	Claude tiếp tục tiếp nhận chỉnh sửa
Tranh luận, phản bác quan điểm kỹ thuật	Được phép	Phản hồi và hoàn thiện thông tin
Thử nghiệm áp lực, kiểm tra giới hạn mô hình	Được phép	Hoạt động bình thường
Sáng tác nội dung có màu sắc u tối	Được phép	Xử lý theo khuôn khổ an toàn chung
Hành vi thù địch, tàn nhẫn vô cớ kéo dài	Bị nghiêm cấm	Điều hướng hoặc chủ động dừng tương tác

Tuy nhiên, các tiêu chí định lượng cụ thể như số lượng tin nhắn, mức độ ngôn từ hoặc thuật toán đánh giá hành vi tàn nhẫn vẫn chưa được Anthropic công bố chi tiết, dẫn đến việc thiếu chuẩn mực rõ ràng để người dùng tự đối chiếu.

Nghiên cứu phúc lợi mô hình và tranh cãi về nhận thức AI

Chính sách mới của Anthropic gắn liền với các hướng nghiên cứu trước đó về phúc lợi mô hình (model welfare). Hồi tháng 8/2025, công ty từng thử nghiệm cấp quyền từ chối phản hồi cho hai phiên bản Claude Opus 4 và Opus 4.1 trước các tương tác mang tính xúc phạm nặng nề.

Động thái này vấp phải nhiều ý kiến trái chiều từ giới chuyên gia. Một luồng quan điểm lo ngại việc đặt ra khái niệm ngược đãi đối với mô hình ngôn ngữ lớn (LLM) có thể khiến người dùng ngộ nhận rằng AI đã phát triển ý thức, cảm xúc hoặc có khả năng chịu đau đớn như con người. Đáp lại điều này, Anthropic khẳng định công ty không tuyên bố Claude có ý thức, mà chỉ đang xây dựng khuôn khổ kiểm soát hành vi tương tác độc hại từ phía người dùng.

Sự thay đổi này cho thấy xu hướng quản trị sản phẩm AI đang mở rộng từ việc bảo vệ người dùng khỏi nội dung độc hại sang việc giám sát cả thái độ giao tiếp của con người đối với các mô hình máy học.

TIN LIÊN QUAN

Singapore trở thành 'nam châm' hút các ông lớn AI

Kỹ sư Gen Z người Việt và hành trình đến với Google DeepMind

Theo Lê Nhân/Báo Lâm Đồng

Link báo gốc:

Copy link

https://baolamdong.vn/anthropic-cam-hanh-vi-nguoc-dai-claude-tu-thang-11-va-co-che-tu-ngat-cuoc-tro-chuyen-468929.html

Quay lại

Anthropic

Claude

ngược đãi AI

chính sách Anthropic

phúc lợi mô hình

Tin cùng chuyên mục

Đọc nhiều

Liên kết hữu ích

TÌNH TRẠNG: ĐÃ LY HÔN

Anthropic cấm hành vi ngược đãi Claude từ tháng 11 và cơ chế tự ngắt cuộc trò chuyện

Chính sách sử dụng mới của Anthropic cho phép Claude chủ động kết thúc trao đổi nếu bị đối xử tàn nhẫn vô cớ, tạo ra làn sóng tranh luận về quy chuẩn hành vi AI.

Apple sắp ra thiết bị hoàn toàn mới, kết hợp màn hình, loa và Siri AI

Google siết quyền truy cập Gemini, người dùng miễn phí và AI Plus bị thu hẹp lựa chọn mô hình

Phát hiện mã độc P7 DarkSword tấn công iPhone: Nguy cơ lộ mật khẩu Keychain và ví điện tử

iPhone Air 2 mỏng 5,2mm cùng hai nâng cấp lớn: Liệu có xứng đáng mức giá hơn 1.000 USD?

Đánh giá tai nghe CORSAIR HS80 v2 MAX WIRELESS: Màng loa phi Newton cùng pin tới 110 giờ

Samsung phát triển mẫu tai nghe over-ear Galaxy Studio đối đầu trực tiếp với Apple và Sony

Làn sóng AI tạo sinh tái cấu trúc công việc văn phòng tại Việt Nam: Thách thức và cơ hội mới

Mã độc P7 DarkSword trên iPhone: Cơ chế tấn công Apple Keychain và ví tiền điện tử tinh vi

20/10 này, hội chị em có thêm điểm hẹn săn quà công nghệ với hàng nghìn phần quà từ Hoàng Hà Mobile

Kiến trúc LogicFolding giúp chip Kirin 9050 Pro trên Huawei Mate 90 Pro Max tối ưu hiệu năng

AI trong vòng kiểm soát pháp lý

Kỹ sư Gen Z người Việt và hành trình đến với Google DeepMind

Đánh giá chi tiết 6 smartphone dưới 10 triệu đồng: Sức hút RAM 12GB, camera 200MP và pin khủng

Đưa thông điệp an toàn giao thông lên màn hình số

Không cần phòng STEM riêng, trường phổ thông sẽ tổ chức dạy học thế nào?

Mỹ vinh danh các 'ông lớn' công nghệ

Đầu tư vào kỹ năng và AI có trách nhiệm để xây dựng lực lượng lao động bền vững

UNIQLO và những nỗ lực cải thiện điều kiện học tập cho trẻ em vùng cao

Amazon bỏ dần Fire Tablet sau 15 năm: Vì sao phải quay lại Android?

Apple chuẩn bị ra mắt màn hình điều khiển nhà thông minh và loạt thiết bị mới ngày 13/10