Bảo toàn suy nghĩ: thay đổi cách API Messages xử lý các khối suy nghĩ để bảo vệ chống lại việc chưng cất (Preserved thinking: changing how the Messages API handles thinking blocks to protect against distillation)

Chúng tôi đang thay đổi cách API Tin nhắn xử lý các khối suy nghĩ để bảo vệ chống lại việc chưng cất. Một khối suy nghĩ là một bản ghi lại các lập luận mà Claude có thể tạo ra khi làm việc trên một phản hồi. Trên Claude Fable 5.1, Claude Opus 5.5 và Claude Sonnet 5.5, các tài khoản API mới sẽ không thể chỉnh sửa ngữ cảnh xung quanh một khối suy nghĩ, chẳng hạn như tin nhắn, công cụ hoặc lời nhắc hệ thống, trong suốt cuộc trò chuyện đa lượt. Chúng tôi sẽ mở rộng triển khai cho tất cả người dùng cùng với các bản phát hành mô hình sắp tới.

Việc điều chỉnh bối cảnh trước đó này có những ứng dụng hợp pháp, mà chúng tôi tiếp tục hỗ trợ bằng cách sử dụng các điều chỉnh được nêu dưới đây. Tuy nhiên, những sửa đổi như vậy cũng là một điều phổ biến vàkỹ thuật được công khai tài liệucho chưng cất phi pháp quy mô công nghiệp, điều này bị cấm bởi chúng tôiChính sách sử dụngvà Điều khoản Dịch vụ.

Bây giờ, API sẽ xác minh rằng một khối suy nghĩ được gửi lại với cùng lời nhắc hệ thống, công cụ và các tin nhắn đã tạo ra nó, và sẽ trả về lỗi nếu chúng không khớp. Để các yêu cầu đã sửa đổi thành công, các nhà phát triển có thể chọn tham gia để thay vào đó có các khối suy nghĩđã xóatừ những yêu cầu như vậy; mô hình sẽ trả lời mà không nhìn thấy khối suy nghĩ.

Trong bài viết này, chúng tôi chia sẻ chi tiết về lý do chúng tôi làm điều này và những điều chỉnh bạn có thể thực hiện để giảm thiểu sự gián đoạn.

Claude tạo ra các bước lý luận trước khi đưa ra câu trả lời cuối cùng. Trên API, những bước này được trả lại cho người dùng dưới dạng “các khối suy nghĩ.” Trong một cuộc trò chuyện nhiều lượt, người dùng API gửi các khối này trở lại với mỗi lượt trao đổi (cùng với lời nhắc của hệ thống, công cụ và các tin nhắn trước đó), để Claude có đầy đủ ngữ cảnh cuộc trò chuyện.

Đối với các tài khoản bị ảnh hưởng sử dụng các mô hình được liệt kê dưới đây, API sẽ trả về lỗi nếu lời nhắc hệ thống, các công cụ hoặc các tin nhắn trước khối suy nghĩ trước đó đã bị chỉnh sửa.

Để tránh thông báo lỗi, bạn có thể chọn chế độ “không nghiêm ngặt”. Trong chế độ này, yêu cầu sẽ được thực hiện, nhưng các khối suy nghĩ bị ảnh hưởng sẽ bị loại khỏi những gì mà mô hình thấy. Điều này cho phép bạn tiếp tục cuộc trò chuyện hoặc nhiệm vụ mà không bị gián đoạn mặc dù các lượt suy nghĩ trước đó không được hiển thị với mô hình. Khi điều này xảy ra, phản hồi API sẽ cho bạn biết những khối nào đã bị loại bỏ.

Thay đổi các lượt nói trước đó trong một cuộc trò chuyện là mộtkỹ thuật phổ biếnđược sử dụng trong các chiến dịch chưng cất bất hợp pháp, nhằm khai thác khả năng của các mô hình tiên tiến—đặc biệt là khả năng suy nghĩ—để đào tạo một mô hình khác, mà không có sự cho phép. Chưng cất thường được thực hiện ở quy mô công nghiệp, sử dụng hàng nghìn tài khoản giả. Chúng tôi mã hóa các khối suy nghĩ của Claude để ngăn chặn điều này, nhưng bằng cách chỉnh sửa cuộc trò chuyện trước một khối suy nghĩ, người dùng có thể khiến Claude giải mã và in ra lý luận của nó. Các hệ thống được đào tạo theo cách này có thể thừa hưởng các khả năng mà chúng vốn không có.không cókế thừa các biện pháp bảo vệ mà chúng tôi đã xây dựng để ngăn chặn một loạt các lạm dụng như tấn công mạng và phát triển vũ khí.

Thay đổi này nhằm làm cho các chiến dịch chưng cất trở nên khó thực hiện hơn. Nó dựa trên các biện pháp chống chưng cất hiện có nhưbộ phân loại chưng cất nâng caovà các hạn chế về việc chuyển các phiên hoặc lý luận từ các mô hình tiên tiến hơn sang các mô hình kém khả năng hơn với các biện pháp bảo vệ yếu hơn.

Một số tích hợp—đặc biệt là những tích hợp liên quan đến việc viết lại các lượt giao tiếp trước giữa chừng trong cuộc trò chuyện, như nén bối cảnh, nhắc nhở hệ thống được tiêm vào, hoặc thay đổi công cụ giữa phiên—có thể cần được điều chỉnh.

Đây là các tài nguyên để giúp hướng dẫn bạn qua bản cập nhật này:

Kiểm tra từng trang xem có sẵn trên Amazon Bedrock, Google Cloud Vertex AI và Microsoft Foundry không.

Nếu hướng dẫn ở trên không bao gồm trường hợp sử dụng của bạn, vui lòngliên hệ với đội ngũ hỗ trợ của chúng tôi. Nếu bạn làm việc với một đội ngũ quản lý tài khoản, bạn cũng có thể liên hệ với họ để được hỗ trợ cập nhật các tích hợp phức tạp hơn.

Có những lợi ích bổ sung khi giữ các khối suy nghĩ nhất quán: điều đó có nghĩa là API có thể sử dụng lại các lời nhắc đã được lưu trong bộ nhớ đệm thường xuyên hơn, giúp giảm chi phí và thời gian phản hồi.

Tư duy được bảo tồn áp dụng cho những mô hình và tài khoản này:

Điều này bao gồm các tổ chức trên nền tảng Claude, tài khoản Amazon Bedrock, các dự án Google Cloud Vertex AI và các dự án Microsoft Foundry.

Chúng tôi đang áp dụng cách tiếp cận thực thi theo từng giai đoạn, bắt đầu với các tài khoản mới, nơi chúng tôi thấy mật độ lạm dụng liên quan đến chưng cất cao nhất. Điều này cho phép các nhà phát triển có tài khoản hiện có thời gian để làm cho các công cụ và tích hợp của họ tương thích.

Nếu bạn sử dụng Claude Code, Claude Cowork, hoặc Claude.ai, bạn không cần phải thay đổi gì; những sản phẩm đó xử lý các khối suy nghĩ cho bạn.

Bắt đầu từ Claude Sonnet 5.5, một khối suy nghĩ chỉ có thể được đọc bởi tài khoản đã tạo nó, hoặc bởi một tài khoản được liên kết với nó.

Các khối suy nghĩ có thể chứa thông tin riêng tư. Bởi vì chúng được mã hóa, thông tin đó không hiển thị khi bạn kiểm tra bản ghi. Kiểm tra này giúp giữ cho bản ghi được chia sẻ hoặc rò rỉ không tiết lộ các suy luận bên trong nó. Nó cũng làm cho việc các nhà chưng cất chuyển bản ghi thu thập được sang tài khoản mới trở nên khó khăn hơn sau khi chúng tôi cấm tài khoản đã tạo ra chúng.

Nếu một yêu cầu bao gồm suy nghĩ từ một tài khoản không được liên kết, API sẽ bỏ qua suy nghĩ đó và yêu cầu sẽ tiếp tục. Nó không trả về lỗi. Phản hồi tiếp theo có thể chậm hơn và sử dụng nhiều token hơn, tương tự như một lần nén.

Tài khoản trong cùng một tổ chức cha của Nền tảng Claude hoặc cùng một tổ chức Google Cloud được liên kết tự động. Nếu bạn tiếp tục các cuộc trò chuyện qua các tài khoản khác, ví dụ để chuyển đổi dự phòng giữa Nền tảng Claude và Amazon Bedrock, hãy liên hệ với nhóm quản lý tài khoản của bạn để liên kết chúng.

Trong Claude Code, việc chuyển đổi tài khoản giữa chừng trong một phiên có cùng một hiệu ứng: phản hồi tiếp theo sẽ chậm hơn và sử dụng nhiều token hơn.