Tại sao Claude chuyển đổi mô hình trong cuộc trò chuyện của bạn với Sonnet 5.5 (Why Claude switched models in your conversation with Sonnet 5.5)

Bài viết này giải thích lý do tại sao một yêu cầu có thể chuyển sang mô hình khác hoặc bị chặn trên Claude Sonnet 5.5, những gì xảy ra khi cuộc trò chuyện của bạn chuyển đổi mô hình, và cách quản lý việc chuyển đổi tự động.

Bởi vì khả năng an ninh mạng của nó là một bước tiến đáng kể so với Claude Sonnet 5, Claude Sonnet 5.5 là mô hình Sonnet đầu tiên có các biện pháp phòng ngừa mạng như những gì chúng tôi đã phát triển cho các mô hình có khả năng cao nhất của mình. Các biện pháp bảo vệ sinh học của nó giống với Sonnet 5. Cả hai biện pháp bảo vệ đều nhắm vào một tập hợp hẹp các yêu cầu rủi ro cao; phát triển phần mềm thường xuyên và hầu hết các công việc khoa học đời sống không bị ảnh hưởng.

Hầu hết các yêu cầu gửi đến Sonnet 5.5 sẽ không gặp phải các biện pháp bảo vệ này. Một số ít các yêu cầu có nguy cơ cao hơn sẽ hoặc quay về Sonnet 5, hoặc bị chặn trực tiếp, nhờ đó chúng tôi có thể tiếp tục hỗ trợ công việc hàng ngày trong khi hạn chế rủi ro lạm dụng. Chúng tôi tiếp tục tinh chỉnh các biện pháp bảo vệ này để chặn ít yêu cầu hợp pháp hơn, bao gồm việc điều chỉnh các bộ phân loại của chúng tôi nhằm giảm trường hợp báo sai. Phản hồi của bạn giúp hướng dẫn công việc này.

Sonnet 5.5 chạy các kiểm tra an toàn tự động, hoặc bộ phân loại, trên mọi yêu cầu. Các kiểm tra cũng xem xét mọi thứ mà mô hình đọc, không chỉ tin nhắn mới nhất của bạn. Điều này bao gồm bộ nhớ, nội dung từ các bộ kết nối, kết quả tìm kiếm trên web và các tệp, vì vậy một biện pháp dự phòng hoặc chặn có thể được kích hoạt bởi nội dung mà bạn không nhập.

Các phương án dự phòng và chặn hoạt động khác nhau tùy thuộc vào loại bộ phân loại được kích hoạt: an ninh mạng, sinh học, phát triển LLM, hoặc chưng cất.

Sonnet 5.5 có thể quay lại Sonnet 5 của Claude khi các bộ phân loại mạng của chúng tôi đánh dấu các yêu cầu bảo mật mạng có khả năng gây nguy cơ cao hơn, chẳng hạn như:

Bạn vẫn có thể sử dụng Sonnet 5.5 cho các trường hợp sử dụng lập trình an toàn, chẳng hạn như quét mã nguồn để tìm lỗ hổng bảo mật.

Sonnet 5.5 ngăn chặn các yêu cầu có thể giúp ai đó gây hại sinh học nghiêm trọng. Các khối sinh học không chuyển sang mô hình khác, và yêu cầu bị chặn ngay lập tức.

Sonnet 5.5 sử dụng cùng một bộ các biện pháp bảo vệ sinh học như Sonnet 5. Những biện pháp này nhắm vào các yêu cầu có hại; hầu hết các công việc nghiên cứu, giáo dục và lâm sàng không bị ảnh hưởng, mặc dù một số yêu cầu về vi sinh học và vi rút học có thể bị đánh dấu nhầm. Các tổ chức có thể đăng ký Chương trình Xác minh Khoa học Đời sống của chúng tôi để được truy cập các biện pháp bảo vệ được thiết kế cho toàn bộ phạm vi công việc liên quan đến sinh học.

Sonnet 5.5 có các bộ phân loại cho một tập hợp nhỏ các khả năng liên quan đến việc phát triển các mô hình ngôn ngữ lớn (LLM) tiên tiến nhất, chẳng hạn như phát triển kernel cho một số bộ tăng tốc ML nhất định. Chúng không nên ảnh hưởng đến phần lớn các hoạt động phát triển AI hoặc ML truyền thống, nghiên cứu, hoặc lập trình chung. Khi các bộ phân loại này đánh dấu một yêu cầu, Claude sẽ chuyển từ Sonnet 5.5 về Sonnet 5.

Sonnet 5.5 có các bộ phân loại phát hiện và trực tiếp chặn các nỗ lực trích xuất lập luận nội bộ của mô hình. Các khối chưng cất không chuyển sang mô hình khác, và yêu cầu bị chặn ngay lập tức.

Ví dụ về các yêu cầu bị chặn bao gồm các lời nhắc yêu cầu Claude lặp lại lập luận của nó một cách nguyên văn hoặc viết toàn bộ chuỗi suy nghĩ của nó ra một đầu ra bên ngoài. Bạn vẫn có thể yêu cầu Claude giải thích lập luận của nó, dạy bạn một khái niệm, hoặc hướng dẫn bạn qua quá trình đánh giá mã. Các yêu cầu trò chuyện như “tại sao bạn lại làm điều đó?” không bị ảnh hưởng.

Chuyển đổi mô hình tự động được bật theo mặc định. Khi yêu cầu của bạn bị chuyển về, Claude sẽ chạy lại nó trên Sonnet 5 trong cùng một cuộc trò chuyện. Tất cả các lần chuyển về đều minh bạch, có nghĩa là bạn sẽ thấy một thông báo giải thích rằng mô hình đã được chuyển đổi, và phản hồi sẽ được gắn nhãn với mô hình đã trả lời.

Sau khi chuyển đổi, bộ chọn mô hình sẽ giữ ở Sonnet 5 cho phần còn lại của cuộc trò chuyện. Bạn có thể chuyển lại sang Sonnet 5.5 bất cứ lúc nào từ bộ chọn mô hình.

Sonnet 5 có các hệ thống an toàn riêng. Nếu yêu cầu của bạn cũng bị chặn trên Sonnet 5, bạn có thể chỉnh sửa tin nhắn của mình và thử lại.

Đối với sinh học, nếu tổ chức của bạn thực hiện nghiên cứu khoa học sự sống hợp pháp và bị ảnh hưởng bởi các biện pháp bảo vệ này, bạn có thể đăng ký Chương trình Xác minh Khoa học Sự sống (LSVP) để mở rộng khả năng. Trên Sonnet 5.5, LSVP chỉ nới lỏng các biện pháp bảo vệ sinh học thông qua tiện ích bổ sung Sử dụng rủi ro cao. Tìm hiểu thêm trong blog của chúng tôi:Giới thiệu Chương trình Xác minh Khoa học Sự sống.

Sonnet 5.5 không có sẵn trong Chương trình Xác minh Mạng khi ra mắt. Sớm thôi, các chuyên gia bảo vệ mạng sẽ có thể đăng ký tham gia Chương trình Xác minh Mạng mở rộng của chúng tôi để được truy cập theo cấp bậc vào các khả năng tiên tiến hơn trên Sonnet 5.5.

Việc chuyển đổi tự động được bật mặc định cho Sonnet 5.5, và bạn có thể tắt nó bất cứ lúc nào:

Với việc tắt chuyển đổi mô hình tự động, một yêu cầu dự phòng sẽ tạm dừng cuộc trò chuyện thay vì chuyển đổi mô hình. Bạn sau đó có thể:

Cách một yêu cầu bị trả lại hoặc bị chặn được tính phí phụ thuộc vào thời điểm xảy ra việc chặn và bộ phân loại nào đã kích hoạt nó:

Tìm hiểu thêm vềtừ chối và phương án dự phòng.

Nếu yêu cầu của bạn bị chặn nhưng có vẻ không liên quan đến một trong các bộ phân loại được liệt kê ở trên, hoặc nếu công việc hợp pháp của bạn liên tục bị từ chối, hãy cho chúng tôi biết. Sử dụng “Gửi phản hồi” để báo cáo điều này. Các báo cáo về các yêu cầu bị chặn sai giúp chúng tôi thu hẹp và cải thiện các biện pháp bảo vệ này.

Chuyển đổi mô hình tự động hoạt động giống nhau ở mọi nơi bạn có thể sử dụng Claude Sonnet 5.5:

Đọc blog của chúng tôi để tìm hiểu thêm vềClaude Sonnet 5.5.

Các biện pháp bảo vệ của chúng tôi được xây dựng để phù hợp với khả năng của một mô hình.

Để biết cách các biện pháp bảo vệ hoạt động trên Claude Opus 5.5, xemTại sao Claude chuyển đổi mô hình trong cuộc trò chuyện của bạn với Opus 5 hoặc Opus 5.5. Đối với Claude Fable 5.1, xemTại sao Claude chuyển đổi mô hình trong cuộc trò chuyện của bạn với Fable 5 hoặc Fable 5.1.