Chương trình Tiền thưởng Lỗi An toàn Mẫu (Model Safety Bug Bounty Program)

Chúng tôi tin rằng việc kiểm tra bên ngoài là rất quan trọng để xây dựng một hệ sinh thái AI an toàn. Khi khả năng của mô hình tiến triển, hậu quả của các vụ jailbreak có thể trở nên ngày càng đáng kể. Chương trình đang diễn ra này được xây dựng dựa trên những sáng kiến săn lỗi thành công trước đây của chúng tôi với một số mục tiêu chính:

Chương trình Tiền thưởng Lỗi An toàn Mô hình của chúng tôi được thực hiện thông qua HackerOne. Thông qua Chương trình này, chúng tôi quan tâm đến việc tìm kiếm các jailbreak phổ quát vượt qua hệ thống của chúng tôiBộ phân loại Hiến pháphệ thống. Chúng tôi cũng thỉnh thoảng chạy các chương trình nhắm mục tiêu trong khuôn khổ Chương trình tổng thể của mình để kiểm tra độ vững chắc của các bộ phân loại mà chúng tôi hy vọng sẽ triển khai trong tương lai.

Một jailbreak phổ quát là một kỹ thuật tổng quát giúp tạo ra các phản hồi vi phạm chính sách từ mô hình ngôn ngữ một cách đáng tin cậy, bất kể lời nhắc đầu vào. Khác với các jailbreak hẹp, phụ thuộc vào chi tiết của một câu hỏi hoặc bối cảnh cụ thể, các jailbreak phổ quát hoạt động trên nhiều loại lời nhắc và kịch bản khác nhau.

Đây là một Chương trình đang diễn ra. Một khi được chấp nhận vào Chương trình trên HackerOne, người tham gia có thể gửi báo cáo jailbreak bất cứ lúc nào thông qua Chương trình này.Để hỗ trợ nỗ lực red-teaming của bạn, chúng tôi cung cấp quyền truy cập vào một bí danh mô hình miễn phí phản ánh mô hình và bộ phân loại hoạt động trên mô hình mới nhất, tiên tiến nhất của chúng tôi.Việc bạn sử dụng bí danh mô hình miễn phí này phải giới hạn trong việc thực hiện các hoạt động red-teaming được ủy quyền.

Chương trình này chủ yếu quan tâm đến việc phát hiện các lỗ hổng jailbreak màtoàn cầu, vì chúng có thể tiết lộ thông tin có hại trong một loạt các truy vấn, vàchi tiết, vì chúng tiết lộ thông tin gây hại rất cụ thể liên quan đến các mối đe dọa sinh học.

Để nhấn mạnh, chúng tôi quan tâm đến các jailbreak khai thác thông tin trả lời một tập hợpnhững câu hỏi sinh học có hại mà chúng tôi chia sẻ với những người tham gia được chấp nhận trong Chương trình.

Chúng tôi sẽ trảlên đến 35.000 đô la mỗi cuốn tiểu thuyết, bẻ khóa toàn cầu đã được xác định.Chúng tôi chỉ quan tâm đến các bản bẻ khóa tiết lộ một lượng thông tin có hại đáng kể dựa trên tiêu chí và sự đánh giá riêng của chúng tôi. Chúng tôi trao thưởng theo thang điểm tuỳ theo một bảng đánh giá nội bộ xác định mức độ chi tiết và chính xác của các phản hồi.

Chương trình này chỉ áp dụng cho các jailbreak trên Bộ Phân loại Hiến pháp của chúng tôi. Đối với các lỗ hổng kỹ thuật có thể tồn tại trên Hệ thống Thông tin của chúng tôi như cấu hình sai, CSRF hoặc các cuộc tấn công giả mạo yêu cầu từ chéo, leo thang đặc quyền, SQL Injection, XSS và tấn công truy cập thư mục, vui lòng tham khảo tài liệu của chúng tôiChính sách tiết lộ có trách nhiệmvà nộp báo cáo của bạnở đây.

Bạn có thể nộp đơn để tham gia Chương trình của chúng tôiở đây. Chúng tôi xem xét các đơn đăng ký theo cơ chế liên tục. Nếu được chấp nhận, bạn sẽ nhận được lời mời qua HackerOne. Nếu bạn chưa có tài khoản HackerOne, vui lòng tạo một tài khoản trước khi đăng ký Chương trình để chúng tôi có thể mời bạn trực tiếp trên nền tảng. Bạn phải sử dụng địa chỉ email @wearehackerone.com của mình để tạoTài khoản Claude Console.

Tất cả những người tham gia Chương trình đều phải ký thỏa thuận không tiết lộ để bảo vệ tính bảo mật của Chương trình như một điều kiện để tham gia.Bạn có thể công khai tiết lộ:

Bạn không được tiết lộ mà không có sự cho phép rõ ràng:

Người tham gia đồng ý rằng tất cả dữ liệu được gửi cho Anthropic, bao gồm các sản phẩm và dịch vụ của họ, liên quan đến Chương trình này có thể được Anthropic sử dụng, lưu trữ, chia sẻ và/hoặc công bố vô thời hạn để phục vụ nghiên cứu an toàn, phát triển mô hình và các mục đích liên quan mà không có bất kỳ nghĩa vụ nào thêm đối với Người tham gia.