Hướng dẫn về an toàn cho trẻ em dành cho các nhà phát triển (Child safety guidance for developers)

Anthropic áp dụng phương pháp An toàn theo Thiết kế để bảo vệ trẻ em. Chúng tôi là những người ký kết choThorn và Tất Cả Công Nghệ Là An Toàn của Con Người theo Nguyên Tắc Thiết Kế cho AI Sinh Tạovà báo cáo về tiến trình của chúng tôi trongTrung tâm Minh bạch. Trên thực tế, điều này có nghĩa là chúng tôi áp dụng đào tạo an toàn nhằm khiến các mô hình của chúng tôi từ chối các yêu cầu tình dục hóa hoặc gây nguy hiểm cho trẻ vị thành niên, vận hành các hệ thống phát hiện và giám sát trên toàn bộ dịch vụ, và báo cáo các hành vi CSAM và các hình thức khai thác trẻ em khác cho Trung tâm Quốc gia về Trẻ em Mất tích & Bị bóc lột (NCMEC). Dịch vụ người tiêu dùng bên thứ nhất của chúng tôi chỉ dành cho người dùng từ 18 tuổi trở lên, và Claude không cung cấp hình ảnh hoặc video chân thực.

Những biện pháp bảo vệ này áp dụng trên toàn bộ nền tảng của chúng tôi. Bởi vì bạn kiểm soát thiết kế sản phẩm, cơ sở người dùng và luồng nội dung của mình, bạn là người có vị trí tốt nhất để giải quyết các rủi ro cụ thể đối với việc triển khai của bạn.

Tất cả các nhà phát triển xây dựng trên API của Anthropic đều bắt buộc phải tuân thủ cácChính sách sử dụng, cấm sử dụng sản phẩm hoặc dịch vụ của chúng tôi để gây nguy hiểm cho trẻ em. Điều này bao gồm, trong số những việc khác, tạo ra, phân phối hoặc quảng bá CSAM, bao gồm CSAM do AI tạo ra; tạo điều kiện cho việc dụ dỗ, buôn người, tống tiền tình dục hoặc khai thác trẻ vị thành niên khác; và tình dục hóa trẻ vị thành niên trong bất kỳ bối cảnh nào, kể cả hư cấu hoặc nhập vai.

Các nghĩa vụ này áp dụng bất kể quy mô hoặc trường hợp sử dụng của nền tảng bạn. Mặc dù bạn đã cấm hoạt động này, người dùng cuối hoặc khách hàng của bạn có thể tải lên CSAM, kích thích nội dung tình dục liên quan đến trẻ vị thành niên, hoặc sử dụng các kết quả để hỗ trợ dụ dỗ hoặc tống tiền. Bạn chịu trách nhiệm thực hiện các biện pháp bảo vệ phù hợp chống lại các rủi ro này trong quá trình triển khai. Chúng tôi giám sát việc sử dụng API để phát hiện vi phạm Chính sách Sử dụng và thực hiện các biện pháp thực thi phù hợp với chính sách và nghĩa vụ pháp lý của chúng tôi.

Ngoài ra, nếu sản phẩm của bạn cho phép người chưa thành niên tương tác trực tiếp với các mô hình của chúng tôi, vui lòng tham khảo tài liệu của chúng tôiHướng dẫn cho các Tổ chức Phục vụ Trẻ vị thành niên, trong đó nêu ra các biện pháp bảo vệ bổ sung mà Anthropic yêu cầu đối với khán giả đó. Hướng dẫn này bao gồm một loạt các biện pháp khả thi, bao gồm nhưng không giới hạn ở hệ thống xác minh độ tuổi, kiểm duyệt và lọc nội dung, cơ chế giám sát và báo cáo, cũng như các yêu cầu tuân thủ và tiết lộ theo quy định.

Cho dù bạn đã nhận được thông báo từ Anthropic về nội dung bị cấm hay đang chủ động xây dựng các biện pháp bảo vệ của mình, các tài nguyên dưới đây có thể giúp bạn định hướng trong việc thiết lập cơ sở hạ tầng phát hiện, báo cáo và phản ứng phù hợp với nền tảng của bạn.

Không có một kiến trúc duy nhất đúng cho chương trình bảo vệ trẻ em. Cách tiếp cận khả thi phụ thuộc vào nền tảng của bạn; kích thước của nó; các bề mặt mà người dùng có thể tương tác, gửi hoặc tạo nội dung; và khu vực pháp lý của bạn. Nhiều nền tảng đã xây dựng các khả năng phòng ngừa và phản ứng phù hợp với bối cảnh của riêng họ, và lĩnh vực này đã phát triển các hướng dẫn chung, công cụ và cơ sở hạ tầng báo cáo mà các chương trình mới có thể tham khảo. Các tổ chức dưới đây cung cấp tài nguyên mà nhiều nền tảng sử dụng làm điểm khởi đầu. Anthropic không yêu cầu bạn phải sử dụng bất kỳ nhà cung cấp hoặc chương trình cụ thể nào.

Nguyên tắc thiết kế.Thorn và All Tech Is Human đã xuất bảnAn toàn theo thiết kế cho AI sáng tạo, một tập hợp các nguyên tắc và biện pháp thực tiễn để ngăn ngừa lạm dụng tình dục trẻ em trong suốt các giai đoạn phát triển, triển khai và duy trì sản phẩm AI. Anthropic là mộtbên kýđối với những nguyên tắc này, và chúng tôi khuyến khích các nhà phát triển xây dựng trên các mô hình của chúng tôi xem xét chúng khi thiết kế các biện pháp bảo vệ của riêng họ.

Dịch vụ phát hiện & chặn.Nếu triển khai của bạn cho phép người dùng tải lên hoặc tạo hình ảnh hoặc video, hoặc tương tác với người dùng khác, bạn có thể triển khai việc phát hiện trên cơ sở hạ tầng của riêng bạn. Các tổ chức có thể chọn xây dựng các bộ phân loại tùy chỉnh phù hợp với mô hình mối đe dọa của họ, mặc dù đối với nhiều tổ chức, giải pháp từ nhà cung cấp hoặc đối tác có thể là con đường thực tiễn hơn. Có một số nhà cung cấp cung cấp giải pháp so khớp hash, phân loại hình ảnh, video hoặc văn bản. Ví dụ, một lựa chọn được triển khai rộng rãi làThorn’s Safer, cung cấp việc đối chiếu băm với CSAM đã biết và các bộ phân loại cho các tài liệu mới và các tín hiệu dàn xếp.Quỹ Giám sát Internet(IWF) cung cấp cho các công ty thành viên của mình mộtbộ dịch vụđể phát hiện, chặn và phản hồi với CSAM trên các nền tảng của họ, bao gồm danh sách băm và danh sách chặn URL. Chương trình Pathways của Tech Coalition (được mô tả bên dưới) có thể giúp các công ty đánh giá và tiếp cận các tùy chọn phát hiện phù hợp với nền tảng của họ.

Phát triển chương trình và hướng dẫn vận hành.CáiLiên minh Công nghệlà một liên minh ngành hướng tới việc ngăn chặn khai thác và lạm dụng tình dục trẻ em trực tuyến. Nó miễn phíCác con đườngChương trình được thiết kế dành cho các công ty khởi nghiệp và các nền tảng vừa và nhỏ, cung cấp các mẫu để xây dựng chương trình an toàn cho trẻ em, hướng dẫn về phát hiện CSAM và báo cáo NCMEC, thông tin về các yêu cầu pháp lý toàn cầu, và hỗ trợ về các rủi ro mới nổi như tống tiền tài chính và các tác hại do AI tạo ra. Anthropic là thành viên của Liên minh Công nghệ. Bạn có thể liên hệ vớiĐội ngũ Liên minh Công nghệcho buổi tư vấn ban đầu.

Báo cáo.Các nền tảng có trụ sở tại Mỹ có kiến thức thực tế về CSAM rõ ràng được yêu cầu pháp lý phải báo cáo choĐường dây CyberTipline của NCMEC. Các nền tảng có thểđăng ký với NCMECđể truy cập vào hệ thống báo cáo CyberTipline, và NCMEC công bố thêmtài nguyên pháp lývề nghĩa vụ báo cáo. Các nền tảng hoạt động ở các khu vực pháp lý khác nên tham khảo các yêu cầu báo cáo địa phương; INHOPE duy trì mộtdanh bạ các đường dây nóng quốc giaKhi bạn xây dựng chương trình của mình, hãy cân nhắc việc tích hợp ghi nhật ký cho mục đích báo cáo minh bạch.

Trang này được cung cấp chỉ với mục đích thông tin và không cấu thành lời khuyên pháp lý hay sự tán thành của Anthropic. Hãy tham khảo luật sư của riêng bạn về các nghĩa vụ cụ thể của bạn.