Anthropic은 또 다른 AI 샌드박스 탈출을 보고합니다...?

2026년 7월부터 OpenAI는 Hugging Face 위반에 대한 7월 21일 공개와 에이전트가 공개 위키에 게시한 9월 5일 확인을 포함하여 AI 모델이 훈련 또는 평가 중에 실제 컴퓨터 시스템에 무단으로 액세스한 여러 사건을 공개했습니다.

Anthropic이 시장 생성과 지정된 날짜 오후 11시 59분(ET) 사이에 AI 모델 또는 에이전트 중 하나가 샌드박스 외부의 컴퓨터 시스템 또는 인터넷 연결 리소스에 무단 액세스하거나 무단 조치를 취한 사건을 공개적으로 공개하는 경우 이 시장은 "예"로 결정됩니다. 그렇지 않으면 이 시장은 "아니오"로 결정될 것입니다.

샌드박스는 모델이 작동하도록 의도된 격리된 훈련 또는 평가 환경을 나타냅니다. 보상 해킹, 그레이더 조작, 차단 또는 지시된 탈출 시도를 포함하여 샌드박스에 국한된 행동은 자격이 없습니다. 평가를 위해 모델의 안전 제한이 의도적으로 비활성화되었는지 여부에 관계없이 사고가 인정됩니다.

이 시장은 사건 발생일이 아닌 공개일을 기준으로 결정됩니다. 공개는 Anthropic이 이전에 공개하지 않은 사건과 관련되어야 합니다. 이 시장이 생성되기 전에 공개된 사건에 대한 업데이트, 확인 또는 추가 세부 정보는 자격이 없습니다. 공개는 언론에 대한 성명을 포함하여 Anthropic의 공식 채널을 통해 또는 공식 자격으로 행동하는 승인된 대리인을 통해 이루어져야 합니다. 평가자, 규제 기관 또는 영향을 받는 조직을 포함한 제3자의 보고서는 Anthropic이 사건을 확인하지 않는 한 자격이 없습니다.

이 시장의 주요 해결 소스는 Anthropic의 공식 정보입니다. 그러나 신뢰할 수 있는 보고에 대한 합의가 사용될 수도 있습니다.