Anthropic, 외부 AI 안전성 평가기관 METR에 내부 접근 허용… 독립 검증 체계 확대
Anthropic이 독립 AI 평가기관 METR의 연구원 6명에게 내부 위험 평가팀과 유사한 수준의 접근 권한을 제공하기 시작했다. METR은 AI 모델과 안전 관리 체계를 조사하고, Anthropic의 사전 승인 없이 평가 결과를 공개할 수 있다. 다만 고객 정보와 모델 구조 등 일부 민감 정보는 접근 및 공개가 제한된다.
UPDATE DETAIL
기록 기준: 2026년 10월 16일 12:00 KST. 공식 발표일: 2026년 10월 15일. 정확한 발표 시각은 공식 원문에서 확인되지 않아, 직전 24시간의 조사 구간에 해당하는지는 확정할 수 없다.
무엇이 발표됐는가
2026년 10월 15일, Anthropic은 외부 독립 평가기관의 내부 접근을 확대하는 새로운 평가 방식을 발표했다.
이번 발표의 중심에는 비영리 AI 평가기관 METR이 있다.
Anthropic은 METR 소속 연구원 6명에게 회사 장비, 사무 공간, 내부 도구 및 시스템에 대한 접근을 제공했다.
접근 수준은 Anthropic 자체 위험 평가팀이 사용하는 환경과 대체로 유사하다.
단순히 공개된 AI 모델을 외부에서 테스트하는 것을 넘어, 회사 내부에서 안전성을 평가하는 과정에 외부 전문가가 참여할 수 있게 한 것이다.
주요 기능과 작동 방식
외부 평가자의 내부 접근
AI 개발사는 일반적으로 모델의 학습 과정, 내부 안전장치, 위험 평가 기록에 대해 외부보다 훨씬 많은 정보를 보유한다.
따라서 외부 연구자가 공개 모델만 테스트해서는 개발사가 알고 있는 모든 위험을 평가하기 어렵다.
Anthropic은 이러한 정보 격차를 줄이기 위해 METR 평가 인력에게 내부 접근 권한을 제공한다.
다만 모든 정보가 공개되는 것은 아니다. 고객 데이터, 변호사와 의뢰인 사이의 비밀유지 특권이 적용되는 정보, 모델 아키텍처 등은 접근이 제한되는 범주다. Anthropic은 모델 아키텍처 정보도 위험 평가와 관련성이 높은 경우 명시적인 내부 승인을 거쳐 공유할 수 있다고 덧붙였다.
평가 결과의 독립적인 공개
이번 발표에서 중요한 변화는 결과 공개 권한이다.
METR은 Anthropic의 위험 수준, 사고, 안전 관리 관행에 대한 평가를 공개할 수 있다.
Anthropic은 발표 자체를 거부할 수 없지만, 사전에 정해진 일부 민감 정보에 대해서는 삭제 또는 가림 처리를 요구할 수 있다.
METR은 그러한 가림 처리가 정당하다고 판단하는지 공개적으로 설명할 수 있다. 단, 가려진 정보 자체를 공개할 수는 없다.
Anthropic의 3단계 외부 평가 체계
- 1단계: 제한된 범위의 위험 조사. Anthropic이 접근 범위를 정하며 결과 공개에는 승인이 필요하다.
- 2단계: 더 넓은 정보 접근. 사전 승인 없이 공개할 수 있지만 정해진 민감 정보의 삭제 요구는 가능하다.
- 3단계: 직원에 준하는 내부 접근. 2단계와 유사한 독립 공개 권한을 가진다.
이번에 내부 접근을 받은 METR 팀은 3단계에 해당한다.
접근 권한은 계약과 보안 기준에 따라 운영되는 소규모 팀에 한정된다. Anthropic은 다른 프로젝트를 수행하는 연구자를 포함한 METR의 다른 직원들과도 이번 팀의 작업 정보를 분리한다고 설명한다.
SecureBio는 이전 위험 보고서의 시범 검토를 공개한 뒤 8월 위험 보고서의 화학·생물 무기 관련 장을 검토하고 있다. Anthropic은 검토가 끝나면 접근 확대를 고려하겠다고 설명한다.
Accenture 및 Faculty와도 평가 협력을 추진하고 있으며, Hugging Face 등과는 초기 논의 단계다.
이들 기관이 모두 METR과 같은 접근 권한을 확보한 것은 아니다.
이용 대상과 지원 환경
이번 발표는 일반 사용자를 위한 신규 Claude 기능이나 유료 상품이 아니다.
- 적용 대상: Anthropic의 AI 모델 및 안전 관리 체계
- 이번 직원 수준 접근의 참여 기관: METR
- 내부 참여 인력: 6명
- 현재 상태: 내부 접근 제공 시작
- 일반 사용자 이용 기능: 해당 없음
- 신규 구독 플랜 및 가격: 해당 없음
- 이번 접근에 따른 평가 결과: 향후 METR이 공개할 예정
이번 조치로 Claude 이용자의 요금이나 사용량 제한이 변경됐다는 공식 발표는 없다.
평가기관이 설명하는 독립성의 한계
METR은 자체 원칙에서 평가의 범위·기간, 접근 제한, 삭제 처리와 외부 압력을 공개해야 한다고 설명한다. 동시에 기업의 자발적인 협력과 정보 제공에 의존하는 현재 체계에서는 독립성을 확보하기 어렵고, 제공받은 모든 정보를 직접 검증하지 못할 수도 있다고 밝힌다. METR의 AI 기업 협력 원칙
공식 자료
WHAT CHANGED
무엇이 바뀌는가
기존 방식
AI 기업은 자체적인 안전성 평가를 진행하고 그 결과를 시스템 카드나 위험 보고서 등으로 공개해 왔다.
외부 평가기관도 모델을 테스트하거나 위험 보고서를 검토할 수 있었지만, 기업 내부의 모든 평가 과정과 근거에 접근할 수 있는 것은 아니었다.
Anthropic과 METR 역시 이번 발표 이전부터 위험 보고서 검토를 진행해 왔다.
변경된 방식
이번에는 METR의 일부 평가 인력이 실제 Anthropic 내부에서 근무하는 직원과 유사한 수준으로 도구와 정보에 접근한다.
또한 평가 결과를 공개하는 과정에서 Anthropic이 발표 자체를 막을 수 없도록 하는 구조를 도입했다.
실제 영향 — DECHIVE 해석
이번 변화는 AI 모델의 안전성을 보장하는 조치가 아니라, 안전성 주장에 대한 검증 가능성을 높이려는 조치다.
기업이 직접 작성한 안전성 보고서와 외부 평가자가 내부 근거를 확인한 뒤 작성한 보고서는 검증 구조가 다르다.
그러나 외부 평가자가 접근할 수 없는 정보가 여전히 존재하고, 평가기관 선정과 협력 조건에 기업의 영향력이 남아 있다는 한계도 있다.
따라서 독립 평가기관이 참여했다는 사실만으로 AI 시스템이 안전하다고 결론 내려서는 안 된다.
WHAT WE CAN DO
이 변화로 무엇을 할 수 있는가
일반 사용자는 무엇을 확인할 수 있는가
이번 업데이트를 통해 사용자가 당장 실행할 수 있는 새로운 Claude 기능은 없다.
대신 앞으로 AI 기업의 안전성 주장을 검토할 때 참고할 수 있는 평가 자료가 추가될 가능성이 생겼다.
개발자와 연구자는 어떻게 활용할 수 있는가
AI 모델을 서비스에 적용하거나 위험성을 검토하는 개발자와 연구자는 다음 기준을 활용할 수 있다.
- 해당 AI 모델의 위험 평가 보고서가 존재하는지 확인한다.
- 보고서를 작성한 주체가 개발사인지 외부 기관인지 구분한다.
- 외부 평가자가 어떤 정보에 접근했는지 확인한다.
- 평가 과정에서 제한된 정보와 공개되지 않은 항목을 살펴본다.
- 보고서의 결론과 실제 서비스 적용 환경이 일치하는지 검토한다.
주의할 점
외부 검증은 무조건적인 신뢰의 근거가 아니다.
평가자의 독립성, 평가 범위, 접근 제한, 평가 방법, 결과 공개 권한까지 함께 확인해야 한다.
DECHIVE 검증 관점
AI 기업이 안전하다고 말하는 것과, 외부 평가자가 그 주장을 검증할 수 있는 것은 다른 문제다.
이번 발표에서 주목해야 할 것은 평가 결과가 아니라, 외부 평가자가 그 결과를 판단할 수 있도록 어떤 접근 권한을 확보했는가다.
향후 METR의 실제 평가 결과가 공개되면 이번 제도가 얼마나 효과적으로 작동했는지 다시 검증할 필요가 있다.