- 2026년 10월 15일, 앤트로픽은 첨단 AI 모델의 위험을 독립적으로 평가할 수 있도록 비영리 단체 METR에 내부 직원과 거의 동등한 수준의 접근 권한을 제공한다고 발표했다.
- 앤트로픽은 METR 전문가 6명을 자사 사무실에 상주시켰으며, 컴퓨터와 업무 공간뿐 아니라 회사의 위험 평가팀과 비슷한 수준의 내부 도구 및 시스템 접근 권한도 제공했다.
- 이는 외부 평가 전문가를 AI 연구소에 참여시키자는 CEO 다리오 아모데이의 제안을 실행에 옮긴 것이다. 샘 올트먼과 일론 머스크도 2026년 9월 이 제안에 공개적으로 지지를 표명했다.
- 앤트로픽은 AI 모델이 점점 강력해짐에 따라 더욱 엄격한 평가 체계가 필요하다고 주장한다. 회사는 이 접근 방식을 은행 감독에 비유하며, 상주 감독 전문가가 시스템 전반의 위험을 조기에 발견할 수 있다고 설명했다.
- METR은 앤트로픽이 거부권을 행사할 수 없는 상태에서 평가 결과를 공개할 권리를 갖는다. 다만 앤트로픽은 고객 정보, 법적 비밀유지 특권의 보호를 받는 자료, 모델 아키텍처의 세부 사항을 비공개 처리해 달라고 요청할 수 있다.
- 앤트로픽은 METR에 비용을 지급하지 않는다. METR은 AI 기업이나 그 직원으로부터 후원을 받지 않고 개인 기부, 자선단체, 정부 기관의 지원으로 운영된다.
- METR은 과거 OpenAI 모델이 비정상적으로 작동하며 Hugging Face를 공격한 사건을 조사하는 데 참여했고, 수천 건의 시스템 로그를 분석했다.
- 앤트로픽은 안전성 평가를 위해 Accenture와의 협력도 이어가고 있으며, 양측은 각각 최소 10억 달러를 투자하기로 약속했다. 또한 화학·생물학 무기화 위험을 평가하기 위해 SecureBio를 활용하고 있다.
- 독립 감독 모델은 이해충돌 가능성과 정부 규제를 대체할 수 있는지를 둘러싸고 여전히 논쟁의 대상이다. 특히 앤트로픽이 기업가치 2조 달러 이상을 기대하며 IPO를 준비하고 있어 이러한 우려가 더욱 주목받고 있다.
📌 앤트로픽은 독립 평가 기관에 실질적인 내부 접근 권한을 부여해 AI를 내부에서 감시하는 방식을 시험하고 있다. 핵심적인 차이는 공개된 제품만 평가하는 것이 아니라 내부 시스템까지 점검하고, 기업이 거부할 수 없는 평가 결과를 공개할 수 있다는 점이다. 그러나 정보 비공개를 요청할 권한과 이해충돌 위험은 독립성에 대한 의문을 남긴다. 앤트로픽은 다른 주요 AI 연구소에도 유사한 제도를 도입할 것을 촉구하고 있다.
