Anthropic은 일부 정부 기관이 감시 활동, 데이터 분석, 정보 지원을 자동화하기 위해 Claude를 사용했다고 밝히는 보고서를 발표했습니다.
언급된 사례에는 말리, 중국, 이란이 포함되어 있으며, AI가 감시 작전에 소요되는 비용과 인력을 크게 줄이고 있음을 보여줍니다.
말리에서는 보안 기관에서 일하는 컨설턴트가 Claude를 사용하여 통신사로부터 데이터를 수집하고 개인 프로필을 생성하는 시스템을 구축했습니다.
이란에서는 Anthropic이 소셜 네트워크에서 사용자 신원을 수집하도록 설계된 악성 Firefox 확장 프로그램을 개발하기 위해 Claude를 사용하는 주체들을 발견했습니다.
보고서에 따르면 중국의 한 종교 관련 기관은 여러 분석 팀을 단 하나의 사무실로 축소하고, AI를 사용하여 매월 수천 개의 조사 보고서를 작성했습니다.
Claude는 또한 소셜 미디어 게시물 분석, 정치적 민감도 수준 평가, 모니터링 또는 통제 대상 식별에도 사용되었습니다.
6월에 Anthropic은 시스템이 가동되기 전에 이란 및 페르시아만 지역의 시민을 추적하기 위한 상업용 감시 플랫폼을 개발 중이던 계정을 차단했습니다.
발견된 모든 사례는 최신 Fable이나 Mythos 라인업 대신 Claude Haiku, Sonnet 또는 Opus 모델을 사용했습니다.
Anthropic은 관련된 모든 계정을 차단하고 보호 메커니즘을 강화했다고 밝혔으나, Claude에 대한 접근 권한을 잃을 경우 악의적인 주체들이 오픈소스 AI 모델로 전환할 수 있다고 경고했습니다.
📌 AI는 더 이상 단순한 실험적 도구가 아니며 일부 정부 기관의 감시 프로세스에 도입되었습니다. AI는 감시 목표를 바꾸는 대신 데이터 수집부터 추적 대상 선정에 이르기까지 이전에는 많은 분석가가 필요했던 작업을 자동화하는 데 기여하고 있습니다. Anthropic은 이러한 추세가 이미 현실에서 진행되고 있으며 AI 모델의 역량이 더욱 강력해짐에 따라 계속 증가할 것이라고 진단합니다.
