로이터 통신은 Anthropic의 위협 인텔리전스 보고서를 인용하여, 계정이 적발되고 조치되기 전에 Claude가 무기 개발, 사이버 공격, 감시 및 사기와 관련된 활동에서 여러 조직과 개인에 의해 악용되었다고 보도했습니다.
Anthropic은 중국 내 일부 주체들이 Claude를 사용하여 전자전 소프트웨어 개발, 레이더 교란 시뮬레이션, 방공망 제압 계획을 수립했으며, 여기에는 조기 경보 레이더, 패트리어트 및 텐궁(Sky Bow) 미사일 진지, 공군 기지, 지휘 벙커 등 대만 내 12개 목표물에 대한 시뮬레이션이 포함되어 있다고 비난했습니다.
또 다른 그룹은 Claude를 이용해 중국 해군의 대어뢰 시스템을 위한 200페이지가 넘는 기술 제안서를 작성하고 미 해군 기술과 비교하는 데 사용한 것으로 알려졌습니다.
이 보고서는 또한 Claude가 고출력 마이크로웨이브 무기 연구, 부품 공급망 추적, 중국 기관을 위한 보고서 작성에 사용되었다고 기술했습니다.
예멘에서는 Anthropic이 유도미사일, 사거리 2,000km 이상의 탄도미사일, 그리고 극초음속 활공체를 사용하는 변형 모델의 프로그래밍, 시뮬레이션 및 문제 해결에 Claude를 사용하는 그룹을 발견했습니다. 회사는 많은 요청이 차단되었으며 이 무기들이 실제로 배치되었다는 증거는 없다고 밝혔습니다.
러시아의 일부 주체들은 Claude를 사용하여 자율형 FPV 드론 군집 제어 소프트웨어를 개발하고, 제재를 피하기 위해 중국과 홍콩의 중개상을 통해 이중 용도 부품을 조달하려 한 혐의를 받고 있습니다.
Anthropic은 치쿤구니아 바이러스, 고병원성 조류인플루엔자, 오르토폭스바이러스, 신종 독소와 관련된 생물학적 연구를 지원하기 위해 Claude를 사용하려는 수많은 시도를 기록했으며, 이러한 활동이 자사 서비스가 제공되지 않는 지역에서 이루어졌다고 밝혔습니다.
사이버 보안 분야에서 회사는 Claude가 소프트웨어 취약점 탐색, 익스플로잇 코드 개발, 외국 정부 기관을 포함한 약 50개 조직의 네트워크 침투 지원에 사용되었다고 밝혔습니다.
이 보고서는 또한 Claude가 정보 수집 활동, 위구르족, 티베트인, 활동가, 유대인 단체, 미 해군력에 대한 감시뿐만 아니라 말리에서 소셜 미디어 모니터링 플랫폼 및 약 2,500만 개의 SIM 카드 추적 시스템을 구축하는 데 사용되었다고 상세히 기술했습니다.
Anthropic은 또한 사기 행각을 목적으로 적어도 25,000명의 사용자를 겨냥한 4,700개 이상의 상호작용형 AI 캐릭터를 가진 20개 이상의 데이팅 앱을 개발하는 중국 내 캠페인을 발견했습니다.
📌 Anthropic의 보고서는 생성형 AI가 무기 개발, 생물학적 연구, 사이버 공격부터 감시와 사기에 이르기까지 다양한 안보 및 군사적 목적으로 점점 더 악용되고 있음을 보여줍니다. 이는 자사 시스템 내 탐지 활동을 바탕으로 Anthropic이 제기한 고발 및 평가이며, 관련된 일부 정부와 조직은 이를 부인하거나 아직 답변하지 않았습니다. 본 내용은 악용 위험을 제한하기 위해 첨단 AI 모델 사용에 대한 감독을 강화해야 할 필요성을 강조합니다.
