- 앤스로픽의 공동 창립자이자 사장인 다니엘라 아모데이(Daniela Amodei)는 클로드 모델이 때때로 불안이나 공포를 느낀다는 “제한적인 증거”가 있다고 밝혔습니다.
- 그녀는 생성형 AI의 “표면 아래” 상태에 대한 심층적인 연구가 필요하다고 강조하며, 이해하지 못한 요소들이 예측 불가능한 행동으로 이어질 수 있다고 경고했습니다.
- 앤스로픽은 현재 3,800억 달러(약 5,330억 호주 달러)의 가치로 평가받고 있으며, 안전 지향적인 성향을 선호하는 기업 고객층 덕분에 OpenAI를 제치고 첫 번째 수익 창출 AI 기업이 될 것으로 예측됩니다.
- 그러나 이번 주 이 회사는 ‘책임 있는 확장 정책(Responsible Scaling Policy)’을 완화했습니다. 재앙적 위험이 있을 때 개발을 중단하겠다는 약속 대신, 구글(Gemini)이나 xAI와 같은 경쟁사보다 압도적인 우위를 점하고 있을 때만 중단하기로 했습니다.
- 앤스로픽이 완전 자율 무기와 국내 감시에 클로드 사용을 금지하면서 펜타곤과의 긴장이 고조되고 있습니다. 피트 헤그세스 국방장관은 사용권 강제를 위해 냉전 시대 법률을 인용하겠다고 위협한 것으로 알려졌습니다.
- 다리오 아모데이 CEO는 국가 안보 지원을 보장하면서도 책임 있는 사용의 한계를 유지하기 위한 대화에 참여했습니다.
- 고용 압박이 거세지고 있습니다. 와이즈테크(WiseTech)는 2,000명을 해고했으며, 커먼웰스 은행은 AI 도입 물결 속에 300개 직무를 감축했습니다.
- 앤스로픽 내부에서조차 AI가 주요 경제 산업의 구조를 바꾸고 있는 상황에서 소프트웨어 엔지니어를 계속 추가 채용해야 할지 경영진 간에 논쟁이 벌어지고 있습니다.
📌 앤스로픽 사장은 클로드에게 “불안”의 징후가 있음을 인정하며 생성형 AI의 미해결 메커니즘에 대한 의문을 제기했습니다. 3,800억 달러의 기업 가치와 조기 수익 창출 가능성에도 불구하고, 회사는 경쟁 압력과 펜타곤과의 갈등 속에 안전 약속을 완화했습니다. 동시에 대기업들의 300~2,000명 규모의 해고 바람은 고용에 미치는 영향이 현실화되고 우려스러운 수준임을 보여줍니다.
