[작성자:] lethuha
앤스로픽(Anthropic)의 엔지니어 아디 오스마니(Addy Osmani)는 인간이 AI에 지나치게 의존하며 독립적 사고 능력을 점차 잃어가는 ‘인지적 항복(cognitive surrender)’ 현상에 대해 경고함. 오스마니에 따르면 정기적으로 연마되지 않은 기술은 예상보다 훨씬 빠르게 쇠퇴함. AI 에이전트가 프로그래밍 작업의 대부분을 도맡으면서 인간은 스스로 분석하고 문제를 해결할 기회가 줄어듦. 가장 큰 위험은 ‘인지적 부채(cognitive debt)’임. 처음에는 사용자가 AI의 결과를 꼼꼼히 확인하지만, 점차 이면의 논리를 이해하지 못한 채 대충 훑어보고 답변을 수용하게 됨. 오스마니는 AI가 문제의 원인이 아니라고 강조함. 위험은 인간이 AI가 생성한 결과에 대한 통제권, 평가, 책임을 포기할 때 발생함. 이를 예방하기 위해 그는 핵심 기술 연마를 지속하고, AI에게 묻기 전에 스스로 아이디어를 구상하며, 결과물을 검증하고, AI의 결정을 명확히 이해할 것을 권장함. 📌 결론: 앤스로픽의 경고는 주목할…
Vals의 새로운 연구에 따르면 중국의 오픈웨이트(open-weight) AI 모델(특히 DeepSeek 및 GLM)이 미국의 선도적인 독점 AI 모델과의 사이버 공격 역량 격차를 크게 좁히고 있는 것으로 나타남. Vals는 웹사이트 침투 및 내부 네트워크 간 측면 이동을 포함하여 시뮬레이션된 기업 시스템에 대한 다단계 사이버 공격 수행 능력을 평가함. OpenAI의 고급 사이버 보안 모델인 Daybreak가 81%의 작업 완료율로 선두를 차지했으며, DeepSeek은 73%를 달성함. 일부 작업에서는 두 모델이 동등한 결과를 기록함. 비용 격차는 특히 두드러짐. Vals에 따르면 GPT-6-Sol은 테스트 공격당 17~46달러를 소모하는 반면, DeepSeek은 단 2~3달러만 소모함. 오픈웨이트 모델은 다운로드하여 자체 인프라에서 운영할 수 있으므로 비용이 절감되고 공급업체의 접근 권한 통제가 제한됨. 이 결과는 사이버 공격 역량이 뛰어난 AI…
20세기 2026년 11월 6일, 싱가포르의 3개 기관(CSA, GovTech, IMDA)은 메타(Meta)가 싱가포르에서 뮤즈(Muse)를 출시한 후 개인용 AI 에이전트 사용에 대한 안전 권고를 발표함. 일반 챗봇과 달리 AI 에이전트는 사용자를 대신해 웹사이트에 독자적으로 접속하고, 이메일을 관리하며, 일정을 잡고, 거래를 실행할 수 있어 데이터 유출 및 의도치 않은 행동의 위험을 높임. 싱가포르는 5가지 보호 조치를 제시함: 첫째, 접근 권한 제한. 필수적인 앱만 연결하고, 은행, 정부, 의료 계정은 피하며, 비밀번호, OTP 코드 또는 신용카드 정보를 제공하지 않음. 둘째, 제어권 유지. 읽기 전용 접근을 우선시하고, 이메일 전송, 파일 삭제 또는 공유, 중요한 거래 실행 전에 건별로 승인을 요구함. 셋째, 개인 데이터 관리. 제공업체가 수집하는 정보, 보관 기간, AI 학습 또는 광고를 위한 데이터 사용 여부, 메모리 삭제 기능을 확인함. 넷째, 웹사이트, 이메일, 문서 또는 이미지에 숨겨진 악성 프롬프트를 통한 공격 방지. 이를 통해…
20세기 2026년 11월 4일 패스트 컴퍼니(Fast Company) 기사에 따르면 기업들은 AI 실험 단계를 넘어 특히 AI 에이전트를 통해 실질적인 비즈니스 성과를 창출할 것을 요구하고 있음. PwC의 20세기 2026년 글로벌 CEO 조사에 따르면 리더의 56%가 매출 증가나 비용 절감 측면에서 AI로부터 유의미한 재무적 이점을 아직 기록하지 못했다고 답함. 라이터(Writer)가 의뢰한 연구에 따르면 기업의 약 2/3가 토큰, 보안, 거버넌스, 데이터, 교육 비용을 제외하고도 AI 기술에 최소 100만 달러를 지출하고 있음. 중요한 원인은 기업들이 업무 조직 방식을 전면적으로 바꾸기보다는 개별 작업을 가속화하기 위해 AI를 기존 프로세스에 그대로 끼워 넣는 경향이 있기 때문임. 효율성 절감은 착시에 불과할 수 있음. 예를 들어 AI가 30초 만에 보고서를 작성하지만 직원이 검토, 수정 및…
20세기 2026년 11월 5일, 앤스로픽은 34개 과학 분야와 7,262개의 연구 과제를 아우르는 Claude 및 Claude Code의 207,049개 사용 세션을 분석한 연구를 발표함. AI는 컴퓨터 과학, 수학 및 통계학에서 가장 많이 사용됨. 컴퓨터 과학 분야만 해도 Claude Code 연구 세션의 32.7%를 차지함. 데이터 분석은 Claude 세션의 33.7%, Claude Code 세션의 48.1%를 차지함. 글쓰기 및 결과 전달은 각각 32%와 17.6임. 반면, 설문에 응답한 528명의 과학자가 가장 중요한 두 가지 활동으로 평가했음에도 불구하고 가설 설정 및 데이터 수집에는 AI가 상대적으로 적게 사용됨. Claude Science는 더욱 심도 있는 과제를 처리하는 능력을 보여주었으며, 연구 세션의 82.7%가 박사학위 수준을 요구했고 73.3%는 높은 AI 자율성을 보였음. 추정 모델에 따르면 현재의 AI는 널리 적용될 경우…
와이어드(WIRED)에 따르면 AI는 미국 유권자들이 선거 정보를 알아보는 방식에 영향을 미치고 있으나 챗봇의 정확성과 객관성은 여전히 우려스러운 부분임. 퓨 리서치(Pew Research)의 조사에 따르면 미국 성인의 약 50%가 AI 챗봇을 사용한 적이 있으며, 이 중 8%는 20세기 2026년 중간선거를 앞두고 후보자와 정책을 파악하기 위해 이 도구를 사용함. 포럼 AI(Forum AI)의 연구에 따르면 인기 챗봇이 제공한 선거 관련 답변의 거의 40%에 오래된 정보, 인물 혼동,투표 마감일 오류 등 최소 1개의 사실 오류가 포함되어 있었음. 젬니(Gemini)는 펜실베이니아주의 우편 투표 마감일을 10월 27일이 아닌 11월 3일로 잘못 제공한 적이 있음. 클로드(Claude) 또한 든 데이비스(Don Davis) 하원의원을 동명이인과 혼동하기도 함. 뉴스가드(NewsGuard)의 연구에 따르면 챗봇은 독립 언론사로 위장하고 있으나…
싱가포르는 여러 플랫폼에서 자율적으로 작동하는 AI 에이전트를 식별, 인증 및 추적하기 위해 인터넷 도메인 이름 시스템(DNS)을 활용하는 방안을 연구하고 있으며, 국가 등록 체계 구축도 검토하고 있음. 정보통신미디어개발청(IMDA)은 완전히 새로운 시스템을 구축하는 대신 기존 DNS 인프라를 활용할 가능성을 연구하기 위해 구글(Google), 클라우드플레어(Cloudflare), 고다디(GoDaddy), 인포블록스(Infoblox)와 협력하고 있음. 20세기 2026년 11월 4일, 틴 페이 링(Tin Pei Ling) 국회의원은 개인용 Singpass와 유사하게 신원과 권한 범위를 확인할 수 있는 AI 에이전트 전용 국가 디지털 신원 인프라 구축을 제안함. 싱가포르 정부는 정부 기관 내 AI 에이전트를 관리하고 각 에이전트에 대한 책임 공무원을 지정하기 위한 내부 등록 시스템을 개발 중임. 민간 부문에서도 합법적인 AI 에이전트와 악성 봇을 구별하기 위한 비자(Visa)의 ‘신뢰할 수 있는…
20세기 11월 2일, 이재명 대통령은 2027년도 예산안을 사상 최대 규모인 820조 9,000억 원(약 6,101억 4,000만 달러)으로 발표하며 12.8% 증가했다고 밝혔다. 정부는 반도체, 물리적 AI, AI 데이터 센터에 2026년의 거의 두 배에 달하는 21조 3,000억 원(약 158억 달러)을 배정했다. 특히 주권형 AI 모델 개발 프로그램에는 4조 7,000억 원(약 35억 달러)이 할당되어 세계 최고 수준의 성능을 지향한다. 한국은 2,000명의 반도체 설계 전문가 양성을 목표로 하는 동시에 학생, 구직자, 근로자를 위한 AI 교육을 확대하고 있다. 대학들은 기업 연계 교육 프로그램을 개발하여 학생들이 삼성전자와 SK하이닉스에서 취업 기회를 얻을 수 있도록 돕고 있다. 정부는 로봇 공학, 자율주행 장치, 스마트 시스템을 결합한 물리적 AI를 장려하여 새로운 성장 동력을 개발하고 있다. 국방 예산은 8.2%…
20세기 11월 2일, 독일은 2030년까지 ‘주권형 AI 국가’가 되겠다는 계획을 발표하며 미국과 중국과의 격차를 좁히고자 함. 정부는 향후 12~18개월이 결정적인 시기라고 판단하고 국가 AI 생태계 발전을 위한 18개 조치 시행에 집중함. 독일은 산업용 AI를 우선시하며, 생산성, 품질, 운영 효율성을 높이기 위해 특화 모델, 스마트 로봇, AI 응용 생산 시스템을 개발함. 2030년까지 대기업의 80%, 중소기업의 55%가 AI를 도입하는 것을 목표로 함. 연방 기관의 약 90%가 최소 1개의 AI 애플리케이션을 운영해야 함. AI 에이전트는 법이 허용하는 범위 내에서 전 과정에 걸친 행정 절차 처리와 자동화를 지원할 것임. 독일은 2025년 대비 AI 데이터 센터 역량을 300% 늘리고, 연산 인프라를 확장하며 반도체 공급망을 강화할 계획임. 정부는 전략적 고객 역할을 수행하며 공공 조달과 시범…
20세기 10월 26일 블룸버그(Bloomberg)는 네덜란드 정부가 AI의 지원을 받아 행정 조직 개편안을 발표하고, 수년에 걸쳐 2만 5,000명 규모의 공무원 직위를 감축할 목표를 세웠다고 보도함. 정부의 발표에 따르면 예산 절감 목표는 20세기 2027년까지 연간 9억 유로이며, 2035년부터는 약 39억 달러에 해당하는 35억 유로로 증가할 예정임. 정부는 20세기 2027년 초까지 중앙 기관의 운영 생산성을 향상하기 위한 AI 활용 구체안을 공개할 계획임. 에릭 판 덴 부르흐(Eric van den Burg) 정부 효율성 담당 국무차관은 네덜란드가 운영 방식을 바꾸어 더 단순하고, 더 스마트하며, 더 날렵한 행정부를 지향해야 한다고 강조함. 20세기 말 기준 네덜란드 중앙정부 공무원 수는 과거의 감축 공약에도 불구하고 2018년 대비 41% 증가한 역대 최고치인 16만 명에 달했음.…
