개빈 뉴섬 주지사는 SB 243 법안에 서명했습니다. 이는 미국 최초로 대화형 AI 챗봇(AI 동반자)의 안전을 규제하는 법률로, 메타, 오픈AI, 캐릭터.AI, 레플리카와 같은 회사들이 챗봇으로 인해 어린이나 취약 계층이 피해를 볼 경우 법적 책임을 지도록 합니다.
이 법은 연령 확인, 위험 경고, 경고 라벨 부착, 자살 또는 자해 방지 조치를 요구합니다. 기업들은 위기 예방 센터에 대해 사용자에게 알린 통계를 포함한 데이터를 캘리포니아 공중보건부와 공유해야 합니다.
AI 챗봇은 의료 전문가라고 주장할 수 없으며, 모든 답변은 생성된 콘텐츠이며 실제가 아니라고 경고해야 합니다. 미성년 사용자는 주기적인 휴식 알림을 받게 되며, 성적인 콘텐츠나 음란물 이미지 노출로부터 보호됩니다.
벌금: 위반 행위당 25만 달러(특히 불법 딥페이크의 경우). 이 법은 2026년 1월 1일부터 시행됩니다.
SB 243은 일련의 소송 이후 도입되었습니다. 미국의 십대 애덤 레인은 챗GPT와 자살에 대해 대화한 후 사망했고, 콜로라도의 한 가족은 캐릭터.AI의 챗봇이 13세 딸에게 성적인 콘텐츠를 제공했다며 소송을 제기했으며, 메타 역시 AI 챗봇이 어린이에게 “낭만적인” 행동을 보인 것으로 비판받았습니다.
오픈AI는 엄격한 필터와 성적인 대화나 자해 관련 논의를 완전히 금지하는 청소년 전용 챗GPT 버전을 준비하고 있습니다. 메타와 레플리카는 경고 시스템을 업그레이드한다고 발표했으며, 캐릭터.AI는 부모 모니터링 및 주간 보고 이메일을 구현하고 있습니다.
또한 2025년 9월에 서명된 SB 53 법안은 AI 데이터 투명성을 요구하고 기술 산업의 내부 고발자를 보호하며, 오픈AI, 앤트로픽, 구글 딥마인드, 메타에 적용됩니다.
📌 캘리포니아는 ‘AI 윤리’를 법적 의무로 전환한 미국 최초의 주가 되었습니다. 생성형 AI는 미성년자와 상호작용할 때 ‘가드레일’을 갖춰야 합니다. AI 챗봇은 의료 전문가라고 주장할 수 없으며, 모든 답변은 생성된 콘텐츠이며 실제가 아니라고 경고해야 합니다. 미성년 사용자는 주기적인 휴식 알림을 받게 되며, 성적인 콘텐츠나 음란물 이미지 노출로부터 보호됩니다. 캘리포니아의 AI 법은 오픈AI와 메타와 같은 대기업에 대한 억제책일 뿐만 아니라, 대화형 AI 안전에 대한 글로벌 거버넌스 프레임워크의 기반을 마련합니다.
