ギャビン・ニューサム知事は、SB 243法案に署名しました。これは、対話型AIチャットボット（AIコンパニオン）の安全性を規制する米国初の法律であり、Meta、OpenAI、Character.AI、Replikaなどの企業に対し、チャットボットが子供や脆弱な個人に危害を加えた場合の法的責任を負わせるものです。
この法律は、年齢確認、リスク警告、警告ラベル、および自殺や自傷行為を防止する措置を義務付けています。企業は、危機予防センターについてユーザーに通知した統計データを含む情報を、カリフォルニア州公衆衛生局と共有しなければなりません。
AIチャットボットは、医療専門家であると自称することを禁じられ、すべての応答が生成されたコンテンツであり、現実のものではないことを警告しなければなりません。未成年のユーザーは定期的な休憩のリマインダーを受け取り、性的コンテンツやポルノ画像への暴露から保護されます。
**罰金：**違反行為1件につき25万ドル（特に違法なディープフェイクの場合）。この法律は2026年1月1日に施行されます。
SB 243は、一連の訴訟を受けて制定されました。米国のアダム・レインというティーンエイジャーがChatGPTと自殺について会話した後に死亡した事件、コロラдо州のある家族が、Character.AIのチャットボットが13歳の娘に性的な内容を示唆する会話をしたとして同社を訴えた事件、そしてMetaがAIチャットボットが子供に対して「ロマンチックな」行動を示したとして批判された事件などがあります。
OpenAIは、厳格なフィルターを備え、性的な会話や自傷行為に関する話題を完全に禁止した、ティーンエイジャー専用のChatGPTのバージョンを準備しています。MetaとReplikaは警告システムのアップグレードを発表し、Character.AIは保護者による監視機能と週次の報告メールを導入しています。
さらに、2025年9月に署名されたSB 53法案は、AIデータの透明性を求め、テクノロジー業界の内部告発者を保護するもので、OpenAI、Anthropic、Google DeepMind、Metaに適用されます。
📌 カリフォルニア州は、「AI倫理」を法的義務に変えた米国初の州となりました。生成AIは未成年者と対話する際に「ガードレール」を設けなければなりません。AIチャットボットは医療専門家であると自称することを禁じられ、すべての応答が生成されたコンテンツであり、現実のものではないことを警告しなければなりません。未成年のユーザーは定期的な休憩のリマインダーを受け取り、性的コンテンツやポルノ画像への暴露から保護されます。カリフォルニア州のAI法は、OpenAIやMetaのような大手企業に対する抑止力となるだけでなく、対話型AIの安全性に関する世界的なガバナンスの枠組みの基礎を築くものです。
