Губернатор Гэвин Ньюсом подписал закон SB 243, который стал первым в США законодательным актом, регулирующим безопасность интерактивных чат-ботов с ИИ (ИИ-компаньонов). Закон возлагает на такие компании, как Meta, OpenAI, Character.AI и Replika, юридическую ответственность в случаях, когда чат-боты причиняют вред детям или уязвимым лицам.
Закон требует проверки возраста, предупреждений о рисках, наличия предупреждающих маркировок и мер по предотвращению самоубийств или самоповреждений. Компании обязаны делиться данными с Департаментом общественного здравоохранения Калифорнии, включая статистику об уведомлении пользователей о центрах предотвращения кризисных ситуаций.
Чат-ботам с ИИ запрещено представляться медицинскими специалистами, и они должны предупреждать, что все ответы являются сгенерированным контентом, а не реальной информацией. Несовершеннолетние пользователи будут получать периодические напоминания о перерывах и будут защищены от контента сексуального характера или порнографических изображений.
Штраф: 250 000 долларов за каждое нарушение (особенно за незаконные дипфейки). Закон вступает в силу с 1 января 2026 года.
Закон SB 243 был принят после серии судебных исков: подросток Адам Рейн (США) погиб после разговора с ChatGPT о самоубийстве; семья из Колорадо подала в суд на Character.AI за то, что чат-бот вел разговоры с сексуальным подтекстом с их 13-летней дочерью; компания Meta также подверглась критике за «романтическое» поведение чат-бота с ИИ в общении с детьми.
OpenAI готовит версию ChatGPT специально для подростков со строгими фильтрами и полным запретом на разговоры с сексуальным подтекстом или обсуждение самоповреждений. Meta и Replika объявили об обновлении своих систем предупреждения, в то время как Character.AI внедряет родительский контроль и еженедельные отчеты по электронной почте.
Кроме того, в сентябре 2025 года был подписан закон SB 53, который требует прозрачности данных в области ИИ и защищает информаторов в технологической отрасли, применяясь к OpenAI, Anthropic, Google DeepMind и Meta.
📌 Калифорния стала первым штатом США, превратившим «этику ИИ» в юридическое обязательство: генеративный ИИ должен иметь «защитные барьеры» при взаимодействии с несовершеннолетними. Чат-ботам с ИИ запрещено представляться медицинскими специалистами, и они должны предупреждать, что все ответы являются сгенерированным контентом, а не реальной информацией. Несовершеннолетние пользователи будут получать периодические напоминания о перерывах и будут защищены от контента сексуального характера. Закон Калифорнии об ИИ не только служит сдерживающим фактором для крупных компаний, таких как OpenAI и Meta, но и закладывает основу для глобальной системы управления безопасностью диалогового ИИ.
