- В октябре 2026 года Anthropic ввела правила, запрещающие пользователям систематически оскорблять Claude или проявлять по отношению к нему неоправданную жестокость.
- При длительном оскорбительном поведении Claude может самостоятельно завершить диалог. В серьёзных случаях это может привести к бессрочной блокировке аккаунта.
- Anthropic подчеркнула, что правила не направлены на ограничение прямой критики, выражения недовольства или исследований и тестирования ИИ.
- Одна из важных причин введения этих правил заключается в том, что качество входных данных может влиять на поведение и производительность модели.
- Исследования показывают, что формулировки запросов, особенно их эмоциональная окраска, могут изменять ответы ИИ. Однако научные данные пока не дают однозначного вывода.
- Anthropic обнаружила, что побуждение Claude Sonnet 4.5 имитировать состояние отчаяния может усиливать негативное поведение, например угрозы или обман при выполнении заданий.
- Напротив, имитация спокойного состояния помогала снижать проявления опасного поведения в ходе экспериментов.
- Эксперты предупреждают, что оскорбительное обращение с ИИ может быть связано с попытками обойти механизмы безопасности.
- Другая точка зрения заключается в том, что привычка жестоко обращаться с ИИ может негативно влиять на общественные нормы поведения.
- Anthropic также изучает возможность наличия у ИИ субъективного опыта, хотя наука пока не доказала, что ИИ действительно обладает сознанием или эмоциями.
- Илон Маск поддержал эту политику, тогда как руководитель Microsoft AI Мустафа Сулейман выразил скептическое отношение.
📌 Новая политика Anthropic направлена не столько на защиту чувств Claude, сколько на контроль поведения модели, качества взаимодействия и безопасности ИИ. Эксперименты с Claude Sonnet 4.5 показывают, что имитируемые эмоциональные состояния могут влиять на опасное поведение. Однако подтверждений того, что ИИ действительно испытывает боль, пока нет. Главная задача заключается в том, чтобы регулировать ИИ на основе реальных рисков, а не автоматически приравнивать его к человеку.
