- Распространено мнение, что генеративный ИИ наследует предвзятость из обучающих данных, но анализ показывает, что это лишь верхушка айсберга.
- Предвзятость в ИИ также проистекает из когнитивных искажений человека, формирующихся во всей экосистеме взаимодействия человека и машины.
- То, как люди думают, задают вопросы, оценивают и используют результаты ИИ, может определять поведение системы и усиливать предвзятость с течением времени.
- Когнитивные искажения — это ментальные «ярлыки», помогающие быстро принимать решения, но легко приводящие к ошибочным суждениям, упущению важных данных или укреплению существующих убеждений.
- ИИ не только подвержен влиянию человека, но и воздействует на него в ответ, незаметно подкрепляя предвзятость пользователя через повторяющиеся циклы обратной связи.
- Предвзятость может проявляться на трех этапах: до запроса (pre-prompt), во время запроса (during-prompt) и после запроса (post-prompt).
- До запроса эффект ореола (halo effect) или негативные предубеждения заставляют пользователей чрезмерно доверять или сомневаться в ИИ, основываясь на предыдущем опыте или новостях.
- Предвзятость подтверждения (confirmation bias) может заставить пользователей с самого начала неверно ставить задачу, используя ИИ для «доказательства» того, во что они уже верят.
- Во время запроса наводящие вопросы искажают выходные данные, а «предвзятость целесообразности» (expediency bias — приоритет скорости, удобства и принципа «сойдет», а не точности или оптимального качества) заставляет пользователей принимать «достаточные» результаты из-за нехватки времени.
- После запроса эффект владения (endowment effect — тенденция оценивать что-либо выше только потому, что вы этим «владеете» или вложили усилия в создание) заставляет пользователей переоценивать результаты, созданные ими с помощью ИИ.
- Эффект фрейминга (framing effect — тенденция принимать разные решения в зависимости от того, как представлена информация, даже если суть одинакова) сильно влияет на то, как результаты ИИ презентуются и воспринимаются другими, даже если содержание не меняется.
- Решение заключается не в полном устранении предвзятости, а в повышении осведомленности, развитии критического мышления и построении организационных процессов, поддерживающих принятие качественных решений.
📌 Статья Гарварда подчеркивает, что предвзятость в ИИ — это не только техническая проблема, но и проблема человеческого поведения. Поскольку ИИ все глубже вовлекается в принятие важных решений, то, как мы задаем вопросы, оцениваем и действуем на основе результатов ИИ, может незаметно усиливать отклонения. Замедляясь, намеренно рефлексируя и проектируя системы, поощряющие критическое мышление, мы можем сделать ИИ лучшим партнером в принятии решений, а не «громкоговорителем» наших собственных предубеждений.
