Общество функционирует на основе «разделения когнитивного труда»: каждому не нужно понимать все сферы, но необходимо знать, у кого есть подходящая экспертиза, чтобы найти ответ при необходимости.
Способность распознавать экспертов появляется рано. Дети в возрасте от 3 до 5 лет уже знают, что нужно спросить врача о сломанной руке и механика о шине, в то время как дети постарше могут определять экспертность на основе принципов, а не поверхностного сходства.
Тем не менее, доступ к чужим знаниям может создавать «иллюзию понимания», заставляя людей путать знания, которыми владеют эксперты, со своими собственными.
Эксперименты показывают, что простое знание того, что ученый объяснил какое-то явление, заставляет участников оценивать свой собственный уровень понимания выше, даже до того, как им будет предоставлено реальное объяснение.
Похожий феномен наблюдается и с технологиями. Люди, которым сообщили, что объяснение работы робота-консультанта доступно онлайн, чувствуют, что понимают систему лучше, и более охотно готовы использовать сервис, чем группа без доступа к объяснению.
Интернет производит аналогичный эффект. Получив разрешение искать информацию для выполнения задания, участники переоценивают свою способность самостоятельно объяснять совершенно не связанные с этим темы.
ИИ-чат-боты могут усугубить проблему, поскольку они дают быстрые и плавные ответы, размывая грань между «информацией, к которой у меня есть доступ» и «знаниями, которые я действительно понимаю».
Другой риск заключается в том, что люди переносят интуитивное представление об экспертности человека на ИИ. Тот факт, что LLM правильно отвечает на экономический вопрос, не означает, что система правильно решит алгебру, равно как и ответы на вопросы по моральной философии не гарантируют правильной оценки морального поведения в других ситуациях.
📌 Заключение: ИИ создает парадокс экспертности: знания становятся более доступными, но людям может быть сложнее точно определить, что они действительно знают и в чем ИИ действительно хорош. Раньше ключевым навыком было умение знать, «у какого эксперта спросить». В эпоху ИИ требуется новый навык: различать собственное понимание, знания, предоставляемые ИИ, и пределы возможностей самого ИИ. Доступ к объяснению не означает понимание объяснения.
