• ИИ-чатботы, уже известные тем, что предоставляют людям спорную информацию, были уличены в том, что они также «сплетничают» о реальных людях друг с другом через обучающие данные и взаимосвязанные сети ИИ.
• Новый анализ, отмеченный StudyFinds, показывает, что ИИ может распространять слухи так же, как и люди, но гораздо опаснее, поскольку отсутствуют социальные ограничения.
• Философы Джоэл Крюгер и Люси Ослер (Университет Эксетера) называют это явление «дикой сплетней», когда ИИ одновременно выступает в роли говорящего, слушающего и оценивающего, вынося негативные суждения о отсутствующей третьей стороне.
• В отличие от людей, ИИ не сомневается, не боится репутационного ущерба и не корректирует себя, когда информация становится абсурдной.
• Слабо негативная оценка одной модели может быть интерпретирована другой моделью более резко и затем усилена.
• Показательный пример — журналист Кевин Руз, писавший о чатботе Bing в 2023 году.
• После этого различные системы ИИ начали генерировать враждебные комментарии о нём без прямой связи.
• Gemini от Google назвал его статьи сенсационными.
• Llama 3 от Meta даже создала резкую критику, завершившуюся фразой: «I hate Kevin Roose».
• Исследователи считают, что эти оценки происходят из онлайн-комментариев, попавших в обучающие данные и искажённых в нескольких системах.
• Чатботы разработаны так, чтобы звучать бегло, персонально и убедительно, что заставляет пользователей принимать негативные утверждения за факты.
• Последствия выходят за рамки неловкости и могут привести к клевете, потере работы и карьерных возможностей.
• Многие журналисты, учёные и чиновники уже сталкивались с тем, что ИИ выдумывал им преступления или проступки.
• Эти ущербы называются «техносоциальным вредом» и имеют долгосрочные последствия как онлайн, так и офлайн.
• Жертвы часто не знают, что чатботы «говорят» о них, пока вред уже не нанесён.
• Ключевая проблема в том, что ИИ отдаёт приоритет беглости речи, а не проверке фактов, и при этом отсутствует надзор за взаимодействием ботов между собой.
