6 ноября 2026 года три ведомства Сингапура — CSA, GovTech и IMDA — выпустили рекомендации по безопасности при использовании персональных ИИ-агентов после того, как Meta запустила Muse в Сингапуре.
В отличие от обычных чат-ботов, ИИ-агенты могут самостоятельно заходить на веб-сайты, управлять электронной почтой, планировать встречи и совершать транзакции от имени пользователей, что увеличивает риск утечки данных и непреднамеренных действий. Сингапур выделил 5 групп защитных мер:
Во-первых, ограничьте права доступа. Подключайте только необходимые приложения, избегайте банковских,правительственных и медицинских аккаунтов, не предоставляйте пароли, OTP-коды или данные кредитных карт.
Во-вторых, сохраняйте контроль. Отдавайте приоритет режиму «только чтение», требуйте предварительного одобрения каждого действия перед отправкой писем, удалением или совместным использованием файлов и совершением важных транзакций.
В-третьих, контролируйте личные данные. Проверяйте информацию, собираемую поставщиками, сроки хранения, использование данных для обучения ИИ или рекламы, а также возможность очистки памяти.
В-четвертых, защищайтесь от атак через вредоносные инструкции, скрытые на сайтах, в письмах, документах или изображениях, цель которых — манипулировать ИИ-агентом для выполнения несанкционированных действий.
В-пятых, защищайте конфиденциальность других людей, когда ИИ-агент получает доступ к электронной почте,документам и контактной информации.
Сингапур подчеркнул, что пользователи по-прежнему несут ответственность за действия своих ИИ-агентов,включая потенциальную юридическую ответственность в зависимости от обстоятельств.
📌 Заключение: Рекомендации Сингапура отражают сдвиг в управлении ИИ: от контроля над контентом,создаваемым ИИ, к контролю прав доступа и автономных действий ИИ-агентов. Ключевой принцип заключается в предоставлении минимальных прав, одобрении каждого действия, имеющего серьезные последствия, и регулярной проверке журналов активности. Примечательно, что Сингапур предупреждает: полагаться исключительно на текстовые запросы (промпты) для ограничения ИИ-агентов нельзя, необходимо настраивать прямой контроль доступа в самих приложениях и подключенных системах.

