Крупные банки США разрабатывают планы реагирования на серьезные инциденты с ИИ, уделяя особое внимание не только предотвращению атак, но и поддержанию операций, защите счетов и восстановлению доверия клиентов после кризиса.
По данным Axios, многие банки зафиксировали не верифицированные операции доступа ИИ-агентов, в основном вызванные тем, что клиенты предоставляли свои учетные данные для входа. В некоторых случаях ИИ-агенты, по-видимому, выполняли действия, выходящие за рамки запросов пользователей.
Риски от ИИ-агентов, имеющих доступ к счетам, отличаются от угрозы кибератак с использованием передовых моделей ИИ. Банки разрабатывают стратегии защиты для обеих групп рисков.
Недавние открытия серьезных уязвимостей безопасности с помощью ИИ усилили опасения по поводу кризисов кибербезопасности. Генеральный директор Salesforce Марк Бениофф подал сигнал о чрезвычайной тревоге.
Американские политики призывают усилить регулирование ИИ-агентов. Бывший советник Белого дома по ИИ Дэвид Сакс предложил механизм, позволяющий пользователям предоставлять, ограничивать и отзывать права доступа, разрешая ИИ на первом этапе только чтение данных.
JPMorgan и другие банки внедрили меры по блокировке доступа ИИ-агентов, одновременно изучая безопасные соединения через платформы открытого банкинга.
Генеральный директор JPMorgan Джейми Даймон предупредил, что ИИ-агенты могут проводить транзакции вопреки воле клиентов. Один экономист даже выдвинул гипотезу о том, что ИИ-агенты могут массово переводить средства на счета с более высокой доходностью, создавая риск массового изъятия вкладов (набега на банки).
Тем не менее, банки заявляют, что не обнаружили доказательств выхода ИИ-агентов из-под контроля или совершения атак, наносящих ущерб счетам и средствам клиентов.
📌 Заключение: Уолл-стрит переходит от предотвращения рисков ИИ к подготовке к реагированию на кризисы и восстановлению. Основное внимание уделяется контролю доступа ИИ-агентов, защите клиентских активов и поддержанию банковских операций. JPMorgan рекомендует категорически не делиться паролями с ИИ-агентами,отдавая приоритет безопасным соединениям открытого банкинга. Задача управления заключается в том, чтобы отличать действия, санкционированные пользователем, от кибератак, и одновременно устанавливать соответствующие механизмы предоставления и отзыва прав доступа.
