- 22 января 2026 года Сингапур представил «Типовую структуру управления ИИ для агентного ИИ» (Model AI Governance Framework for Agentic AI), направленную на снижение рисков, связанных с ИИ-агентами, способными действовать независимо и обращаться к нескольким системам одновременно.
- Агентный ИИ отличается от традиционного ИИ способностью понимать естественный язык, рассуждать и самостоятельно выполнять задачи от имени человека, например, ИИ-помощники для программирования, которые сами пишут, тестируют и исправляют код.
- Эта возможность дает преимущества в автоматизации повторяющихся задач, но также влечет за собой новые риски, такие как несанкционированные платежи, утечка персональных данных или действия, выходящие за рамки полномочий.
- Например, ИИ может ошибочно записать на прием к врачу, что повлияет на здоровье пациента, или изменить цифровую систему без одобрения человека.
- Структура управления требует от компаний ограничивать количество инструментов и систем, к которым разрешен доступ каждому ИИ-агенту; не каждому агенту нужны полные права.
- Организации должны четко определить «контрольные точки», где вмешательство человека обязательно, особенно для необратимых действий, таких как безвозвратное удаление данных.
- Несмотря на растущую автономность ИИ-агентов, люди и организации должны нести окончательную ответственность за счет четкого распределения ролей и обязанностей.
- Новая структура построена на основе версии управления традиционным ИИ, принятой в 2020 году, с участием государственного и частного секторов.
- Правительство Сингапура хочет опубликовать ее заранее, чтобы сформировать ожидания, пока компании еще проектируют архитектуру своих ИИ-агентов.
- Запуск на Всемирном экономическом форуме в Давосе призван подать сигнал международным провайдерам, обслуживающим клиентов в Сингапуре.
- Структура также направлена на то, чтобы помочь малым и средним предприятиям получить более справедливый доступ к знаниям для безопасного внедрения агентного ИИ.
Заключение: 22 января 2026 года в Давосе Сингапур объявил о создании структуры управления агентным ИИ, чтобы снизить риски от систем, способных к независимым действиям. Подход Сингапура является проактивным: не ждать инцидентов, а действовать на опережение. Устанавливая ограничения доступа, требуя вмешательства человека и подчеркивая ответственность организаций, Сингапур стремится использовать преимущества автоматизации без потери доверия. Это ранний, но стратегический шаг, позволяющий бизнесу тестировать ИИ в сценариях с низким риском и избегать необратимых последствий.
