Reuters со ссылкой на отчет Anthropic по анализу угроз сообщил, что Claude использовался различными организациями и лицами в деятельности, связанной с разработкой оружия, кибератаками, слежкой и мошенничеством, до того как аккаунты были обнаружены и заблокированы.
Anthropic обвинила определенные структуры в Китае в использовании Claude для разработки программного обеспечения радиоэлектронной борьбы, моделирования подавления радаров и планирования подавления противовоздушной обороны, включая симуляцию 12 целей на Тайване, таких как радары раннего предупреждения, позиции ЗРК Patriot и Tien Kung, авиабазы и командные бункеры.
Другая группа, предположительно, использовала Claude для подготовки технического предложения объемом более 200 страниц по противоторпедной системе военно-морских сил Китая и ее сравнения с технологиями ВМС США.
В отчете также описывается использование Claude для исследований в области мощного микроволнового оружия, отслеживания цепочек поставок компонентов и подготовки отчетов для китайских ведомств.
В Йемене Anthropic обнаружила группу, которая использовала Claude для программирования, моделирования и устранения неполадок в управляемых ракетах, баллистических ракетах дальностью более 2000 км и вариантах с использованием гиперзвукового планирующего блока. Компания заявила, что многие запросы были заблокированы и нет доказательств реального развертывания этого оружия.
Некоторые лица в России обвиняются в использовании Claude для разработки программного обеспечения управления роями автономных FPV-дронов и попытках закупки товаров двойного назначения через посредников в Китае и Гонконге для обхода санкций.
Anthropic зафиксировала множество попыток использования Claude для поддержки биологических исследований, связанных с вирусом чикунгунья, высокопатогенным птичьим гриппом, ортопоксвирусами и новыми токсинами, отметив при этом, что эта деятельность происходила в регионах, где ее сервисы не предоставляются.
В сфере кибербезопасности компания сообщила, что Claude использовался для поиска уязвимостей в ПО, разработки эксплойтов и помощи во взломе сетей примерно 50 организаций, включая иностранные государственные ведомства.
В отчете также подробно описывается использование Claude в операциях по сбору разведданных, слежке за уйгурами, тибетцами, активистами, еврейскими организациями и военно-морскими силами США, а также при создании платформ мониторинга социальных сетей и системы отслеживания примерно 25 миллионов SIM-карт в Мали.
Anthropic также обнаружила кампанию в Китае по разработке более 20 приложений для знакомств с более чем 4700 интерактивными ИИ-персонажами, нацеленную по меньшей мере на 25 000 пользователей в целях проведения мошеннических операций.
📌 Отчет Anthropic показывает, что генеративный ИИ все чаще используется в различных целях безопасности и военных целях: от разработки оружия и биологических исследований до кибератак, слежки и мошенничества. Эти обвинения и оценки сделаны Anthropic на основе обнаружения в собственных системах; некоторые из упомянутых правительств и организаций отвергли обвинения или еще не дали ответа. Содержимое подчеркивает необходимость усиления надзора за использованием передовых моделей ИИ для ограничения риска их неправомерного использования.
