Нейросеть атаковала платформу для ИИ-моделей
. Это произошло без участия человекаThe Independent: компания, разрабатывающая ИИ, подверглась хакерской атаке ИИ
Хакерской атаке, полностью осуществленной с помощью системы искусственного интеллекта, подверглась компания Hugging Face. При этом организация сама занимается разработкой ИИ, сообщает The Independent.
ИИ часто используется киберпреступниками для автоматизации и поиска уязвимостей в системе безопасности или их эксплуатации. Однако в этот раз атака полностью управлялась автономной системой ИИ-агентов, заявили в компании.
Hugging Face смогла отразить нападение с помощью собственных ИИ-инструментов. Организации удалось использовать большую языковую модель для анализа атаки и выяснения того, как она могла произойти.
Корпорация занимается созданием ИИ-инструментов. Сервисы Hugging Face позволяют разработчикам размещать собственные ИИ-инструменты, работать над ИИ-моделями, а также предоставлять к ним доступ другим пользователям.
Именно благодаря этому удалось взломать компанию. В систему Hugging Face загрузили набор данных, который позволил использовать уязвимость в системе безопасности.
Обнаружить атаку помогли собственные ИИ-системы компании. Они просматривают журналы безопасности и ищут любые подозрительные данные. Затем организация задействовала свои инструменты для анализа атаки уже после ее завершения.
Во время атаки система выполняла тысячи отдельных действий благодаря использованию искусственного интеллекта. Компания не смогла установить, откуда производилось нападение, и какая ИИ-система его осуществляла. В настоящий момент Hugging Face выясняет, были ли украдены данные каких-либо ее клиентов.
Компания не могла использовать самые мощные модели для защиты из-за ограничений, предотвращающих их применение в небезопасных целях. Это создало «асимметрию» в противостоянии, поскольку преступники не были сдержаны какими-либо правилами.
Атаки, замаскированные под ИИ
Ранее в «Лаборатории Касперского» сообщили, что с начала 2026 года злоумышленники совершили более 92 тыс. кибератак, в которых вредоносное ПО маскировали под распространенные ИИ-агенты и сервисы,
Наиболее популярной моделью у преступников оказался ChatGPT. На него пришлось 49% всех выявленных атак. Востребованы были также Claude и Gemini. На каждую из них пришлось по 18%.
Специалисты выявили более 15 тыс. вредоносов, маскирующихся под агентное ПО, в том числе такие инструменты, как OpenClaw. Среди этих программ были банковские троянцы, шпионское ПО, эксплойты и программы-загрузчики, предназначенные для установки дополнительных вредоносных модулей.
