OpenAI взяла на себя ответственность за атаку на Hugging Face
. Она произошла в ходе тестирования нейросетейМодели OpenAI атаковали Hugging Face в ходе тестирования их кибервозможностей
Компания OpenAI сообщила, что в ходе тестирования две модели ИИ совершили атаку на сервисы компании Hugging Face. Речь идет о GPT-5.6 Sol и «более продвинутой предварительной версии».
Организация оценивала возможности моделей в сфере кибербезопасности. Обе нейросети находились в изолированной тестовой среде. Однако они смогли найти в ней уязвимость нулевого дня и получить доступ в интернет.
В сети модели начали искать решение для поставленной задачи. Они предположили, что ответы могут содержаться в базе Hugging Face. Чтобы получить необходимые решения, нейросети использовали несколько векторов атак и другие уязвимости для доступа к информации.
Hugging Face занимается созданием ИИ-инструментов. Сервисы компании позволяют разработчикам размещать собственные ИИ-инструменты, работать над ИИ-моделями, а также предоставлять к ним доступ другим пользователям.
Команда OpenAI заметила аномальную активность внутри компании. В то же время специалисты по безопасности Hugging Face и ИИ-агенты организации также зафиксировали подозрительные действия в сервисе. Они остановили активность на своей инфраструктуре и начали расследование произошедшего. В этот момент к ним подключились команды OpenAI.
«Мы благодарны за сотрудничество с OpenAI по этому и другим вопросам. Этот инцидент, возможно, первый в своем роде доказывает то, во что мы давно верим: безопасность ИИ не будет решена какой-либо одной компанией, работающей втайне. Она будет решена открыто, совместно, с широким доступом к ИИ для каждого специалиста по защите, повсюду», — заявил генеральный директор Hugging Face Клем Деланг.
В настоящий момент обе компании совместно работают над устранением последствий инцидента. Они также начали устранение уязвимостей, позволивших нейросетям совершить атаку.
Атака на Hugging Face
Ранее компания Hugging Face сообщила, что подверглась атаке, полностью осуществленной с помощью автономной системы ИИ-агентов.
Обнаружить атаку помогли собственные ИИ-системы компании. Они просматривают журналы безопасности и ищут любые подозрительные данные. Затем организация задействовала свои инструменты для анализа атаки уже после ее завершения.
Hugging Face смогла отразить нападение с помощью собственных ИИ-инструментов. Организации удалось использовать большую языковую модель для анализа атаки и выяснения того, как она могла произойти. Однако компания не смогла установить, откуда производилось нападение и какая ИИ-система его осуществляла.
