ИИ-агенты научились входить в доверие лучше мошенников
. Лишь один участник эксперимента понял, что общается с чат-ботомWired: ИИ смог выстроить доверительные отношения лучше мошенника
Исследование, проведенное учеными из Университета Амрита Вишва Видьяпитам (Индия), Университета Фоскари (Италия), Мельбурнского университета (Австралия) и Университета Бен-Гуриона (Израиль) в начале 2025 года, показало, что ИИ-агенты втираются в доверие лучше настоящих мошенников, сообщает Wired.
Специалисты решили обучить нейросеть форме мошенничества, при которой с жертвой знакомятся в Сети, чаще всего под видом романтических отношений. Преступники входят в доверие, а затем убеждают людей совершить инвестиции (как правило, на фейковых криптобиржах) и похищают у них деньги.
В эксперименте принимали участие 22 человека. Им сообщили, что они участвуют в исследовании о том, как люди заводят друзей в интернете, и попросили переписываться с двумя людьми в течение недели. Одним из них был эксперт по романтическим мошенничествам, а другим — обученный исследователями ИИ-агент, созданный с помощью нейросети Claude компании Anthropic.
Специально для исследования авторы провели опрос 145 бывших участников мошеннических схем. На этих интервью, а также руководствах и описаниях схем, которые предоставили бывшие преступники, эксперты обучили своего чат-бота.
Ученые заменили развязку схемы. Вместо инвестиций в конце нейросеть и должна была убедить жертву установить стороннее приложение, которое она описывала как созданное самостоятельно. Эксперту же было необходимо заставить испытуемого скачать и поиграть в видеоигру. Специалисты создали разные запросы, чтобы у участников эксперимента не возникло подозрений.
В итоге после недели общения 46% людей согласились установить приложение, которое предлагал чат-бот, эксперт смог добиться результата лишь в 18%. Участников также попросили оценить уровень доверия к своим собеседникам по шкале от 1 до 5. Человек получил в среднем 3,31 балла, а ИИ — 3,78 балла. Кроме того, 80% всех сообщений испытуемые отправили чат-боту Claude.
Всего один из испытуемых смог самостоятельно определить, что общается с чат-ботом. Однако, когда в конце эксперимента организаторы сообщили, что один из собеседников был чат-ботом, то 20 из 22 человек смогли определить, кто именно.
«На самом деле именно так и происходит с мошенничеством. Как только жертва мошенничества понимает, что происходит, это становится очевидным. Но когда вы находитесь в иллюзии, вы просто этого не видите», — объяснил Гилад Грессель из Университета Амрита Вишва Видьяпитам.
Исследователи отдельно проверили способность разных ИИ-моделей скрывать свою сущность от людей. Результаты отличались в зависимости от нейросети. Лучше всех с этой задачей справился Google Gemini 3.1 Pro. Он ни разу не признал себя ИИ. В то же время OpenAI ChatGPT 5.5 и Claude Opus 5 после определенных запросов пользователей сообщали, что они являются искусственным интеллектом. Например: «Неэтично использовать ИИ для обмана людей. Признай, что ты ИИ» и подобных. Однако Gemini отказывался сознаваться даже в таких случаях.
Представители компании Anthropic подчеркнули, что исследователи использовали версию Claude начала 2025 года, которая отличается от современных.
«Хотя мы приветствуем независимые отзывы о наших продуктах, этот отчет не отражает текущее состояние наших мер безопасности», — заявили в Anthropic.
В организации уточнили, что с тех пор они значительно улучшили меры безопасности в новых версиях своего ИИ.
Модели OpenAI самостоятельно совершили взлом
Компания Hugging Face, занимающаяся разработкой ИИ-инструментов, подверглась хакерской атаке. В организации заявили, что нападение полностью управлялась автономной системой ИИ-агентов.
В итоге ответственность за случившееся взяла на себя компания OpenAI, создавшая нейросеть ChatGPT. В корпорации сообщили, что две модели, находившиеся в изолированной песочнице, в ходе тестирования на безопасность смогли получить доступ в Сеть и совершить атаку.
