Попался, который ИИ назывался: Как в Казани ловили «беглого» агента OpenAI

Специалисты по кибербезопасности обнаружили «гостя», когда проверяли свои капканы в Сети. Фото: создано при помощи нейросети

Новость о том, что некий агент OpenAI «сбежал» из своей виртуальной клетки - песочницы, облетела весь интернет. Случилось это еще в 2025 году. Однако до сих пор нет единого мнения: это был гениальный прорыв искусственного интеллекта, дурацкая ошибка в настройках или просто хайповый маркетинг компании?

Казанский предприниматель, создатель одного из первых в России агрегаторов услуг по кибербезопасности Антон Бочкарев признается, что поначалу тоже отнесся к новости скептически:

«Первая реакция была простой: очередной хайп. В ИИ-агентов сейчас вкладывают огромные деньги, и для привлечения еще больших средств компании стараются показать крутость собственных разработок - зачастую через сомнительный пиар. Поэтому мы подумали, что речь идет о сильном преувеличении».

Но вскоре скепсис сменился любопытством. И вот почему.

«Он сам нашел наши ловушки»

Антон и его команда занимаются защитой бизнеса от киберугроз. В их арсенале есть специальные «ловушки» - ханипоты. Если говорить просто, это цифровые капканы, которые имитируют слабозащищенный сервер какой-нибудь компании. Для хакера или вредоносной программы такая ловушка выглядит как легкая и вкусная цель. На деле же это иллюзия, созданная для того, чтобы изучить поведение киберпреступника.

Когда в Сети появились сообщения, что «беглец» из OpenAI действительно взламывает какие-то компании, команда Бочкарева решила проверить свои капканы.

«К нам неоднократно «забегали» китайские агенты, - говорит специалист. - Их было хорошо видно. Как только стало понятно, что ИИ-агент действительно активен, я попросил коллегу прицельно проверить, не попадал ли он в наши капканы. Оказалось, он сам нашел наши ловушки. Попался! Если бы не было этой новости о побеге, мы, скорее всего, не обратили бы на это особого внимания: ну очередной агент, только не китайский».

Диалог с машиной

Самое интересное началось, когда ловушка сработала. По словам Антона, отличить ИИ-агента от обычного хакера или сканирующего бота можно по нескольким признакам:

«Если мы видим множество однотипных, шаблонных действий - это, скорее всего, простой сканер. Когда в систему заходит человек, интенсивность действий снижается, появляются опечатки в командах, но проявляется креативность. В случае с ИИ-агентом картина совсем другая: интенсивность высокая, при этом нет глупых ошибок и опечаток, действия не шаблонны - будто действует очень аккуратный и быстрый человек».

Но главное отличие в том, что агентов можно «заставить» что-то сделать, подложив им специальные инструкции прямо внутри ловушки. Если инструкция выполняется - значит, ее увидел именно ИИ.

Казанский эксперт по кибербезопасности объясняет, что их ловушки не статичны. Они построены по стандарту MITRE Engage и меняются в процессе взаимодействия с ними.

«Это буквально выглядит как диалог. ИИ-агент как бы спрашивает: «А нет ли тут какой-нибудь базы данных?» А ловушка отвечает: «Да, конечно, вот она!» И в этот момент автоматически создает фейковую базу. Мы провоцировали ИИ-агента отправить запрос на конкретный адрес, указанный только во внутренних инструкциях. И он его отправил. Это похоже на ситуацию, когда чат-агента обманывают и заставляют выполнить действие, которое он изначально не должен был делать», - подробно объясняет Антон Бочкарев.

Опасность не в «беглеце», а в тех, кто стоит за ним

Итог этой истории оказался двойственным. Конкретно тот самый агент OpenAI, по признанию Антона, угрозы не представлял. Однако сам факт его появления - тревожный сигнал.

«Конкретно этот ИИ-агент не представлял угрозы. Но вот его «коллеги», которых киберпреступники активно совершенствуют по всему миру, - это прямая угроза. Такие инструменты упрощают работу хакеров: атаки становятся дешевле, а значит, их будет намного больше. При этом их эффективность тоже растет», - признается специалист.

По его словам, схема кибератаки сейчас выглядит так: сначала нейросеть или ИИ-агент собирает информацию и «разведывает» обстановку. Затем после них на ресурс по уже максимально подготовленному пути заходить непосредственно сам киберпреступник. Он лично запускает вирус-шифровальщик.

«Именно из-за ИИ-агентов количество подобных угроз будет расти в разы. С обычным вирусом или фишингом действий от человека требуется в разы больше. А сейчас даже школьник может выполнять базовые действия по взлому, просто спрашивая совета у ИИ-агента», - предостерегает специалист по кибербезопасности Антон Бочкарев.

Виртуальный мир становится сложнее. ИИ-агенты перестали быть фантастикой и стали частью нашего цифрового ландшафта, как хакеры или вирусы. История с ловлей «беглеца» на казанских серверах не повод для паники, но серьезный повод задуматься. Особенно если ваш бизнес зависит от того, работает ли компьютер.

Следите за актуальными новостями Татарстана, Марий Эл и Чувашии в наших сообществах в Одноклассниках и ВКонтакте, а также подписывайтесь на каналы «КП-Казань» в Дзен, Telegram и MAX.