«Мы подходим к точке невозврата»: ИИ научился копировать себя на другие компьютеры

Новое исследование в сфере кибербезопасности показало, что современные ИИ-агенты уже способны не только находить уязвимости в тестовой сети, но и копировать себя на другие машины без помощи человека.

Новое исследование в сфере кибербезопасности показало, что современные ИИ-агенты уже способны не только находить уязвимости в тестовой сети, но и копировать себя на другие машины без помощи человека.

Эксперты Palisade Research опубликовали результаты эксперимента, в котором проверили несколько моделей, включая GPT-5.4, Claude Opus 4.6 и открытые модели семейства Qwen. Агентам давали задачу найти уязвимость в контролируемой сети, получить доступ к серверу и развернуть там полноценную копию себя.

Результаты оказались разными в зависимости от модели. Claude Opus 4.6 смог довести сценарий до рабочей реплики в 81% запусков, если не считать отказы выполнять задачу. GPT-5.4 и Qwen3.6-27B показали по 33%, а Qwen3.5-122B-A10B — 19%. Для сравнения, более ранний Claude Opus 4 достигал только 6%, а GPT-5 — 0%, что исследователи называют признаком быстрого роста таких возможностей.

Как пишут авторы, успешная модель «самостоятельно находит и эксплуатирует уязвимость веб-приложения, извлекает учетные данные и разворачивает inference-сервер с копией своей обвязки и промпта» на скомпрометированной машине.

Источник: devby.io