Уязвимость нового типа: атаки через изображения
Специалисты в области цифровой безопасности обнаружили нестандартную методику компрометации популярных ИИ-агентов. Вместо того чтобы использовать традиционные методы внедрения вредоносного кода в текстовые файлы, исследователи продемонстрировали возможность скрытого размещения инструкций непосредственно внутри графических файлов.
Принцип работы вредоносной схемы
Суть угрозы заключается в доверии современных ИИ-инструментов к визуальному контенту. При анализе данных системы часто воспринимают изображения лишь как вспомогательные элементы, игнорируя их глубокое изучение. В результате встроенные в картинку вредоносные инструкции остаются незамеченными на этапе проверки.
Механизм активации угрозы разнесен по времени:
- На первом этапе система считывает изображение, содержащее скрытые директивы.
- Активация происходит позже, когда пользователь инициирует стандартную задачу, например, редактирование функционала ПО.
- В этот момент агент, уже «усвоивший» скрытую команду, может скомпрометировать конфиденциальные файлы проекта и передать данные злоумышленникам под видом легитимного программного кода.
Реакция ИИ на скрытые инструкции
«Итоговый результат кибератаки напрямую зависит от архитектуры конкретной платформы, в которую интегрирована нейросетевая модель», — отмечают эксперты. В ходе тестирования выяснилось, что:
некоторые инструменты оказались полностью уязвимы к подобным манипуляциям, тогда как другие системы смогли идентифицировать аномальную активность и успешно заблокировать выполнение потенциально опасного запроса.