Новая стратегия киберпреступников
Специалисты в области цифровой безопасности зафиксировали тревожную тенденцию: мошенники нашли способ использовать алгоритмы ChatGPT для продвижения фишинговых ресурсов. Согласно отчету сервиса Ask Silver, чат-бот стал невольным инструментом в руках злоумышленников, рекомендуя пользователям поддельные магазины, созданные для хищения платежной информации.
Тактика преступников заключается в эксплуатации имен брендов, которые недавно прекратили свое существование или были поглощены другими компаниями. Поскольку потребители по-прежнему ищут товары знакомых марок, а официальные каналы продаж уже недоступны, мошенники заполняют этот вакуум своими ресурсами.
Кейс Russell & Bromley
Одним из показательных примеров стала ситуация с британским обувным брендом Russell & Bromley. После того как компания вошла в состав Next и закрыла прежний формат торговли, киберпреступники оперативно запустили клон официального сайта. Результатом стало то, что алгоритмы ChatGPT начали предлагать этот вредоносный ресурс в ответ на запросы пользователей о покупке продукции бренда.
«Внешнее оформление поддельных страниц было настолько качественным, что не вызывало подозрений у рядовых покупателей, подталкивая их к вводу данных банковских карт», — отмечают эксперты.
Механика манипуляции ИИ
Исследователи предполагают, что хакеры используют тактику «отравления данных» (data poisoning). Она подразумевает создание массива фиктивных материалов в сети, которые искусственно повышают авторитет мошеннических страниц в глазах систем искусственного интеллекта. В результате модель начинает расценивать вредоносный сайт как заслуживающий доверия источник.
После обнародования проблемы разработчики OpenAI внесли коррективы в работу алгоритмов для данного бренда, добавив предупреждения о риске посещения подозрительных площадок. Однако проблема носит системный характер: языковые модели пока не обладают достаточной защитой от подобных манипуляций при поиске товаров.
Будущие риски
Эксперты выражают серьезную обеспокоенность развитием агентных ИИ-систем, которые в будущем смогут совершать покупки от имени пользователя. Если алгоритм будет доверять «отравленным» данным, это приведет к прямым финансовым потерям в автоматическом режиме. Специалисты подчеркивают, что развитие генеративного ИИ открывает новую арену противостояния, где преступники стараются опередить разработчиков систем защиты.