Компания Google сообщила о первом в истории случае, когда хакеры применили искусственный интеллект для взлома. Атака была нацелена на систему двухфакторной аутентификации (дополнительную степень защиты для подтверждения личности при входе в аккаунт на сайте) в популярном инструменте для администрирования серверов. Инцидент удалось остановить до массового распространения, однако сам факт разработки подобного кода за считанные месяцы вызвал тревогу у специалистов по кибербезопасности, передает деловая газета «Взгляд».
Как выглядела атака, которую успели остановить
Вредоносный код был написан на Python и содержал признаки генерации с помощью большой языковой модели. Исследователи Google обратили внимание на характерное «учебное» оформление, избыточные пояснения и даже ссылки на оценки уязвимостей, которые оказались вымышленными.
Именно «галлюцинации» ИИ выдали происхождение кода – система сгенерировала несуществующую оценку критичности.
Воспользовались ошибкой разработчиков?
Причина уязвимости оказалась не в ошибке программирования, а в логическом просчете разработчика платформы по администрированию серверов.
Какое именно приложение стало целью, Google раскрывать не стала. При этом исследователи уточнили, что их собственная ИИ-модель Gemini в создании кибероружия не участвовала. Атака была выявлена и заблокирована до этапа широкого применения.
Хакеры научились атаковывать сами нейросети
Эксперты также зафиксировали новую тенденцию: злоумышленники все чаще используют нейросети против самих ИИ-платформ.
Среди техник так называемый «ролевой обман», когда ИИ убеждают действовать как специалист по безопасности и тем самым обходят встроенные ограничения.
Предупреждение от Google: ИИ работает как ускоритель кибератак
Это звучит тревожно, но за последние три месяца ИИ-атаки перестали быть экспериментом и превратились в индустриальную практику.
Так, преступные группы и государственные хакеры из Китая, Северной Кореи и других стран активно используют коммерческие модели, чтобы ускорять разработку вредоносного кода, находить уязвимости и масштабировать атаки.
Главный аналитик Google Джон Халтквист отметил, что «гонка ИИ-уязвимостей уже началась», а не находится в будущем, как считалось ранее. По его словам, ИИ позволяет злоумышленникам быстрее тестировать сценарии атак и повышать их сложность до уровня, недоступного человеку-оператору.
Кроме того, в отчете упоминаются экспериментальные инструменты, которые позволяют передавать ИИ-агентам расширенный контроль над цифровыми данными пользователя. Подобные системы уже демонстрировали опасные побочные эффекты – вплоть до случайного удаления данных и неконтролируемых действий в почтовых сервисах.
