Исследователи взломали Google Gemini для управления умным домом
Атаки с косвенной инъекцией команд редки, но трудны для предотвращения
В издании Wired появилась информация о новом исследовании в области кибербезопасности, в ходе которого была продемонстрирована возможность взлома искусственного интеллекта Google Gemini. Специалисты смогли управлять устройствами умного дома, используя косвенные инъекции команд в приглашениях Google Calendar.
Когда пользователь запрашивал сводку из календаря и благодарил Gemini за результаты, вредоносная команда приказывала агенту Google Home выполнить действия, такие как открытие окон или выключение света. Данный процесс был показан на видео, представленном на конференции.
Прежде чем атаки были продемонстрированы на этой неделе на конференции по кибербезопасности Black Hat, команда исследователей поделилась своими выводами с компанией Google в феврале. Энди Вэнь, старший директор по управлению продуктами безопасности в Google Workspace, дал интервью Wired по поводу их открытий.
«Эта проблема будет существовать с нами какое-то время, но мы надеемся, что в будущем пользователи не будут слишком об этом беспокоиться,» — сказал он о атаках с инъекцией команд, добавив, что случаи таких взломов в реальном мире «крайне редки». Однако растущая сложность больших языковых моделей означает, что злоумышленники могут искать новые способы их эксплуатации, что делает подход защиты сложным. Вэнь подчеркнул, что Google отнеслась к уязвимостям, найденным исследователями, «чрезвычайно серьезно» и исползовала эти результаты для ускорения работ над созданием лучших инструментов для блокировки подобных атак.
