Дослідники безпеки виявили серйозну вразливість у Google Gemini for Workspace, яка дозволяє кіберзлочинцям приховувати шкідливі команди всередині вмісту електронної пошти.
Атака передбачає вбудовування прихованих інструкцій HTML та CSS, які Gemini обробляє під час підсумовування електронних листів замість відображення справжнього вмісту.
Зловмисники використовують невидиме стилізування тексту, таке як шрифти «біле на білому» або нульовий розмір шрифту, щоб вбудовувати фальшиві попередження, які виглядають так, ніби походять від Google.
Коли користувачі натискають функцію «Підсумувати цей електронний лист» у Gemini, ці приховані інструкції запускають оманливі сповіщення, що закликають користувачів телефонувати на фальшиві номери або відвідувати фішингові сайти, потенційно крадучи конфіденційну інформацію.
На відміну від традиційних шахрайств, тут не потрібні посилання, вкладення чи скрипти — лише спеціально створений HTML-код у тілі електронного листа. Вразливість поширюється не лише на Gmail, вражаючи Документи, Презентації та Диск, що викликає побоювання щодо фішингових маяків на базі штучного інтелекту та самовідтворюваних «черв’яків штучного інтелекту» в сервісах Google Workspace.
Експерти радять компаніям впроваджувати перевірки вхідного HTML, брандмауери LLM та навчати користувачів, щоб вони розглядали резюме ШІ лише як інформаційні. Google наполегливо рекомендується «санітарно очистити» вхідний HTML, покращити атрибуцію контексту та додати видимість для прихованих запитів, що обробляються Gemini.
Командам безпеки нагадують, що інструменти штучного інтелекту тепер є частиною поверхні атаки та повинні бути відповідно контролюватися.
