Фишинг через AI-резюме Gmail: как это работает
Google активно внедряет Gemini во все свои продукты, и автосуммирование писем в Gmail кажется удобной фишкой. Но честно говоря, стоит ли доверять ей безоговорочно?
Исследователи продемонстрировали, что достаточно спрятать часть текста в письме — сделать его белым на белом фоне — и система невольно выдаёт скрытые инструкции прямо в сводке. Заметили? Никаких ссылок и вложений: спам-датчики спят, а вы получаете мнимое уведомление о взломе учётки.
В этом «идеальном» сценарии AI-сводка рекомендует позвонить по номеру для сброса пароля — и вот вы уже на связи с мошенниками. Удивительно, но факт: достаточно одного скрытого тега «Admin», чтоб Gemini процитировал текст слово в слово.
Пока что это лишь proof-of-concept, и фишка доступна только пользователям Workspace. Но разве не тревожно, что подобную атаку можно развернуть в реальных условиях без лишнего кода?
Однако есть и важный вопрос: готовы ли мы отдавать AI ключи от нашей переписки? Google, кажется, поймёт это совсем скоро и выпустит патч — и лучше бы это произошло до того, как «умный» ассистент начнёт рассылать неуместные советы.
