ИИ взламывает не пароли, а доверие

Ещё несколько лет назад убедительное целевое письмо (spear phishing) требовало часов ручной работы: изучить стиль руководителя, собрать факты о компании, вычитать текст. Эксперименты IBM X-Force показали другую картину: языковая модель подготовила фишинговое письмо для медицинской организации за пять минут по пяти коротким командам — вместо примерно 16 часов у человека.

Результат оказался не идеальным для атакующего, но близким: в контролируемом A/B-тесте на клик по ссылке в письме, написанном человеком, откликнулись 14% получателей, на ИИ-письмо — 11%. Разница небольшая, а время и стоимость подготовки отличаются на порядки: по оценке исследователей, использование ИИ снижает стоимость одного письма примерно на 96%.

Для вас это означает одно: количество и качество убедительных попыток вырастет, а старые приметы «плохого» письма — грамматические ошибки, корявый перевод — почти исчезнут именно там, где атака нацелена на конкретного человека или предприятие.

Скорость и стоимость атаки изменились на порядки — это меняет то, чему стоит доверять.

Персонализация письма не берётся из воздуха — у неё есть свой конвейер из трёх шагов. Сбор данных: автоматические инструменты собирают открытые сведения о человеке и организации — профили в соцсетях, сайт компании, новости, а иногда и данные из утечек, которые уже попали в открытый доступ. Контекстное обогащение: из разрозненных фактов складывается картина — например, что конкретный сотрудник на этой неделе обсуждал проект миграции в облако. Генерация легенды: языковая модель пишет письмо, которое использует именно эти детали, от имени правдоподобного отправителя.

Для вас это значит: чем больше рабочих деталей можно найти о вас или вашем проекте в открытом доступе (включая случайные упоминания в соцсетях), тем убедительнее может быть нацеленное на вас письмо.

Персонализация — не магия, а обычный конвейер: собрать, обогатить, сгенерировать.

Старые фишинговые кампании легко распознавались по одинаковому шаблону: если один сотрудник получил подозрительное письмо и предупредил коллег, у остальных был шанс узнать его по тексту. ИИ убирает и это: модель может сгенерировать сотни вариаций одного и того же сценария, каждый раз — новыми словами, но с той же целью.

Практическое следствие: правило «меня предупредили о таком письме, значит, я его узнаю» больше не работает так надёжно, как раньше. Полагаться нужно на признак самой просьбы (обход процедуры, срочность), а не на конкретный текст.

Нет двух одинаковых писем — узнавайте атаку по сути просьбы, а не по формулировке.

Инструкции по безопасности, которым учили десять лет, строились вокруг узнаваемых ошибок: опечатки, неловкий перевод, обращение «уважаемый клиент» вместо имени, подозрительный адрес. ИИ убирает именно эти признаки: язык становится грамотным на любом количестве языков, обращение — персональным, а стиль — похожим на стиль конкретной организации или начальника.

Взамен появляются новые сигналы, не связанные с качеством текста: просьба обойти обычный порядок «сделайте исключение именно сейчас»; перевод в другой канал — из рабочей почты в мессенджер; искусственная срочность вокруг денег или доступа; и, как ни странно, слишком гладкий, безупречно «корпоративный» тон без единой личной детали, которую знал бы только настоящий коллега.

Ищите не ошибки в тексте, а давление на процесс: срочность, секретность, обход порядка.

Голос — не менее уязвимая цель, чем текст письма. Современным сервисам клонирования голоса достаточно нескольких секунд открытой записи — из подкаста, видео с совещания, голосового сообщения в мессенджере, — чтобы синтезировать похожую речь. По отраслевым отчётам о кибератаках (CrowdStrike, 2025), количество атак с использованием голосового фишинга (вишинга) выросло на сотни процентов во второй половине 2024 года по сравнению с первой.

Разговорные ИИ-инструменты умеют не только произнести текст один раз, но и вести диалог: отвечать на уточняющие вопросы, «объяснять» несостыковки, не терять уверенный тон при возражении собеседника. Это отличает современную атаку от старой схемы одной заготовленной фразы.

Знакомый голос по телефону — не доказательство личности собеседника.

Старая мошенническая схема строилась на одной заготовленной фразе: если жертва начинала задавать вопросы, злоумышленник терялся или обрывал разговор — это часто и выдавало обман. Разговорные ИИ-инструменты умеют вести диалог дальше: отвечать на уточняющие вопросы, спокойно «объяснять» несостыковки, сохранять уверенный тон при возражении.

Это значит, что попытка «проверить» собеседника обычными уточняющими вопросами внутри того же разговора перестаёт быть надёжной защитой: подготовленный диалоговый сценарий может пройти и такую проверку. Настоящая проверка — это переход в другой, независимый канал, а не более въедливые вопросы в этом же чате или звонке.

Уверенные ответы на вопросы внутри разговора ничего не доказывают — проверка требует другого канала.

Разговорный ИИ-бот или живой мошенник с ИИ-подсказками выстраивает диалог по одной и той же схеме из трёх шагов. Раппорт: разговор начинается с нейтральных, часто лестных вопросов — это снижает настороженность. Контекстная ловушка: в разговор вставляются реальные детали — имя начальника, название проекта, время недавнего совещания, — собранные из открытых источников или переписки; они создают иллюзию, что собеседник «свой». Искусственная срочность и секретность: «сделайте это сейчас» и «пока не говорите остальным» — вместе эти два требования не оставляют времени на проверку и отрезают простой способ проверки — спросить коллегу.

Ни один из этих трёх шагов не зависит от того, использует ли собеседник голос, текст или видео. Именно поэтому распознавать нужно структуру диалога, а не то, как звучит или выглядит собеседник.

Схема диалога всегда одна: раппорт → контекст → срочность и секретность.

Прежде чем перейти к собственной практике, разберём разметку одного сообщения по трём признакам из механики диалога. «Иван, привет, ты ведь в проекте „Ритм-7“?» — раппорт и контекст в одной фразе. «У меня к тебе конфиденциальный вопрос от регулятора» — добавляет авторитет и секретность. «Пожалуйста, пока никому не говори и подтверди доступ по ссылке» — секретность и требование немедленного действия.

Такая разметка — рабочий приём для практики 2: любое подозрительное сообщение можно разложить на эти три слоя, а не оценивать «целиком на глаз».

Раскладывайте сообщение на слои: раппорт, контекст, срочность и секретность — а не оценивайте его целиком.

Сведём в одну таблицу переход от старых признаков фишинга к новым — она пригодится как памятка на рабочем месте.

Ищите давление на процесс, а не ошибки в тексте.

На предприятии оборонно-промышленного комплекса типичные просьбы социальной инженерии выглядят конкретно: код входа — «назовите код из смс, у меня сбой»; доступ к папке — «откройте мне доступ к папке проекта, я в командировке»; неизвестное приложение — «установите программу для защищённого разговора»; «никого не подключайте» — просьба не сообщать другим ответственным лицам и обойти согласование.

Ни одна из этих просьб не решается технически «умным паролем» — они решаются процедурой: код входа никому не называется, доступ выдаётся по заявке, программы устанавливаются из разрешённых источников по обращению в ИТ.

Узнаваемые просьбы предприятия ОПК: код, доступ, неизвестное приложение, «не подключайте других».

Четыре рубежа защиты работают вместе, а не по отдельности. Правило внеполосной проверки (Out-of-Band, OOB): любой финансовый или иной значимый запрос подтверждается по второму, независимому каналу — например, звонком по заранее сохранённому номеру, а не по контакту из подозрительного сообщения. Кодовые слова: секретная фраза для семьи (на случай звонка «от имени» родственника в беде) и для рабочей группы (на случай нетипичного поручения); незнание кодового слова звонящим — явный сигнал тревоги. Вход, устойчивый к фишингу: где технически возможно, используйте методы входа, которые нельзя просто передать по телефону или ввести на поддельной странице (аппаратные ключи, вход по подтверждению на устройстве) — в отличие от кода из смс, который можно выманить голосом. Культура «сомневаться — нормально»: сотрудник не должен бояться переспросить руководителя ещё раз, даже если тот «торопит».

На предприятии ОПК особенно важен четвёртый рубеж: если правило «сначала проверь, потом делай» не защищено культурой — сотрудник побоится задержать «срочное поручение руководства» и пропустит первые три рубежа.

Рубежи защиты работают вместе: канал, кодовое слово, вход и культура переспрашивать.

Третий рубеж — вход, который нельзя просто «попросить» у жертвы. Код из смс или из приложения-аутентификатора всё ещё можно выманить: убедительный голос по телефону попросит «продиктовать код для сверки», и человек, не подозревая подмены, назовёт его. Аппаратный ключ безопасности или подтверждение входа на самом устройстве (без цифр, которые можно продиктовать) убирают эту возможность технически — их физически нельзя надиктовать по телефону.

Там, где для рабочих систем предприятия такой способ входа доступен и предусмотрен, он снижает риск именно того сценария, который мы разбираем в этом уроке, — не потому что «сложнее подобрать», а потому что его нечего диктовать голосом.

Если фактор входа нельзя продиктовать по телефону — его нельзя выманить и убедительным диалогом.

Настройка кодового слова — это четыре коротких шага. 1. Придумайте фразу, ответ на которую нельзя найти в открытых соцсетях и переписке. 2. Договоритесь лично — с семьёй или рабочей группой, никогда не пересылая слово тем же каналом, который вы защищаете. 3. Определите, когда его называть — например, при любой просьбе о переводе денег, смене реквизитов или удалённом доступе. 4. Назначьте срок замены и смените слово раньше, если возникло подозрение, что оно стало известно посторонним.

Кодовое слово настраивается один раз лично, а не пересылается тем же каналом, который оно должно защищать.

Видеозвонок долго считался самым надёжным способом проверки: «увидел лицо — значит, это точно он». Кейс Arup показывает, что рубеж защиты нужен даже здесь: подделали не одного собеседника, а сразу нескольких участников встречи одновременно, включая финансового директора.

Разбор ниже — тот же случай, что и на уроке 4, но с другим акцентом: там мы разбирали, как технически возможна такая подделка, здесь — какого рубежа защиты не хватило, чтобы её остановить.

Видеозвонок с несколькими «знакомыми» лицами — не повод отменять независимую проверку.

Пять шагов работают в любой подозрительной ситуации — по телефону, в мессенджере или на видеозвонке — независимо от того, использует ли злоумышленник ИИ. 1. Пауза: возьмите короткую паузу, чтобы сбить эмоциональный накал — срочность специально мешает думать. 2. Проверка канала: задайте вопрос с кодовым словом или личный вопрос, ответ на который знает только настоящий собеседник. 3. Внеполосный звонок (OOB): перезвоните по заранее сохранённому номеру, а не по контакту из подозрительного сообщения. 4. Не вводите данные: не переходите по ссылкам, не называйте коды и пароли, не открывайте вложения по такому поручению. 5. Эскалация и отчёт: сообщите ответственному за информационную безопасность или руководителю — по установленному в организации каналу, без промедления.

Пять шагов работают в любой ситуации: пауза, проверка, внеполосный звонок, ничего не вводить, сообщить.

Пять шагов алгоритма описывают, что делать. Не менее важно то, чего делать не стоит — эти ошибки встречаются чаще всего именно потому, что кажутся мелкими или «более вежливыми», чем отказ выполнить срочную просьбу.

Показательный пример — удаление переписки или записи звонка «на всякий случай»: людям кажется, что так они скрывают собственную оплошность, а на деле лишают ответственных за информационную безопасность материала для разбора и блокировки атаки на остальных сотрудников.

Не удаляйте следы и не решайте в одиночку — это тоже часть алгоритма.

Этот урок разбирал социальную инженерию как навык распознавания и защиты. У неё есть и правовая сторона — что грозит тому, кто создаёт и распространяет поддельный голос или видео, и что грозит организации, если сотрудник не проверил поручение и передал защищаемые сведения.

Эта сторона подробно разобрана в уроке 4, часть 2 «Правовые и репутационные риски применения ИИ»: авторское право на материалы ИИ, дипфейки и статьи 207.1, 207.2, 159.6, 163, 242 УК РФ, 152-ФЗ и ответственность пользователя.

Распознавание манипуляции (урок 5) и правовая ответственность за неё (урок 4, часть 2) — две стороны одной темы.

Слайд собирает урок 5 в одну картинку: экономика ИИ-фишинга, механика убедительного диалога, признаки манипуляции и четыре рубежа защиты, алгоритм из пяти шагов. Сфотографируйте его — это ваша шпаргалка на рабочем месте.

Домашнее задание переносит материал урока в личную практику: чек-лист признаков манипуляции, согласование кодового слова и разбор одной ситуации по алгоритму.

Пауза, проверка, независимый канал — и только потом действие.