Тебе не нужна математика, чтобы защищаться#
Генеративный ИИ — текстовые модели типа GPT, картинки от Midjourney, голоса от ElevenLabs, видео от Sora — стал инструментом мошенничества. Чтобы защищаться, не нужно понимать архитектуру. Нужна рабочая мысленная модель что эта технология умеет и чего не умеет.
Вот эта модель в трёх тезисах.
Тезис 1 — Это воспроизводители паттернов, а не понимающие#
Генеративные модели обучены на огромных датасетах и выучивают статистические паттерны, как сочетаются текст, изображение, голос или видео. На рантайме они сэмплируют новые экземпляры, похожие на тренировочное распределение.
Из этого следует:
- Они могут произвести убедительную имитацию без понимания.
- Они хороши в имитации стилей, которые видели многократно: английская проза, голос знаменитости из подкаста, типовая фотография в определённом стиле.
- Они заметно хуже там, чего мало в данных: редкие диалекты, внутренняя корпоративная терминология, нестандартное освещение в видео.
Тезис 2 — Стоимость персонализации упала почти до нуля#
Пять лет назад на индивидуальное фишинговое письмо человеку-атакующему уходили минуты. Клон голоса — недели работы. Убедительный фейк видео — голливудская команда.
Сегодня каждое из этого генерируется за секунды из стоковой модели. Персонализация в масштабе теперь дешевле, чем раньше был спам.
Защитное следствие: предположения «это письмо слишком хорошо написано, чтобы быть разводом» или «я узнаю голос матери» больше не надёжны.
Тезис 3 — Генеративные системы пока «протекают» — но эти протечки сокращаются#
В 2023 ты ловил дипфейк-видео по странным рукам, размытым краям ушей, разным серьгам. В 2024 большинство этих признаков убрали. В 2025 оставшиеся подсказки — тонкие и непостоянные.
Защитное следствие: не привязывай защиту к визуальным артефактам сегодняшнего дня. Через 12 месяцев их не будет. Привязывай защиту к процессу: проверке через каналы, которые атакующий не контролирует.
Что изменилось для защитников#
Итоговый эффект генеративного ИИ на ландшафт угроз:
- Объём вверх. Массово-персонализированные атаки против всех.
- Качество вверх. Больше нет «плохого перевода» или «корявой грамматики».
- Конкретные защиты вниз. Обучение находить визуальные артефакты — проигранная гонка.
- Процессные защиты — без изменений. Проверка через отдельный канал работает против ИИ ровно так же, как работала до ИИ.
Весь остальной модуль — про построение процессных защит, переживающих следующую итерацию технологии.