🔥🔥🔥Криминал с дипфейками? И что это такое, чем опасны голосовые или видео дипфейки? Подмена личности?

Поворот с дублером: как детей и родителей обманывают дипфейками

Эксперт предрек кризис доверия из-за распространения поддельных голосовых и видеосообщений

В начале сентября специалисты по кибербезопасности предупредили о новой схеме обмана: аферисты собирают опубликованные в соцсетях аудио- и видеоматериалы детей, создают на их основе дипфейки и звонят родителям якобы от их лица с просьбами срочно перевести деньги. Эксперты отмечают, что искусственный интеллект значительно удешевил работу мошенников. Подробности — в материале «Известий».

Родители сами по себе уязвимая для преступников мишень, а в суете начала учебного года часто не глядя доверяются любым сообщениям с темами «группа класса», «электронное расписание», «новый электронный дневник», рассказал «Известиям» руководитель группы мониторинга и реагирования SOC UserGate Factor Иван Костыря.

— Современные злоумышленники используют ИИ для фишинга, чтобы убрать частые маркеры вроде ошибок и некорректной верстки, для генерации вредоносного кода и скриптов, автоматизации рутины атакующего, — говорит Костыря. — Появляются специальные ассистенты под атаки, аналоги GPT. Фишинг становится «чистым» — опечаток меньше, верстка более качественна, а стратегии обмана всё более отточенные. ИИ здесь работает как усилитель — он не создает принципиально новые типы атак, а делает старые схемы массовыми, дешевыми и максимально правдоподобными.

Фокус на школе

Эксперт указывает, что с помощью ИИ генерируются грамматически безупречные письма «от учителя», «от родительского комитета», «от администрации школы» на любом языке и в нужном тоне. Имитируются реальные рассылки: «обновите данные в электронном дневнике», «оплатите питание», «заполните анкету для нового учебного года». Если злоумышленник получил анкетные данные ребенка или родителя из утечек, в письме стоит обращение по имени и упоминается конкретный класс. Цель — выманить логин и пароль от дневника, платежные данные или заставить перейти на фишинговую страницу оплаты «школьных сборов».

Дипфейковый ад

Атаки с имитацией голоса и образа человека за несколько последних лет получили широкое распространение. Среди них вымогательство средств у родителей с помощью клонирования голоса ребенка в коротком аудиосообщении. По словам Костыри, распространена схема со звонком родителям: «Мама, у меня проблемы, срочно нужны деньги». Также злоумышленники используют дипфейки с учениками для кибербуллинга или вымогательства, в том числе с использованием порнографического контента. По данным эксперта, неоднократно фиксировались поддельные голосовые сообщения от «учителя» для получения информации или денег.

— Злоумышленники не будут гнаться за большой длительностью или высоким качеством подделки. Как правило, расчет на эмоции и давление на жертву, — поясняет Костыря.

Мессенджер как подворотня

Широкое распространение получает присутствие ИИ-ботов в чатах классов и параллелей, алгоритм маскируется под одноклассника или родителя, собирает информацию, ссылки, а потом запускает вредоносные ссылки или фишинг. Чат-боты для детей могут маскироваться под сервисы готовых домашних заданий, решебников, нейросетей для учебы. На деле эти программы собирают персональные данные или ведут ребенка к вредоносному контенту.

— В мессенджерах и соцсетях школьники уязвимы вдвойне: они и цели, и «доноры» материала, из которого делают фейки, — говорит эксперт.

Эксперт акцентировал внимание на опасности так называемых нейросетей для решения домашки. Истинная задача этих приложений и ботов — фишинг или установка стилеров (ПО для кражи паролей). Генерируемые ИИ вредоносные скрипты под видом программ для учебы собирают деньги для мошенников.

Раздвоение личностей

— Если раньше с помощью ИИ подделывали видео со знаменитостями, то сегодня вполне реалистичен сценарий имитации лица и голоса обычных пользователей, в том числе детей. Качество подделок нередко бывает крайне высоким, — говорит руководитель направления исследования данных в «Лаборатории Касперского» Дмитрий Аникин.

При этом отличить дипфейк от оригинала сложно даже при внимательном просмотре — злоумышленники уже научились маскировать артефакты за счет низкого разрешения, фонового шума или коротких роликов.

— Тем не менее признаки обмана всё же иногда можно выделить: у видео это неестественная мимика, сбои в артикуляции, странные отражения в глазах, а у аудио — нестабильность звучания и неестественный тембр, посторонний шум или попытка заменить живой разговор заранее записанным аудиосообщением, — объясняет Аникин.

Не попасть в беду

Эксперты рекомендуют пользоваться проверенными методами проверки. Любые срочные просьбы стоит сверять по альтернативному, независимому каналу (звонок учителю напрямую, официальный сайт школы, а не ссылка из сообщения). По словам Ивана Костыри, не следует переходить по ссылкам из непроверенных чатов, даже если они похожи на официальный сайт банка или школы. Не лишним будет договориться с ребенком о кодовом слове при любом тревожном звонке или голосовом сообщении.

Еще одна рекомендация — ограничить публичность детских аккаунтов. Меньше публичного аудио, фото, видео — меньше материала для клонирования голоса и дипфейков. К «идеальному» тексту следует относиться с долей скепсиса — безупречная грамматика и официальный тон больше не признак подлинности, а, скорее, наоборот.

— Недоверие и сохранение спокойствия — главные способы не попасться на уловки мошенников, — резюмирует Костыря.

Дмитрий Аникин советует приучать детей не делиться лишней информацией о себе в соцсетях.

— Эффективной защитой станут надежные программные решения: они блокируют доступ к мошенническим и фишинговым сайтам, сигнализируют о подозрительных звонках и препятствуют установке вредоносного ПО, — заключает он.

Как жить в мире клонов

Тотальная подделка видео и аудио в Сети ведет к фундаментальному кризису доверия, считает Иван Костыря. Проверка «по картинке» перестает работать. В перспективе это может привести к тому, что люди перестанут доверять любым цифровым свидетельствам, что ударит по многим сферам — от судопроизводства до личных отношений, говорит собеседник «Известий».

Эксперт напомнил о случаях, когда с помощью дипфейков совершались преступления. В 2019 году директор британской энергетической компании перевел $243 тыс., поверив голосу руководителя. В Бийске женщина перевела 25 тыс. рублей, поверив поддельному голосу знакомого. В Минске мошенники инсценировали похищение 15-летней дочери, требуя выкуп в криптовалюте. И это только начало, считает эксперт.

— По мере удешевления технологий число таких атак будет расти, а защита потребует не только технических решений, но и нового уровня цифровой грамотности, — констатирует Костыря.

Подробнее ➤