Оружие мошенников: эксперт рассказал, как нейросети помогают аферистам

Искусственный интеллект давно перестал быть чем-то из области фантастики — сегодня он используется в образовании, медицине, IT-индустрии и многих других сферах, воспринимаясь как обыденная данность. Однако технический прогресс не обошел стороной и криминальную среду: мошенники активно берут нейросети на вооружение. Уже известны случаи, когда злоумышленники создают дипфейки — поддельные голосовые и видеозаписи, где человек, например, просит помочь деньгами после несчастного случая, а затем рассылают их друзьям и родственникам с реквизитами подставного счета.

Подобных схем множество, и они регулярно опустошают кошельки граждан по всему миру. Но дипфейками дело не ограничивается: как рассказал в беседе с Общественной Службой Новостей руководитель аналитического центра компании Zecurion, эксперт по кибербезопасности Владимир Ульянов, преступники используют языковые модели ИИ для продумывания самих схем, написания завлекающих сообщений и объявлений, генерации правдоподобных фото, давящих на жалость, а также для автоматизации обзвонов и рассылок.

По словам эксперта, беда даже не в том, что мошенники знают, как применить ИИ. Они могут использовать его и для того, чтобы придумать саму схему: если преступнику не хватает опыта или креативности, нейросеть восполняет этот пробел. Даже на базовом уровне формирования инфоповодов — когда подходящего повода нет, ИИ напишет скрипт или письмо, которое попадет в желания пользователя. Любая мошенническая схема разворачивается в три шага: первый — завладеть вниманием потенциальной жертвы, чтобы человек не удалил письмо и не сбросил звонок; второй — убедить, что речь идет о чем-то реальном (акция, чрезвычайное происшествие и так далее); третий — заставить совершить целевое действие: перевести деньги, продиктовать код, скачать приложение. ИИ может использоваться на каждом из этих этапов. Более того, это средство автоматизации, работающее 24/7 без усталости: если живой мошенник ограничен в возможностях, то нейросеть с базой контактов будет круглосуточно стучаться к потенциальным жертвам с высокой интенсивностью.

По его мнению, генерация фейковых изображений и аудио- и видеозаписей открывает дополнительные возможности. Для копирования голоса достаточно 20–30 секунд записи речи — заполучив ее, мошенники могут не только создавать готовые голосовые сообщения, но и в реальном времени «говорить» украденным голосом с жертвами. С видео пока сложнее: создать правдоподобный цифровой «слепок», имитирующий личность по видеозвонку, технически трудно, поэтому схемы обмана зачастую ограничиваются заранее сгенерированными дипфейк-видео. Зато генеративные модели позволяют создавать правдоподобные и уникальные фотографии: если раньше фейковый аккаунт можно было проверить, поискав аватарку в интернете и обнаружив, что она используется в нескольких профилях, то теперь злоумышленник может скрываться под сгенерированным ИИ изображением, которое ранее нигде не появлялось. То же самое — просьбы о помощи пострадавшим с их фото и видео: все это просто генерируется, в сети такие картинки не ищутся, поэтому выглядят относительно правдоподобно. Если они рассылаются через более-менее доверенные каналы и сам инфоповод кажется реальным, риск принять их за настоящее высок.

На уровне модерации отличить добросовестного пользователя ИИ от мошенника довольно проблематично. Внутренним фильтром выступают разработчики, прописывающие правила и ограничения, однако при желании все это можно обойти: злоумышленники используют локальные модели с измененными настройками или обманывают публичный ИИ. Если напрямую помогать в придумывании мошеннической схемы стандартная нейросеть откажется, преступники могут уговорить ее, сказав, что это нужно в добросовестных целях, — и она поддастся. Бороться с этим разработчики могут, лишь вводя все больше ограничений, но в итоге это может навредить законопослушным пользователям. Поэтому главное средство защиты — классическая информационная гигиена. Основа безопасности — базовые вещи, и самый главный фильтр должен быть у человека в голове: если он работает некорректно, мошенники смогут реализовать схемы и без ИИ. Важно повышать осведомленность людей о существующих схемах и технологиях: часто обман случается потому, что человек не понимает, что происходит, не разбирается в технологиях, а на него еще и психологически давят. Если человек подготовлен и квалифицирован, понимает, как устроена система и какие действия делать не нужно, он реже попадется на уловки, хотя полностью риски это не исключает.

Эксперт резюмировал, что главное правило цифровой гигиены — проверка информации и ее источников. При малейшем подозрении ссылку, просьбу о помощи или звонок с предложением нужно перепроверить: связаться с отправителем лично, если это знакомый, перезвонить в компанию, сотрудником которой представился звонящий, попросить дополнительных подтверждений. Реальный человек или добросовестная организация смогут предоставить доказательства, мошенник — нет. Доверие к незнакомым ссылкам, которые встречаются в интернете, в том числе в домовых чатах и на вроде бы безопасных сайтах, должно быть минимальным. Помимо ИИ-инструментов, мошенники пользуются и старыми методами — психологическими уловками и социальной инженерией. Если незнакомец в сети или по телефону оказывает давление, говорит о срочности и требует действовать здесь и сейчас — это почти наверняка злоумышленник. Универсальных рекомендаций нет: мошенники чутко отслеживают настроения в обществе и отвечают на текущую повестку, используя актуальные инфоповоды. Это позволяет пройти как минимум первый этап схемы — заинтересовать жертву, а дальше вступают в действие другие инструменты. Например, к концу осени будут скидки, акции и распродажи, и на этом фоне появится много как реальной рекламы, так и объявлений от мошенников, которые всегда там, где есть деньги и интерес широкой аудитории.

Ранее сообщалось, почему живое лицо в видеочате уже не гарантия, что перед вами реальный человек.