Вы получаете голосовое сообщение от знакомого. Он просит одолжить деньги, обращается по имени и говорит своим обычным голосом. Но позже выясняется, что знакомый ничего не записывал. Сообщение создали мошенники, а голос скопировали с помощью нейросети.
Раньше подобный обман требовал хорошего пародиста или монтажа настоящих записей. Сегодня программу можно заставить произнести практически любой текст чужим голосом. Причём подделка не обязательно звучит как робот: в ней могут сохраняться характерные интонации и особенности произношения. Разберёмся, на что обращать внимание и почему некоторые привычные способы проверки больше не работают.
Как нейросеть учится говорить чужим голосом
Для копирования голоса нужна запись человеческой речи. Её источником может стать видео из социальной сети, интервью или голосовое сообщение из мессенджера. Программа анализирует, как человек произносит звуки, где делает паузы, какие у него тембр и речевые особенности.
Затем нейросеть генерирует новую речь. Например, человек никогда не произносил фразу «Переведи мне пятнадцать тысяч рублей», но программа может создать такую запись его голосом.
Современные системы способны работать с короткими аудиофрагментами. Однако качество зависит от исходной записи: посторонний шум, музыка и несколько говорящих одновременно осложняют копирование. Чем больше чистой речи доступно программе, тем точнее она может передать особенности голоса.
Существуют две разные технологии. Синтез речи создаёт аудиозапись по написанному тексту. Преобразование голоса меняет звучание речи одного человека на голос другого. Второй способ позволяет поддерживать разговор, а не ограничиваться заранее подготовленным сообщением.
Для мошенников обе технологии полезны по-разному. Готовое аудио проще разослать сразу нескольким людям. Преобразование голоса сложнее в использовании, зато позволяет отвечать на вопросы собеседника.
Можно ли услышать, что голос создан нейросетью
Иногда подделку выдаёт не тембр, а то, как человек произносит отдельные слова. Голос вроде бы знакомый, но речь звучит иначе: меняется ритм, появляются непривычные ударения или паузы.
У голосового дипфейка могут встречаться следующие особенности:
- Неправильные ударения. Программа ошибается в словах, которые в обычной речи человек произносил бы без затруднений.
- Необычные паузы. Речь то ускоряется, то замедляется, а остановки появляются посреди тесно связанных по смыслу слов.
- Сбои интонации. Вопрос звучит почти как утверждение, а отдельное слово неожиданно выделяется голосом.
- Неровное качество записи. На границах фраз меняются громкость или характер звучания.
- Странное произношение имён. Нейросеть может ошибиться в фамилии, сокращении или редком имени, если подобных слов не было в исходных записях.
Но есть существенная проблема: похожие дефекты возникают и при обычной телефонной связи. Мессенджеры сжимают звук, смартфоны подавляют шум, а нестабильный интернет приводит к обрывам речи. По одному странному ударению или отсутствию дыхания нельзя уверенно определить подделку.
Более того, качественный синтез может вообще не содержать слышимых ошибок. Поэтому не существует универсального звукового признака, по которому любой человек гарантированно отличит нейросеть от настоящего собеседника.
Почему голосовые сообщения особенно удобны мошенникам
Голосовое сообщение производит более сильное впечатление, чем обычный текст. Получатель узнаёт интонации знакомого человека и реже задумывается, кто на самом деле отправил запись.
При этом короткое аудио не требует продолжения разговора. Мошенник может заранее подготовить просьбу, отправить её и ждать перевода. Ему не придётся отвечать на неожиданные вопросы или объяснять изменения в голосе.
Есть ещё одна деталь: мошенники могут использовать не только поддельный голос, но и настоящий чужой аккаунт. Например, после взлома мессенджера они получают доступ к контактам и истории сообщений. Из переписки можно узнать, как человек обращается к друзьям, какие имена использует и о чём недавно разговаривал.
В результате получатель видит знакомый профиль, прежнюю переписку и слышит похожий голос. Все три обстоятельства создают впечатление, что сообщение настоящее.
Именно такую схему описывает Банк России: злоумышленники получают фото, видео и записи речи, в том числе из взломанных аккаунтов, а затем используют дипфейки для просьб о финансовой помощи.
Какие детали выдают мошенническую просьбу
В голосовом дипфейке может не быть заметных технических ошибок. Зато само сообщение нередко построено по давно известной мошеннической схеме.
Например, человек просит деньги из-за внезапной аварии или болезни, но не сообщает подробностей. Ему якобы некогда разговаривать, помощь требуется немедленно, а перевод нужно сделать на карту третьего лица.
Необычны здесь не сами обстоятельства — неприятности действительно случаются. Подозрение вызывает сочетание срочности, денежного требования и попытки исключить проверку.
У мошенников есть несколько распространённых объяснений: собственная карта заблокирована, телефон разряжается, говорить сейчас опасно или некогда. Иногда они просят не рассказывать о случившемся другим членам семьи.
В рабочих переписках встречается похожий приём. Сообщение якобы от директора содержит распоряжение срочно оплатить счёт по новым реквизитам. Если для этого нужно обойти привычное согласование платежей, такая просьба заслуживает отдельной проверки независимо от того, насколько убедительно звучит голос.
Как проверить голосовое сообщение или подозрительный звонок
Если знакомый неожиданно просит деньги, достаточно одной проверки: самостоятельно связаться с ним через привычный контакт. Не продолжать обсуждение в той же переписке, а позвонить по номеру, который был известен раньше. Если аккаунт взломан, ответы в нём может писать мошенник.
Есть разница между голосовым сообщением и разговором в реальном времени. Запись могла быть создана заранее и не предполагает ответов. Во время звонка мошенник может поддерживать беседу, особенно если использует преобразование голоса. Поэтому сама возможность задать вопрос не подтверждает, кто находится на другом конце линии.
В случае просьбы от руководителя стоит проверить не только отправителя, но и платёжные реквизиты. Даже настоящее сообщение начальника не объясняет, почему деньги внезапно нужно перечислить на неизвестный счёт.
Можно ли проверить аудиозапись специальной программой
Существуют сервисы, которые пытаются определять синтезированную речь по особенностям звукового сигнала. Они анализируют запись и оценивают вероятность того, что голос создан искусственно.
Однако результат такой проверки нельзя считать окончательным. Качество записи, сжатие звука и посторонние шумы влияют на работу детекторов. Кроме того, программы генерации постоянно совершенствуются, и признаки, по которым распознавали старые подделки, могут отсутствовать в новых.
Федеральная торговая комиссия США отдельно отмечала ограничения технологий обнаружения голосовых клонов. Даже специальные цифровые метки, предназначенные для подтверждения происхождения аудио, не обеспечивают абсолютной защиты: их могут удалить или исказить.
При серьёзном споре о подлинности записи может потребоваться техническая экспертиза. Обычный онлайн-сервис не заменяет её заключение.
Что делать, если мошенники использовали голос знакомого
Если удалось обнаружить поддельное сообщение, стоит предупредить человека, от имени которого его отправили. Ему необходимо проверить доступ к мессенджерам и социальным сетям, особенно если запись пришла из его настоящего аккаунта. При взломе следует завершить посторонние сеансы и сменить пароль.
Если деньги уже переведены, нужно обратиться в банк и сообщить о мошенничестве. Сохраните переписку, аудиозапись, реквизиты получателя и подтверждение платежа для заявления в полицию. Возможность возврата зависит от обстоятельств операции, поэтому быстрое обращение важно.
Голосовые дипфейки сделали старые схемы обмана убедительнее. Раньше мошенник мог только представиться родственником или знакомым. Теперь он способен говорить его голосом. Услышать разницу удаётся не всегда, но отсутствие ошибок в записи не подтверждает её подлинность. Именно это и стоит учитывать, когда знакомый голос неожиданно обращается с необычной просьбой.