Дипфейки меняют само представление о том, чему можно доверять в цифровой среде. Изображения, видео и даже голос уже не всегда можно воспринимать как достоверное подтверждение того, что человек действительно что-то сказал или сделал.
AI стремительно развивается, а вместе с ним появляются и новые сценарии вишинга.
В этой статье рассматриваются атаки с использованием клонирования голоса, принципы работы этой технологии, основные сценарии ее применения и способы снижения связанных с ней рисков. Клонирование голоса уже активно обсуждается в новостях и используется в реалистичных симуляциях вишинга.
Как работают голосовые дипфейки
Несмотря на футуристическое звучание и негативные ассоциации в контексте кибербезопасности, клонирование голоса имеет множество вполне законных и полезных сценариев применения.
Например, авторы подкастов могут исправлять отдельные ошибки в записи без необходимости заново записывать весь фрагмент.
В киноиндустрии технология может использоваться для корректировки или улучшения голосовых дорожек без повторного привлечения актера к записи.
В клиентских сервисах синтетический голос может помогать масштабировать голосовое взаимодействие и автоматизировать отдельные сценарии коммуникации.
Таким образом, клонирование голоса уже давно не является экспериментальной технологией или научной фантастикой. Оно активно развивается и используется на практике.
Особую обеспокоенность вызывает то, насколько просто сегодня создать убедительную копию голоса.
Существует множество доступных инструментов, которые не требуют сложной настройки. Например, ElevenLabs может создать клон голоса на основе аудио фрагмента продолжительностью примерно от 15 до 30 секунд.
При этом качество таких технологий улучшается чрезвычайно быстро.
Почему голосовым дипфейкам легко поверить
Вишинг уже сам по себе представляет серьезную угрозу, а клонирование голоса делает такие атаки еще более убедительными.
Причина проста: голос давно используется как естественный способ узнать человека.
Даже если звонок поступает с незнакомого номера, без предварительной договоренности или в необычное время, знакомый голос часто автоматически воспринимается как подтверждение личности собеседника.
Именно на этом доверии и строятся атаки с использованием клонирования голоса.
Для большинства пользователей эта технология пока остается относительно новой, поэтому мысль, что знакомый голос в телефонной трубке может оказаться синтетической копией, все еще не возникает автоматически.
Кроме того, создание и использование такого голоса больше не требует сложной технической подготовки.
Сочетание привычного доверия к голосу, реалистичности современных моделей и доступности соответствующих инструментов делает такие атаки особенно опасными.
Как голосовые дипфейки используют в вишинге
Клонирование голоса может использоваться в разных сценариях атак.
Для Arsen одним из ключевых сценариев является вишинг, когда клонированный голос используется во время входящих или исходящих телефонных звонков для повышения доверия в рамках социальной инженерии.
Однако сфера применения этой технологии значительно шире.
Например, голосовые дипфейки уже использовались в политическом контексте, в частности во время выборов в Словакии, для влияния на мнение избирателей.
В случае вишинга можно выделить два основных подхода:
- Изменение голоса в реальном времени, когда голос человека во время звонка преобразуется в голос другого человека.
- Программно сгенерированный голос, когда разговор частично или полностью ведет автоматизированная система.
Основное различие между этими подходами заключается в соотношении гибкости и масштабируемости.
Человек, использующий инструмент изменения голоса, может лучше адаптироваться к ходу разговора, реагировать на неожиданные вопросы и менять сценарий в реальном времени.
Автоматизированные системы, в свою очередь, значительно легче масштабируются и могут одновременно проводить большое количество звонков.
При этом эта разница постепенно сокращается.
Темпы развития генеративного AI настолько высоки, что автоматизированные системы для проведения атак могут достаточно быстро приблизиться к человеку-оператору по качеству взаимодействия.
Как снизить риск голосовых дипфейков
Технические средства защиты от клонирования голоса пока не достигли уровня зрелости, который позволял бы полностью полагаться только на них.
В перспективе телефонные системы и VoIP-шлюзы могут все чаще использовать механизмы обнаружения дипфейков. Дополнительно могут применяться более строгая фильтрация звонков, черные списки и репутационные механизмы.
Однако между появлением таких технологий и их широким внедрением все еще остается определенный промежуток времени.
Именно поэтому важную роль играет подготовка сотрудников к новым сценариям социальной инженерии.
Комплексная программа обучения по противодействию вишингу помогает сформировать навыки, необходимые для распознавания подозрительных звонков и правильного реагирования на них.
Поскольку голосовой фишинг часто сочетается с психологическим давлением, срочностью и другими приемами социальной инженерии, такие тренировки должны проводиться регулярно.
Отдельное внимание следует уделять процедуре двойной проверки.
В случае чувствительного, необычного или срочного запроса коммуникацию следует прекратить и проверить личность через другой независимый канал. Перед передачей информации или выполнением запроса также должен применяться надежный механизм аутентификации.
Срочность не должна становиться причиной для обхода стандартной процедуры проверки.
Заключение
Голосовые дипфейки уже не являются гипотетической угрозой будущего. Технология стала доступной, простой в использовании и достаточно зрелой для применения в реальных сценариях вишинга.
Такие инструменты, как ElevenLabs, позволяют создавать убедительные копии голоса на основе короткого аудиозаписи. Это делает технологию масштабируемой и доступной не только для законного использования, но и для социальной инженерии.
Отдельный риск заключается в том, что знакомый голос традиционно вызывает доверие и воспринимается как подтверждение личности собеседника. Голосовые дипфейки разрушают эту привычную модель: даже реалистичный голос больше не гарантирует, что звонок действительно поступает от того человека, за которого себя выдает собеседник.
Технические механизмы обнаружения таких атак продолжают развиваться, поэтому важную роль играют регулярные практические тренировки и четкие процедуры проверки личности через независимый канал перед передачей чувствительной информации или выполнением важных запросов.
Платформа Arsen позволяет отрабатывать такие сценарии с помощью автоматизированных реалистичных симуляций вишинга и программ повышения осведомленности о голосовом фишинге.
