Діпфейки змінюють саме уявлення про те, чому можна довіряти в цифровому середовищі. Зображення, відео та навіть голос уже не завжди можна сприймати як достовірне підтвердження того, що людина справді сказала або зробила щось.
Штучний інтелект стрімко розвивається, а разом із ним поширюються й нові сценарії вішингу.
У цій статті розглянуто атаки з клонуванням голосу, принципи роботи цієї технології, основні сценарії її використання та способи зменшення ризику. Клонування голосу вже активно обговорюється в новинах і використовується під час реалістичних симуляцій вішингу.
Як працюють голосові діпфейки
Попри футуристичне звучання та негативні асоціації в контексті кібербезпеки, клонування голосу має чимало цілком законних і корисних сценаріїв використання.
Наприклад, подкастери можуть виправляти окремі неточності в записі без повторного запису всього фрагмента.
У кіноіндустрії технологія може використовуватися для коригування або покращення голосових доріжок без повторного залучення актора до запису.
У клієнтських сервісах синтетичний голос може допомагати масштабувати голосову взаємодію та автоматизувати окремі сценарії комунікації.
Тобто клонування голосу вже давно не є експериментальною технологією або науковою фантастикою. Воно активно розвивається та використовується на практиці.
Особливе занепокоєння викликає те, наскільки просто сьогодні створити переконливу копію голосу.
Існує багато доступних інструментів, які не потребують складного налаштування. Наприклад, ElevenLabs може створити клон голосу на основі аудіофрагмента тривалістю приблизно від 15 до 30 секунд.
При цьому якість таких технологій покращується надзвичайно швидко.
Чому голосовим діпфейкам легко повірити
Вішинг уже сам по собі є серйозною загрозою, а клонування голосу робить такі атаки ще переконливішими.
Причина проста: голос давно використовується як природний спосіб упізнати людину.
Навіть якщо дзвінок надходить із незнайомого номера, без попередньої домовленості або в незвичний час, знайомий голос часто автоматично сприймається як підтвердження особи співрозмовника.
Саме на цій довірі й базуються атаки з клонуванням голосу.
Технологія поки що залишається відносно новою для більшості користувачів, тому думка про те, що знайомий голос у слухавці може бути синтетичною копією, усе ще не виникає автоматично.
До того ж створення та використання такого голосу вже не потребує складної технічної підготовки.
Поєднання звичної довіри до голосу, реалістичності сучасних моделей і доступності відповідних інструментів робить такі атаки особливо небезпечними.
Як голосові діпфейки використовують у вішингу
Клонування голосу може використовуватися в різних сценаріях атак.
Для Arsen одним із ключових сценаріїв є вішинг, коли клонований голос використовується під час вхідних або вихідних телефонних дзвінків для підвищення довіри в межах соціальної інженерії.
Однак сфера застосування цієї технології значно ширша.
Наприклад, голосові діпфейки вже використовувалися у політичному контексті, зокрема під час виборів у Словаччині, для впливу на думку виборців.
У випадку вішингу наразі можна виділити два основні підходи:
- Зміна голосу в реальному часі, коли голос людини під час дзвінка трансформується в голос іншої особи.
- Програмно згенерований голос, коли розмову частково або повністю веде автоматизована система.
Основна різниця між цими підходами полягає у співвідношенні гнучкості та масштабованості.
Людина, яка використовує інструмент зміни голосу, може краще адаптуватися до перебігу розмови, реагувати на несподівані запитання та змінювати сценарій у реальному часі.
Автоматизовані системи, своєю чергою, значно легше масштабуються та можуть одночасно проводити велику кількість дзвінків.
Водночас ця різниця поступово скорочується.
Темпи розвитку генеративного ШІ настільки високі, що автоматизовані системи для проведення атак можуть досить швидко наблизитися за якістю взаємодії до людини-оператора.
Як зменшити ризик голосових діпфейків
Технічні засоби захисту від клонування голосу поки що не досягли рівня зрілості, який дозволяв би повністю покладатися лише на них.
У перспективі телефонні системи та VoIP-шлюзи можуть дедалі частіше використовувати механізми виявлення діпфейків. Додатково можуть застосовуватися суворіша фільтрація дзвінків, чорні списки та репутаційні механізми.
Проте між появою таких технологій і їх широким впровадженням залишається певний проміжок часу.
Саме тому важливу роль відіграє підготовка працівників до нових сценаріїв соціальної інженерії.
Комплексна програма навчання з протидії вішингу допомагає сформувати навички, необхідні для розпізнавання підозрілих дзвінків і правильного реагування на них.
Оскільки голосовий фішинг часто поєднується з психологічним тиском, терміновістю та іншими прийомами соціальної інженерії, такі тренування мають проводитися регулярно.
Окрему увагу варто приділяти процедурі подвійної перевірки.
У разі чутливого, незвичного або термінового запиту комунікацію слід припинити та перевірити особу через інший незалежний канал. Перед передаванням інформації або виконанням запиту також має застосовуватися надійний механізм автентифікації.
Терміновість не повинна бути причиною для обходу стандартної процедури перевірки.
Висновок
Голосові діпфейки вже не є гіпотетичною загрозою майбутнього. Технологія стала доступною, простою у використанні та достатньо зрілою, щоб застосовуватися у реальних сценаріях вішингу.
Такі інструменти, як ElevenLabs, дозволяють створювати переконливі копії голосу на основі короткого аудіозапису. Це робить технологію масштабованою та доступною не лише для законного використання, а й для соціальної інженерії.
Окремий ризик полягає в тому, що знайомий голос традиційно викликає довіру та сприймається як підтвердження особи співрозмовника. Голосові діпфейки руйнують цю звичну модель: навіть реалістичний голос більше не гарантує, що дзвінок справді надходить від тієї людини, за яку себе видає співрозмовник.
Технічні механізми виявлення таких атак продовжують розвиватися, тому важливу роль відіграють регулярні практичні тренування та чіткі процедури перевірки особи через незалежний канал перед передаванням чутливої інформації або виконанням важливих запитів.
Платформа Arsen дозволяє відпрацьовувати такі сценарії за допомогою автоматизованих реалістичних симуляцій вішингу та програм підвищення обізнаності щодо голосового фішингу.
