Що таке Deepfake (діпфейк): як відрізнити підроблене відео або голос від справжнього

Уявіть, що ви відкриваєте стрічку новин і бачите свіже відеоінтерв’ю з відомим політиком, мільярдером чи популярним актором. Він упевнено дивиться прямо в камеру, промовляє вкрай резонансні речі, а його міміка, жести та голос виглядають абсолютно природно. Ви щиро вірите своїм очам і вухам, ділитеся роликом із друзями, але за пару годин з’ясовується, що вся новина – це стовідсоткова фальсифікація.

Технологія створення цифрових підробок, що отримала назву дипфейк (від англійських слів deep learning – глибоке навчання та fake – підробка), за останні кілька років пройшла величезний шлях. Те, що раніше було уделом голлівудських студій із мільйонними бюджетами та армією фахівців зі спецефектів, сьогодні створюється за допомогою простих програм прямо на домашньому ноутбуці. Як працюють ці алгоритми, яку загрозу вони несуть і головне – як звичайній людині навчитися безпомилково розпізнавати обман?

Що таке дипфейк простими словами і як він влаштований?

Якщо говорити максимально просто, то дипфейк – це медіафайл (відеозапис, аудіокліп або фотографія), який був повністю створений або змінений штучним інтелектом. Нейромережі настільки штучно підміняють обличчя, копіюють тембр голосу та імітують рухи тіла, що людський мозок автоматично сприймає фальшивку за чисту правду.

В основі цієї технології лежать складні архітектури, такі як автоенкодери та генеративно-зразкові мережі (GAN). Уявіть собі двох художників-сопеника – перший намагається намалювати максимально переконливу підробку чужого обличчя, а другий грає роль суворого експерта-критика, який шукає найменші невідповідності. Перша нейромережа вчиться у другої, виправляє помилки та повторює цей цикл мільйони разів на секунду. У результаті «критик» перестає відрізняти оригінал від цифрового дубліката.

• Аналогія з цифровим гримом. Раніше, щоб змінити зовнішність актора в кадрі чи «омолодити» його на екрані, потрібні були тижні кропіткої покадрової роботи художників. Сьогодні алгоритм робить аналогічну роботу за кілька хвилин, аналізуючи тисячі фотографій вихідної людини під різними кутами освітлення.

Де грань між нешкідливим розвагою і серйозною загрозою?

Як і будь-яка потужна технологія, дипфейки мають дві сторони медалі. З одного боку, вони активно застосовуються в абсолютно мирних і навіть корисних цілях

• Кінематограф та індустрія розваг. Режисери можуть «воскрешати» померлих акторів для продовження культових франшиз або акуратно омолоджувати артистів у кадрах хроніки, заощаджуючи час і бюджети.
• Локалізація контенту та блогінг. Відеоблогери перекладають свої ролики на десятки мов світу, водночас нейромережа автоматично синхронізує рух губ (так званий lip-sync), створюючи повну ілюзію того, що спікер від народження говорить іноземною мовою.
• Освіта і маркетинг. Інтерактивні історичні персонажі «оживають» у музеях, розповідаючи відвідувачам про події минулих століть від першої особи.

З іншого боку, та сама доступність породила колосальні ризики для суспільства, бізнесу та приватних осіб

• Фінансове шахрайство (Vishing). Зловмисники навчилися клонувати голос керівника компанії за двосекундним фрагментом аудіо з публічного інтерв’ю. Після цього вони здійснюють телефонний дзвінок фінансовому директору чи бухгалтеру, віддаючи терміновий наказ перевести велику суму на «безпечний рахунок».
• Політичний саботаж і дезінформація. Фальшиві відеозаяви державних лідерів із закликами до капітуляції чи введення надзвичайного стану можуть за лічені хвилини обрушити фондові ринки та викликати масову паніку серед населення.
• Кібербулінг і шантаж. Створення компрометуючих фальшивих матеріалів із використанням облич реальних людей з метою зіпсувати репутацію або вимагати гроші.

Як відрізнити дипфейк від справжнього відео чи аудіо?

Незважаючи на те, що якість генерацій постійно зростає, у штучного інтелекту все ще залишаються технічні обмеження та слабкі місця. Якщо ви сумніваєтеся в справжності матеріалу, уважно придивіться до деталей.

Артефакти на обличчі та в міміці (для відео)

• Неприродне або відсутнє моргання. Людина в дипфейках часто забуває моргати протягом довгого часу або, навпаки, робить це судорожно і занадто часто через особливості навчання нейромережі.
• Дивні контури та шви. Придивіться до області навколо вух, лінії росту волосся та межі підборіддя. Іноді там помітні піксельні спотворення, розмиття фону або різкі перепади освітленості.
• Проблеми з дрібними деталями. Нейромережі досі плутаються в складних об’єктах – оправі окулярів, сережках, зубах або відображеннях у склі та дзеркалах. Окуляри можуть злегка «плисти» під час повороту голови.
• Невідповідність тіней. Світло в реальному світі падає за суворими законами фізики. У підроблених роликах тіні від носа, брів чи головного убору можуть жити своїм життям і не збігатися із загальним джерелом освітлення в кімнаті.

Помилки голосу та інтонації (для аудіо)

• Металевий відтінок і синтетична рівність. У голосових дипфейках часто проскакують цифрові шуми, роботизовані нотки або неприродні паузи на місці видихів.
• Бідна емоційна палитра. Жива людина постійно змінює темп мови, інтонацію та емоційне забарвлення залежно від сенсу слів. Підроблений голос часто звучить монотонно, наче зачитуючи текст із екрана.

Простий чек-лист – як захистити себе від цифрового обману

1. Включайте здоровий скептицизм. Якщо відео викликає у вас бурю емоцій (шок, гнів чи захват) і опубліковане сумнівним пабліком – це головний тригер для поширення фейків.
2. Шукайте першоджерело. Перевірте, чи транслюють цю новину великі авторитетні світові ЗМІ або офіційні ресурси людини, зображеної на відео.
3. Використовуйте кодове слово. Домовтеся з літніми батьками чи близькими родичами про секретну фразу-пароль на випадок екстреного дзвінка з проханням перевести гроші. Шахраї з клонованим голосом не зможуть її вгадати.

Висновок

Технології створення цифрових двійників беруть участь у гонці озброєнь з алгоритмами їх виявлення, але головним бар’єром на шляху обману залишається критичне мислення самої людини. Цифрова гігієна та звичка переперевіряти інформацію рятують від більшості пасток сучасного медіапростору.

А чи траплялося вам колись натрапляти в інтернеті на відео, яке здавалося абсолютно правдивим, але згодом виявлялося майстерною фальшивкою? Як саме ви здогадалися про обман?

Коллектив сайта