Дипфейк — это синтетический медиаконтент (аудиозапись, изображение или видео), созданный с помощью генеративных моделей ИИ, который убедительно имитирует внешность, голос или манеру поведения реального человека в ситуации, которой на самом деле не было. Название происходит от сочетания «deep learning» (глубокое обучение) и «fake» (подделка).
Технологически дипфейки создаются с использованием тех же принципов, что лежат в основе генеративного ИИ в целом — диффузионные модели для синтеза убедительного видео или изображения, TTS с клонированием голоса для аудио. Основные риски дипфейков — мошенничество (например, звонок «от имени» руководителя компании с просьбой о срочном переводе денег), распространение дезинформации и репутационный ущерб для человека, чей образ был использован без согласия.
В России, как и во многих странах, всё активнее обсуждается и внедряется обязательная маркировка ИИ-контента как одна из мер противодействия рискам дипфейков, наряду с развитием технологий автоматической детекции синтетических медиа.