Синтетическое аудио, изображение или видео, созданное ИИ и убедительно имитирующее реального человека, которого не создавал.
Дипфейк — это синтетический медиаконтент (аудиозапись, изображение или видео), созданный с помощью генеративных моделей ИИ, который убедительно имитирует внешность, голос или манеру поведения реального человека в ситуации, которой на самом деле не было. Название происходит от сочетания «deep learning» (глубокое обучение) и «fake» (подделка).
Технологически дипфейки создаются с использованием тех же принципов, что лежат в основе генеративного ИИ в целом — диффузионные модели для синтеза убедительного видео или изображения, TTS с клонированием голоса для аудио. Основные риски дипфейков — мошенничество (например, звонок «от имени» руководителя компании с просьбой о срочном переводе денег), распространение дезинформации и репутационный ущерб для человека, чей образ был использован без согласия.
В России, как и во многих странах, всё активнее обсуждается и внедряется обязательная маркировка ИИ-контента как одна из мер противодействия рискам дипфейков, наряду с развитием технологий автоматической детекции синтетических медиа.
Однозначных признаков нет, но часто выдают неестественные детали — моргание, тени, синхронизация губ с речью, странности в качестве изображения на стыке лица и фона; специализированные детекторы дипфейков анализируют более тонкие технические артефакты.
Не обязательно — есть легитимные применения (дублирование фильмов голосом того же актёра на другом языке), но использование без согласия человека или с целью обмана и мошенничества является злоупотреблением и во многих случаях незаконно.
Через обучение сотрудников распознавать признаки атаки, введение дополнительных процедур верификации для критичных операций (например, финансовых переводов) помимо голосового или видеозвонка.