Дипфейк (Deepfake)

Дипфейк — это фрагмент синтетического медиа, чаще всего видео или аудио, хотя всё чаще и статичные изображения, убедительно показывающий, как реальный, узнаваемый человек говорит или делает то, чего на самом деле не говорил и не делал, — созданный ИИ-технологиями замены лица, клонирования голоса или полного видеосинтеза. Термин произошёл от сочетания «глубокое обучение» (deep learning) и «подделка» (fake), и хотя базовая технология (GAN для замены лиц, клонирование голоса, синхронизация губ) идентична технологии, используемой для согласованных, законных приложений (генерация аватаров, дубляж, развлечения), «дипфейк» несёт в себе именно коннотацию обманного или несогласованного использования — выдача себя за другого для мошенничества, политическая дезинформация, несогласованный интимный контент или целевое преследование, — поэтому сам термин стал столько же юридической и политической категорией, сколько и чисто технической, отдельной по формулировке от базовой техники генерации, которую он описывает, и всё чаще закрепляется в законодательстве, а не оставляется исключительно на усмотрение политики платформ. Почему это важно для SaaS-разработчиков: этот термин важен не столько как функция для реализации, сколько как концепция риска и соответствия требованиям, против которой активно должен проектироваться каждый разработчик, работающий с клонированием голоса, генерацией аватаров или видеосинтезом — авторитетные платформы внедряют верификацию согласия (произнесённая фраза согласия, сопоставленная с клонированным голосом), видимое или встроенное водяное знаки для ИИ-сгенерированного контента (всё чаще требуемое регулированием — Закон ЕС об ИИ обязывает раскрывать синтетические медиа во многих контекстах, а несколько штатов США приняли специфичные для дипфейков уголовные законы для случаев с выборами и несогласованным интимным контентом), а также политики использования, приостанавливающие аккаунты, пытающиеся клонировать публичную фигуру или частное лицо без разрешения. Обнаружение — активная область противодействующей технологии: API обнаружения дипфейков (Reality Defender, Hive Moderation, Video Authenticator от Microsoft) анализируют тонкие артефакты — несогласованное моргание, неестественные швы смешивания, ошибки аудиовизуальной синхронизации или сигнатуры в частотной области — чтобы пометить вероятно синтетический контент, хотя обнаружение остаётся непрекращающейся гонкой вооружений по мере роста качества генерации. Конкретный пример — пайплайн предотвращения злоупотреблений в SaaS для видео-аватаров: (1) прежде чем разрешить создание персонального аватара, платформа требует от пользователя произнести на камеру рандомизированную фразу согласия, например «Я, [имя], даю согласие на создание ИИ-аватара себя для [платформа]»; (2) модель верификации лица платформы подтверждает, что говорящий в видео согласия совпадает с представленными референсными фотографиями; (3) каждое сгенерированное видео помечается невидимым, устойчивым к подделке сигналом (например, через учётные данные контента C2PA), идентифицирующим его как сгенерированное ИИ; (4) попытки создать аватар лица, совпадающего с базой данных публичных фигур, автоматически помечаются для ручной проверки, а не одобряются автоматически.