AI-фото и дипфейк: в чём разница и где граница

Кратко. Дипфейк это чужое лицо, поставленное в чужой кадр без разрешения хозяина лица. AI-фотосессия это твои селфи, твой заказ и твоё же лицо в придуманной студии. Граница проходит по согласию и по тому, кого кадр выдаёт за участника событий. Технически задачи тоже разные: подмена поверх готового видео и рисование кадра с нуля.

Что вообще называют дипфейком

Дипфейк это подделка, где лицо одного человека стоит на месте другого. Слово склеили из «глубокого обучения» и «фейка» ещё в 2017 году, и закрепилось оно за роликами, в которых политик или актёр произносит то, чего никогда не говорил.

Подделкой такой ролик делает одно: заявление, что человек был в кадре и вёл себя вот так. Лицо взяли у него, тело и обстановку у кого-то другого, разрешения не спросили.

Отсюда и путаница вокруг AI-портретов. Человек слышит «нейросеть нарисовала лицо» и достраивает остальное сам, хотя во второй половине формулы всё иначе.

Где проходит граница

Граница держится на двух вопросах: чьё лицо в кадре и кто дал на это добро. Нейросеть тут инструмент. Одним и тем же топором рубят дрова и совершают преступления.

В разговорной речи слово растянули до предела. Дипфейком называют и фальшивое видео с политиком, и обычный портрет, сделанный нейросетью, и фотографию, которой добавили резкости в редакторе. От этой каши и растут вопросы вроде «а ставить такое фото в анкету вообще нормально». Если держать в голове исходный смысл слова, вопрос отпадает сам.

Последняя строка таблицы важнее остальных. Плохой AI-портрет это испорченный вечер и просьба переснять. Дипфейк бьёт по человеку, которого рядом не стояло.

Почему это разные технические задачи

Подмена лица идёт поверх готового материала. Берут исходный снимок или ролик, вырезают область лица, вклеивают другую. Остальное достаётся от донора: свет, зерно, поворот головы, тень от переносицы. Отсюда и приметы подделки, которые ловит глаз: кожа лица чуть светлее шеи, край челюсти на видео подрагивает, блик в зрачке не совпадает с лампами в комнате.

AI-фотосессия рисует кадр целиком, от фона до воротника, и лицо появляется внутри него вместе с тканью пиджака и тенью на стене. Склеивать нечего, поэтому шва не бывает. Маршрута у нас два. В быстром режиме редактирующая модель получает 4 твоих настоящих снимка как образцы и держит черты по ним. В профи-режиме обучается личная модель: 15-20 фото, 2 500 шагов, скорость обучения 0,0001, автокроп по человеку и маски, чтобы сеть учила тебя, а не диван за спиной. Как устроена такая надстройка, разобрано в статье про LoRA.

Разница в постановке задачи даёт разный результат при ошибке. Кривая подмена выдаёт себя швом. Кривая генерация выдаёт себя непохожестью, и человек просто говорит «это не я».

Почему свой портрет дипфейком не становится

Твой AI-портрет никого ни в чём не обвиняет. Он показывает тебя в сцене, которой не было, и это ровно то же самое, что делает студийный фотограф с бумажным фоном и двумя софтбоксами. Никто не считает подделкой снимок в костюме на фоне книжных полок, взятых из реквизита.

Три вещи отличают такой кадр от подделки:

1. Лицо в кадре принадлежит тому, кто заказал съёмку.
2. Кадр не утверждает событие. Портрет в спортзале говорит про твой вид, а не про то, что ты был в конкретном зале во вторник.
3. Рядом нет узнаваемых людей и мест, которые превратили бы картинку в доказательство.

Стоит убрать хотя бы первый пункт, и разговор становится другим. Загруженное чужое селфи это уже чужое лицо без спроса, и никакая техническая деталь этого не меняет.

Пограничные случаи, о которых спрашивают

Между «мой портрет» и «подделка» лежит полоса, где ответ зависит от мелочей. Вот то, что спрашивают чаще всего.

Место, где ты не был. Кадр на фоне южной набережной это тот же павильон с нарисованным задником, и в анкете знакомств он читается как картинка. Неловко выходит только тогда, когда снимок идёт доказательством: в историю про командировку или в спор о том, где ты провёл выходные.

Одежда, которой у тебя нет. Дорогой костюм никого не смутит, а вот форма, погоны и белый халат сообщают о должности. Человек на той стороне понимает их буквально, поэтому в каталоге таких сцен и не держат.

Чужое лицо ради шутки. Приятель прислал селфи, ты закинул файл в сервис и сделал ему портрет сюрпризом. Файл он отдал сам, согласия на обучение модели своим лицом не давал. Разница между этими двумя вещами и есть та самая граница, о которой весь разговор.

Узнаваемый человек рядом в кадре. Сцена, где ты стоишь плечом к плечу с известным лицом, работает как заявление о знакомстве, которого не было. Здесь портрет перестаёт быть портретом и превращается в утверждение о другом человеке.

Зачем сервисы держат фильтры

Фильтры стоят по той же причине, по которой в типографии не печатают чужие паспорта. Генерация с включённым фильтром безопасности отсекает часть запросов, которые к портретной съёмке отношения не имеют.

Автоматический фильтр туповат по своей природе. Он смотрит на картинку и запрос, ничего не знает про твои намерения и потому иногда бракует нормальную сцену вместе с ненормальной. Плата за это невелика: заказ пересобирается на другой сцене за пару минут. Сервис без такого фильтра выглядит удобнее ровно до первой истории в новостях.

Вокруг этого работает и остальная механика. Датасет собирается под конкретный заказ, чужим людям его не показывают. Архив со снимками уходит на обучение по служебной ссылке с коротким сроком жизни. Готовые кадры лежат в объектном хранилище, попасть к ним можно по личной ссылке из кабинета. Удаление аккаунта идёт с отсрочкой в 30 дней, после чего стираются файлы, снимки набора, личные модели и задания, а профиль обезличивается.

Юридическую сторону вопроса про биометрию и согласия мы разбирали в отдельном материале про безопасность, советов там нет, есть чек-лист, что спрашивать у любого сервиса до загрузки.

Как отличить подделку глазами

Подмена лица держится хуже, чем цельная генерация, и сыпется на стыках. Пять мест, где это заметно:

1. Граница лица и волос. На подмене там часто размытая полоса или неестественно ровный край.
2. Шея и уши. Их обычно оставляют от донора, поэтому тон кожи и текстура расходятся.
3. Зерно и резкость. Лицо выглядит глаже остального кадра, будто его сняли другой камерой.
4. Свет. Тень от носа идёт в одну сторону, тени на стене в другую.
5. Очки и украшения. Дужка очков пропадает у виска, серьга висит в воздухе.

С цельной генерацией картина другая: там ищут не шов, а странности в руках, зубах, надписях и узорах. Про эти приметы у нас есть разбор про заметность AI-фото.

У любого такого списка короткий срок годности. Приметы, по которым подделку узнавали в 2023 году, половина моделей уже не даёт: пальцы посчитаны верно, буквы на вывеске складываются в слова. Поэтому опираться стоит на источник и контекст, а не на разглядывание пикселей. Видео без первоисточника, которое пришло пересланным сообщением от незнакомого человека, подозрительно само по себе, даже если края челюсти идеальны.

Как это устроено у нас

Мы делаем портреты человека по его же снимкам, и других сценариев в продукте нет. Быстрый режим: три селфи, выбор сцены из каталога, где больше 900 вариантов, первые кадры приходят через пару минут, весь пакет собирается за 10-20 минут. Пакеты начинаются от 490 ₽ за 10 кадров. Профи-съёмка с обучением личной модели стоит 3 490 ₽ и даёт 60 фото в пяти стилях примерно за 40 минут.

Кадры приходят вертикальными, 3:4, других форматов и автоматических кропов под площадки у нас нет. Квадрат под аватарку вырезается вручную за десять секунд. Сцены можно посмотреть в каталоге до оплаты.

Чего сервис не решает за тебя

Тут честно, без обтекаемых формулировок.

• Сервис не проверяет, что на загруженных селфи именно ты. Паспорт никто не спрашивает, так что за чужое лицо в загрузке отвечает тот, кто его принёс.
• Готовый кадр остаётся нарисованным. Он годится для анкеты, сайта и мессенджера, но документальным снимком не становится и на документы не подходит.
• Мы не занимаемся ни детекцией дипфейков, ни экспертизой чужих файлов. Если тебе прислали подозрительное видео, это не к нам.

Последнее стоит держать в голове при любом разговоре о технологии. Одна и та же диффузионная модель рисует и портрет для резюме, и картинку, за которую потом отвечают в суде. Отличает их не архитектура сети, а то, чьё лицо человек положил на вход и зачем.

Частые вопросы