Искусственный интеллект научился создавать настолько реалистичные портреты людей, что обычному пользователю становится всё сложнее понять, где настоящая фотография, а где цифровая подделка. Изображения могут иметь естественное освещение, правильные пропорции, реалистичную кожу и практически незаметные детали, которые раньше часто выдавали работу генератора. Об этом сообщает Glavpost со ссылкой на BBC.
Группа учёных из Великобритании, Австралии и Канады проверила, можно ли научить людей увереннее распознавать лица, созданные генеративным искусственным интеллектом. Результаты экспериментов показали, что даже непродолжительная тренировка способна существенно повысить точность ответов.
При этом исследователи подчёркивают: универсального признака, который гарантированно разоблачает любой дипфейк, практически не существует. Для проверки необходимо анализировать совокупность деталей, оценивать источник публикации и не полагаться только на первое впечатление.
Почему прежние способы проверки фотографий больше не работают
Ещё несколько лет назад изображения, созданные искусственным интеллектом, часто можно было распознать по очевидным техническим ошибкам. Генераторы неправильно изображали пальцы, смешивали черты лица, создавали неестественные уши, асимметричные очки или странные предметы на заднем плане.
Подобные дефекты стали своеобразным быстрым тестом. Пользователю было достаточно внимательно рассмотреть руки, зубы, волосы или отражение в зеркале, чтобы заметить цифровое вмешательство.
Однако современные системы научились намного точнее воспроизводить анатомию, текстуру кожи, освещение и мелкие детали. Кроме того, люди, использующие генеративные модели для мошенничества, могут создать десятки вариантов одного портрета и выбрать тот, в котором отсутствуют заметные недостатки.
Профессор Эми Давел, директор Лаборатории эмоций и лиц Австралийского национального университета, объясняет, что технологии стали слишком качественными, чтобы мошенникам приходилось использовать неудачные изображения. Если результат содержит очевидную ошибку, его можно отклонить и сгенерировать новый.
Именно поэтому поиск лишних пальцев или неправильно нарисованных глаз уже нельзя считать надёжным методом проверки.
Как учёные проверяли способность людей находить дипфейки
Международную исследовательскую группу возглавила Эми Давел. В работе участвовали специалисты из Австралии, Канады и Великобритании. Британскую часть эксперимента проводила психолог Клэр Сазерленд из Абердинского университета.
Исследователи хотели выяснить, можно ли превратить интуитивное ощущение подделки в навык, которому способны научиться другие люди. Учёные сами заметили, что после длительной работы с синтетическими портретами начали быстрее отличать их от настоящих фотографий.
Для экспериментов была создана база из тысяч человеческих лиц. Часть изображений была настоящей, остальные сгенерировали при помощи StyleGAN3 — системы, способной создавать реалистичные портреты людей, которых в действительности не существует.
Участникам показывали разные лица и просили определить, какие из них являются настоящими, а какие созданы компьютером. Сначала люди проходили тест без подготовки. Затем им объясняли характерные особенности синтетических портретов, показывали правильные ответы и проводили повторное тестирование.
Результаты показали, что систематическая обратная связь помогает развить более точное восприятие. Человек постепенно начинает замечать не одну конкретную ошибку, а общую совокупность черт, характерных для изображений ИИ.
Шесть признаков, на которые рекомендуют обращать внимание
Во время обучения участникам предлагали оценивать шесть характеристик лица. Ни одна из них сама по себе не доказывает, что перед человеком дипфейк. Однако сочетание нескольких признаков может стать основанием для дополнительной проверки.
Симметрия лица
Реальные человеческие лица почти никогда не бывают идеально симметричными. Одна бровь может находиться немного выше, веко — быть менее открытым, а улыбка — сильнее приподнимать один уголок рта.
Генеративные модели часто стараются создать гармоничное и сбалансированное лицо. Из-за этого портрет иногда выглядит слишком правильным, отретушированным или лишённым естественной асимметрии.
Подозрение может вызвать не только абсолютная симметрия, но и общее ощущение искусственного совершенства. Особенно это заметно на фотографиях, которые якобы были сделаны в обычных бытовых условиях.
Пропорции и нестандартные черты
Изображения ИИ нередко тяготеют к усреднённым пропорциям. Генератор создаёт лицо, соответствующее типичному шаблону, сформированному на основе большого количества обучающих данных.
Поэтому на синтетических портретах реже встречаются очень крупные носы, заметно оттопыренные уши, необычная форма подбородка и другие индивидуальные особенности.
Наличие нестандартных черт не гарантирует подлинность фотографии. Современные модели способны создавать и такие лица. Однако чрезмерная пропорциональность в сочетании с другими признаками должна насторожить.
Чрезмерная привлекательность
Лица, созданные искусственным интеллектом, часто выглядят привлекательнее среднестатистических человеческих портретов. Это может проявляться в чистой коже, правильной форме губ, выразительных глазах, густых волосах и гармоничных чертах.
Речь не идёт о том, что каждый привлекательный человек на фотографии является вымышленным. Критерием становится неестественное сочетание большого количества эстетически идеальных характеристик.
Синтетическое лицо может напоминать рекламный портрет даже в том случае, если контекст снимка не предполагает профессионального макияжа, ретуши или студийного освещения.
Отсутствие выраженной индивидуальности
Исследователи использовали понятие отличительности или уникальности. Оно описывает черты, благодаря которым человека можно легко узнать среди других.
Сгенерированные лица часто приближаются к статистически усреднённым параметрам. Они могут выглядеть правдоподобно, но при этом не иметь особенности, которая сразу запоминается.
Такой портрет кажется знакомым и типичным, хотя изображённый на нём человек раньше никогда не встречался пользователю. Именно это ощущение усреднённости может быть одним из сигналов цифрового происхождения изображения.
Слабая эмоциональная выразительность
Даже когда человек на синтетическом портрете улыбается, его эмоция иногда выглядит поверхностной или механической. Выражение глаз может не соответствовать положению губ, а мимика — не передавать чёткой реакции.
Настоящие эмоции обычно сопровождаются множеством мелких изменений: напряжением мышц вокруг глаз, неравномерностью улыбки, складками на коже и изменением положения бровей.
ИИ способен воспроизводить эти детали, но часто создаёт более нейтральные лица. Именно поэтому синтетические портреты могут восприниматься как менее живые.
Плохая запоминаемость
Ещё один критерий касается того, насколько легко лицо остаётся в памяти. Портреты, созданные искусственным интеллектом, нередко быстро забываются.
Это связывают с недостатком выразительных черт, усреднёнными пропорциями и слабой эмоциональностью. Человек может помнить общий тип внешности, но не способен точно описать нос, глаза, форму лица или мимику.
Эта характеристика является субъективной, поэтому её нельзя использовать отдельно. Однако при сравнении большого количества фотографий разница в запоминаемости может быть заметной.
Почему ИИ хуже воспроизводит отдельные группы людей
Качество сгенерированного изображения зависит от данных, на которых обучалась модель. Если в обучающем массиве преобладают фотографии определённой возрастной или этнической группы, система лучше воспроизводит именно такие лица.
Исследователи обратили внимание, что генераторы могут менее точно создавать портреты людей с небелым цветом кожи, детей и пожилых. Одной из причин считается неравномерность обучающих баз, в которых длительное время преобладали изображения молодых белых людей.
Ошибки могут проявляться в текстуре кожи, волосах, возрастных изменениях, пропорциях или неестественном сочетании черт. Вместе с тем технологии быстро совершенствуются, поэтому эти недостатки не остаются неизменными.
Это означает, что рекомендации, работающие сегодня, могут утратить эффективность после обновления генеративных моделей.
Насколько обучение улучшает распознавание подделок
До начала подготовки участники эксперимента определяли происхождение изображений с относительно низкой точностью. В среднем правильными были около 40% ответов.
После обучения показатель во многих случаях возрастал примерно до 80%. Некоторые участники приближались почти к стопроцентной точности.
Для улучшения результатов не требовалось проходить продолжительный курс. Заметный эффект наблюдался даже после обучения, занимавшего около одного часа.
Участникам показывали настоящие и сгенерированные портреты, после чего сообщали правильный ответ. Благодаря повторению люди постепенно формировали собственное понимание характерного внешнего вида синтетических лиц.
Механизм частично напоминает работу самого машинного обучения: чем больше примеров с правильными обозначениями получает система или человек, тем точнее она классифицирует следующие изображения.
При этом участники не всегда могли словами объяснить, почему конкретное лицо кажется искусственным. Часто решение основывалось на сочетании мелких признаков, воспринимаемых интуитивно.
Почему чрезмерная уверенность может мешать проверке
Отдельной частью исследования стала оценка уверенности участников. Учёных интересовало не только то, правильно ли человек определяет дипфейк, но и насколько он доверяет собственному ответу.
Предыдущие эксперименты показывали противоречивую закономерность: наиболее уверенные участники нередко допускали больше ошибок. Они быстро принимали решение и реже пересматривали первое впечатление.
После тренировки уверенность участников стала чаще соответствовать реальной точности. Люди лучше понимали, в каких случаях их ответ обоснован, а когда изображение нуждается в дополнительной проверке.
Для практического использования это важно, поскольку сомнение должно побуждать не к случайному выбору, а к поиску первоисточника, анализу контекста и проверке информации другими способами.
Как проверять подозрительную фотографию за пределами лабораторного теста
Оценка черт лица является только первым этапом проверки. В реальных условиях важно анализировать не только само изображение, но и обстоятельства его появления.
Прежде всего необходимо установить, кто опубликовал фотографию. Анонимный профиль, недавно созданная учётная запись или страница без истории активности могут указывать на попытку использовать вымышленную личность.
Следует также проверить, встречается ли фотография в других источниках. Обратный поиск по изображению может показать, что портрет публиковался под разными именами или использовался в мошеннических профилях.
На самом снимке стоит оценить:
- симметрию глаз, бровей, ушей и губ;
- естественность кожи и мелких морщин;
- границу между волосами и фоном;
- форму зубов и отражение света в глазах;
- соответствие освещения на лице и заднем плане;
- детали очков, серёжек, воротников и других аксессуаров;
- логику расположения предметов в кадре;
- наличие неестественного размытия или повторяющихся текстур.
Особого внимания требуют фотографии, используемые как подтверждение личности при финансовых операциях, знакомствах, трудоустройстве или деловой переписке.
Даже реалистичный портрет не доказывает, что человек существует или что учётная запись действительно принадлежит ему.
Почему умение распознавать дипфейки становится вопросом финансовой безопасности
Наиболее очевидным риском остаётся мошенничество. Сгенерированные портреты позволяют создавать убедительные профили в социальных сетях, на сайтах знакомств, профессиональных платформах и сервисах объявлений.
Такие страницы могут использоваться для установления доверия, сбора персональных данных, выманивания денег или получения доступа к корпоративной информации.
По прогнозу консалтинговой компании Deloitte, потери от мошенничества с применением генеративного искусственного интеллекта в США могут превысить 50 миллиардов долларов в 2027 году. Для сравнения, в 2023 году соответствующий показатель оценивался примерно в 16 миллиардов долларов.
Одним из наиболее резонансных примеров стал случай в Гонконге. Сотрудник компании принял участие в видеоконференции, во время которой видел людей, похожих на своих коллег и руководителя.
В действительности собеседники были воссозданы с помощью технологии дипфейка. После разговора сотрудник перевёл средства на общую сумму, эквивалентную примерно 25 миллионам фунтов стерлингов.
Этот случай показал, что мошенники могут подделывать не только статичные фотографии. Современные технологии позволяют имитировать голос, мимику и движения человека во время видеосвязи.
Как синтетические профили могут использоваться в политических целях
Ещё одним направлением применения дипфейков является создание вымышленных экспертов, консультантов, журналистов или политических активистов.
В 2019 году Associated Press расследовало происхождение профиля в LinkedIn, который якобы принадлежал Кэти Джонс — специалисту по вопросам России и Евразии. На странице указывалось, что она имеет профессиональные связи с американскими аналитическими центрами и представителями политических кругов.
Журналисты выяснили, что фотография профиля, вероятно, была создана при помощи искусственного интеллекта, а сама личность могла быть вымышленной. Через эту учётную запись устанавливались контакты с политическими помощниками и специалистами по национальной безопасности США.
Такие профили могут использоваться для сбора информации, установления доверительных контактов, распространения необходимых сообщений или проникновения в профессиональные сети.
Опасность заключается в том, что убедительная фотография делает страницу более реалистичной. Пользователь видит лицо и подсознательно воспринимает его как доказательство существования человека, хотя изображение могло быть полностью создано программой.
Почему дипфейки влияют на политические кампании
Сгенерированные изображения, видео и аудиозаписи могут использоваться для дискредитации кандидатов, создания ложных заявлений или распространения сообщений о вымышленных событиях.
Даже если подделка быстро разоблачена, она успевает распространиться в социальных сетях и повлиять на часть аудитории. Опровержение обычно получает меньший охват, чем эмоциональный фальшивый материал.
В Австралии обсуждалось требование обязательно обозначать политический контент, созданный с помощью искусственного интеллекта. Одним из возможных механизмов называли цифровую маркировку или видимые водяные знаки.
Такие меры должны помочь пользователям понять происхождение материала ещё до того, как они начнут оценивать его содержание.
Однако маркировка может быть эффективной только в том случае, если её применяют все крупные платформы, а за удаление отметки предусмотрена ответственность.
Где технология может применяться без мошенничества
Генеративный искусственный интеллект несёт не только риски. Исследователи указывают на возможность его применения в творческих, образовательных, медийных и поисковых проектах.
Одним из примеров является создание предполагаемых портретов детей, пропавших много лет назад. Система может смоделировать, как могла измениться внешность человека с возрастом, и помочь обновить ориентировки.
Подобные инструменты также применяются в кино, рекламе, дизайне, музейных проектах и цифровой реконструкции исторических персонажей.
Ключевым условием остаётся прозрачность. Аудитория должна знать, что изображение было изменено или полностью создано искусственным интеллектом.
Проблема возникает тогда, когда синтетический материал выдают за документальную фотографию, реального человека или подтверждение события.
Почему навыки проверки придётся постоянно обновлять
Эксперимент показал, что люди могут научиться лучше распознавать синтетические лица. Регулярная практика, анализ примеров и обратная связь способны повысить точность в несколько раз.
Вместе с тем генеративные модели продолжают развиваться. Разработчики совершенствуют анатомическую точность, текстуры, мимику, освещение и способность создавать нестандартные черты.
Признаки, которые сегодня кажутся типичными для ИИ, постепенно могут исчезнуть. Например, генераторы уже намного лучше воспроизводят руки, зубы, очки и сложные фоны, чем ранние версии подобных систем.
Научные публикации о способах обнаружения дипфейков также могут использоваться для обучения новых моделей. Таким образом, разработчики получают информацию о слабых местах технологии и постепенно устраняют их.
Поэтому проверка фотографий всё больше зависит не от поиска одного визуального дефекта, а от комплексного анализа: происхождения изображения, репутации источника, истории профиля, метаданных, контекста публикации и подтверждения по независимым каналам.
Читайте также: как сделать видео с фото на телефоне и ПК: 6 инструментов
