Как определить, что картинку сгенерировала нейросеть

С развитием ИИ-технологий стало сложно определить, было ли изображение создано нейросетью или реальным человеком. Но иногда это необходимо. Например, чтобы провести фактчекинг, убедиться в достоверности информации или изучить авторские права на контент.

Тщательный анализ и использование специальных инструментов помогут выявить искусственный визуальный контент. В статье рассказываю, как понять, что картинку сгенерировала нейросеть.

Визуальные признаки использования нейросети

Чтобы понять, почему искусственный интеллект допускает ошибки при создании картинок, нужно разобраться в принципе генерации. Нейросети обучаются создавать реалистичные изображения, просматривая огромное количество реальных фото. 

При этом сервисы не понимают принципа формирования тех или иных деталей, не учитывают законы физики. Они создают изображения на основе ранее изученных деталей. Поэтому при генерации снимков нейросети пропускают разные артефакты. И чтобы распознать генерацию — главное, внимательно присмотреться к картинке. Для упрощения задачи можно увеличить изображение. 

Вот на что следует обращать внимание.

Неправильные анатомические особенности

У нейросетей могут возникать проблемы с точной передачей анатомических особенностей. Вот самые частые косяки в картинках. 

Руки. Долгое время дефекты рук были одним из главных признаков сгенерированного изображения — не соответствующее количество пальцев, неправильные пропорции отдельных частей тела или странные сочленения. Сейчас нейросети лучше справляются с руками, но при внимательном изучении можно заметить дефекты.

Глаза. Рисовать реалистичные глаза нейросети пока что тоже умеют плохо. Часто зрачки имеют неверную форму — не овальную, а круглую или неполную. Радужка смотрится неественно, будто вместо нее в глаз вставили цветной круг. Нередко зрачки смотрят в разном направлении, что создаёт эффект косоглазия. Отражения предметов в зрачках не совпадают. А блики и тени расположены хаотично. 

Уши. Проблема генерации может быть связана и с ушами. Иногда нейросети не могут чётко их нарисовать. А если на картинке дополнительно изображены серьги, то стоит их сравнить друг с другом — часто они отличаются или прикреплены к разным местам. 

Зубы. На сгенерированных изображениях зубной ряд нередко выглядит как единая линия, без зазоров. Иногда в зубном ряду очень много зубов — сильно больше, чем в норме. А иногда зубы выглядят очень большими.

Зубы на одной стороне рта могут не соответствовать зубам на другой стороне по размеру, форме и расположению. Также стоит отметить возможные аномалии дёсен, слияние зубного ряда с губами или щеками. 

Волосы. На искусственных изображениях волосы могут выглядеть слишком прямыми или не иметь чёткой структуры, как будто их рисовали хаотичными мазками кисти. Отдельные прядки могут размещаться в необычных местах, порой обособленно от основной причёски. Иногда вокруг волос формируется странный ореол, как будто свечение. 

Кожа. Тон кожи на картинках от ИИ может выглядеть неестественно — слишком бледный или красный. Кожа может быть чрезмерно равномерной и гладкой. При увеличении изображения не будет видно шума и зернистости, которые дают ощущение текстуры и реализма.

Но есть нюанс — такого же эффекта можно добиться и профессиональной ретушью. Например, с помощью Photoshop, специальных приложений для обработки фотографий или тех же нейросетей, которые помогут улучшить реальное фото.

Форма лица. В реальной жизни лицо человека ассиметрично — правая часть лица отличается от левой. Нейросети обычно рисуют симметричные лица, когда обе половины зеркально отображают друг друга. Бывает и другая крайность — неестественная несимметричность, когда парные органы сильно отличаются по размеру и форме. К примеру, глаза разного цвета или размера, одно ухо больше другого. 

Пропорции тела. С расчётом пропорциональности нейросети нередко делают ошибки. Например, рисуют слишком короткие руки относительно тела. Делают длинные пальцы, большую голову или стопы. Но чтобы заметить такие различия, придётся вглядываться в картинку.

Нереалистичные тени и освещение

Нейросети могут генерировать неправильные тени. К примеру, тень может не соответствовать объекту или находиться со стороны источника освещения. Хотя должна быть за объектом, на который падает свет. Особенно это может быть заметно, когда на картинке есть несколько объектов или людей. 

Ещё один дефект может быть связан с отражениями. Они порой не соответствуют действительности. Неточности можно заметить при изучении отражений в очках, зрачках, зеркалах, витринах или окнах. На блестящих поверхностях нужно рассматривать блики — их бывает слишком много или мало.

Повторяющиеся элементы

Нейросети нередко используют повторяющиеся фрагменты: узоры, фон, текстуры, какие-то мелкие детали. 

Также повторы часто присутствуют в изображениях толпы, сгенерированных по промпту с упоминанием известной личности. В этом случае нейросеть создаёт все лица похожими на упомянутое лицо. 

Повтор элементов особенно часто встречаются на изображениях, где присутствует несколько людей. В этом случае могут наблюдаться лишние или отсутствующие руки и ноги, искажённые лица у людей на заднем плане. 

Несоответствие контексту и здравому смыслу

Изображение может выглядеть нереалистично с учётом контекста. К примеру, человек как будто стоит в воздухе или на воде без видимой опоры. Но есть и другие аспекты, на которые стоит обратить внимание. 

Исторические ошибки. Если разбираться в истории и стиле определённой эпохи, можно увидеть ошибки на якобы исторических фотографиях. Это может быть несоответствие одежды времени, несуществующие на то время предметы, несоответствие героев общему фону. Также этот принцип работает для литературных произведений или киноэкранизаций. 

Одежда. Несмотря на богатый опыт в изучении деталей одежды, нейросети не обладают чувством вкуса и не разбираются в функциональности отдельных предметов одежды. Поэтому факт генерации могут выдать несовпадающие пуговицы, нелепые банты, невозможные складки, странные сочетания. 

Нереалистичные формы. Функциональность — это в принципе слабое место нейросетей. Основное внимание сосредоточено на стиле. Отсюда странные архитектурные объекты, невозможные автомобили, фантастические предметы. Особенно часто такие дефекты встречаются при изображении заднего фона. В процессе анализа ищите вещи, которые попросту невозможны в реальном мире. 

Неестественные текстуры

Нейросети могут игнорировать естественные законы физики и геометрии. Искусственно созданные изображения могут иметь гладкость там, где должна присутствовать текстура, и наоборот. К примеру, слишком гладкая поверхность моря, странно изогнутая трава. Линии, которые должны быть ровными, могут быть искривлены. 

Ещё одна особенность сгенерированных фотографий — абстрактный или чрезмерно размытый фон. Так нейросети избегают ошибок «второго плана». Отдельные области, особенно по краям, могут выглядеть нечётко. 

Ещё одно слабое место нейросетей — перспектива, способ передать глубину. 

Перспектива часто выглядит неестественно и искажённо. Тело человека может быть слишком растянуто или сжато. Объекты могут располагаться под невообразимым ракурсом. Между близкими и отдалёнными предметами видно несоответствие.

Текстовые ошибки

В искусственных изображениях сложно создать качественный текст — для этого нейросеть должна понимать контекст и интегрировать надписи в остальную часть картинки. Но, хоть модели и обучаются на изображениях с текстами в том числе, фокус на надписях отсутствует. Для нейросети любые текстовые данные — это лишь часть картинки. Потому при воспроизведении текстов возникают проблемы с орфографией, размещением и смыслом. 

Если на изображении есть текстовые надписи, особенно на заднем плане (вывески, витрины, дорожные знаки), внимательно изучите их. Даже при общем хорошем качестве картинки именно текст может выдать искусственность.

Технические признаки, указывающие на генерацию картинки нейросетью

Помимо визуальных недостатков есть и некоторые технические детали, которые помогут выявить сгенерированные изображения. 

Отсутствие метаданных

EXIF-данные, или метаданные изображения — это информация, которая хранится в файле вместе с картинкой. Из метаданных можно узнать различную информацию: модель устройства, дату съёмки, время и координаты местности, технические подробности и прочее. Если есть сомнения в реалистичности фото, именно метаданные могут подтвердить, что изображение настоящее. Или наоборот.

Но есть минус — метаданные могут быть удалены при размещении картинки в сети. Также поддерживают такой формат не все типы файлов — метаданные есть в JPG /JPEG, но нет в PNG. 

Чтобы проверить метаданные, нужно воспользоваться сторонними сервисами вроде Tonfotos, ExifTool, Metadata++.

Отсутствие источника

Ещё одна деталь, которая поможет вычислить генерацию — источник изображения. Выполните обратный поиск по картинке с помощью TinEye, поищите площадки размещения через Google Image или Яндекс Картинки. Если найдёте источник, детально изучите контекст — кто разместил изображение и с какой целью. Если найти источник не получается, возможно, его и нет. Это повод заподозрить использование нейросети. 

Сервисы для проверки изображений на использование ИИ

Все перечисленные признаки не являются абсолютными. Нейросети постоянно совершенствуются и всё лучше генерируют картинки. Поэтому в спорных ситуациях можно обратиться за помощью к специализированным сервисам — они могут идентифицировать едва различимые нюансы и несоответствия. Вот несколько полезных инструментов. 

HIVE

Ссылка: https://thehive.ai/apis/ 

На платформе Hive есть разные инструменты для использования ИИ. В том числе, инструмент для проверки реальности картинки. Ответ сервиса лаконичен: сгенерирован ИИ, не сгенерирован ИИ. 

Дополнительно сервис может определить, какая именно нейросеть использована для генерации. Список распознаваемых нейронок велик: DALL-E, Midjourney, Stable Diffusion, Hive, GAN, Bing Image Creator, Adobe Firefly, Kandinsky, Stable Diffusion XL, Stable Diffusion Inpainting и другие. 

Сервис работает в формате бесплатного расширения Hive AI Detector. Стоимость API-интерфейса — по запросу. 

Content At Scale

Ссылка: https://contentatscale.ai/ 

Сервис оценивает пиксели изображений, гладкость текстур и другие параметры. В результате выносит вердикт о процентном соотношении участия человека или нейросети. Конкретную нейронку инструмент не определяет. 

На проверку можно загружать файлы или указывать ссылки на картинки.

Content At Scale обучен на изображениях от DALL-E, Midjourney, StableDiffusion, поэтому распознаёт работы этих нейросетей с большей вероятностью. Использовать инструмент можно бесплатно.

illuminarty.ai

Ссылка: https://illuminarty.ai/en/ 

Этот сервис определяет, было ли изображение создано нейросетью и какие модели могли быть использованы. А также — какие именно области изображения были сгенерированы. 

В бесплатной версии можно увидеть процент вероятности того, что изображение сгенерировано искусственным интеллектом. 

Сервис умеет распознавать изображения от большинства общедоступных нейросетей. При анализе картинок инструмент оценивает контент с учётом особенностей генерации в разных моделях.

AI or Not

Ссылка: https://www.aiornot.com/ 

Сервис может проверять изображения, созданные в разных нейросетях. В приоритете — Stable Diffusion, Midjourney, GAN, DALL-E, Generated Faces. Инструмент сравнивает загруженную картинку с работами разных нейросетей, артефактами и параметрами популярных нейронок.

Для работы с сервисом нужно зарегистрироваться. В бесплатной версии можно проверить до 10 изображений ежемесячно и узнать, сгенерирована картинка или нет. А в платной версии можно увидеть, какие нейросети были использованы вероятнее всего. Стоимость подписки стартует от $5 в месяц при ежегодной оплате. 

Примерный план проверки изображения

1. Осмотрите картинку. Внимательно рассмотрите изображение и поищите явные несоответствия. Увеличьте масштаб картинки и тщательно изучите детали. 
2. Проведите технический анализ. Проверьте метаданные, поищите первоначальный источник изображения. 
3. Проверьте изображение через сервисы. Для большей достоверности можно использовать несколько разных инструментов. 

Комбинируйте разные методы проверки. Так будет выше вероятность того, что вы вычислите сгенерированное изображение.