Как распознать фейк: 5 признаков, что перед вами ИИ-контент
Искусственный интеллект меняет мир вокруг нас так же быстро, как в свое время это делал интернет. Он проникает во все сферы жизни и в корне их модернизирует, принося как прогресс, так и новые вызовы. Уже сейчас большая половина статей в Интернете сгенерирована нейросетями. В ближайшие годы этот показатель будет увеличиваться для всех видов контента. Наряду с этим, вычислить подобный материал с каждым обновлением ИИ-инструментов будет становиться сложнее. О том, как рядовому пользователю отличить настоящий контент от созданного искусственно, рассказала «Вечерней Москве» продюсер и медиа-консультант Мария Тарасенкова.
Бум ИИ-инструментов давно превратил отслеживание новинок диджитал мира в отдельную работу. Каждый день я наблюдаю, как коллеги из медиа, рекламы и кино применяют их в своей деятельности. Однако распознать сгенерированный контент бывает непросто даже профессионалу. Вот 5 главных принципов, которыми я руководствуюсь при анализе материалов.
Пластиковая идеальность
Если перед вами слишком идеальный текст без единой неровности, эмоции и кучерявых нестандартных деталей; если в визуальном контенте кожа, волосы, зубы, голос, речь слишком безупречны; это повод присмотреться внимательнее. Реальный человек несовершенен: у него всегда будут блики, ассиметрия, морщинки, родинки. ИИ же стремится к «улучшенной» версии реальности, и именно такая стерильная красота выдает генерацию.
Несостыковки на уровне физики
Искусственный интеллект все еще плохо справляется с физической логикой сцены. Свет на лице падает не туда, куда падает свет на фоне. Тени у объектов в одном кадре живут своей жизнью. Волосы не реагируют на движение. Отражение в очках показывает то, чего не существует. Эти детали мозг считывает интуитивно, именно они вызывают то самое необъяснимое ощущение «все как в жизни, но как будто что-то не так», известное как эффект «зловещей долины».
Отсутствие цифрового следа
Реальный человек в интернете существует нелинейно. Всегда можно найти старые фото разного качества, упоминания на сторонних ресурсах, теги от друзей или архивные посты из 2010-х. У ИИ-персонажа этого всего нет. Если речь идет о сгенерированном видео, к примеру какого-то инцидента, посмотрите есть ли видео с разных ракурсов в других источниках. Что же касается текста, ИИ ужасно справляется с фактчекингом. Попробуйте проверить приведенные в тексте факты.
Повторяющиеся паттерны
Контент выходит с нечеловеческой регулярностью — каждый день в одно и то же время, без единого пропуска. Вместо реальных историй из жизни с точными примерами только аккуратные посты обо всем и ни о чем. Фото как правило всегда в одном и том же стиле освещения и «снято» с похожих ракурсов, потому что за ними стоит один и тот же генеративный сетап. Живой автор так не работает. Он болеет, ошибается, меняет свои решения, экспериментирует, а вот ИИ-аккаунт не позволяет себе такой роскоши.
Внимание на детали
Уши, пальцы, украшения, фон — именно здесь ИИ чаще всего ошибается. Зубы сливаются в однородную массу, пальцы на руках не поддаются счету, сережки внезапно пропадают. В видео также рекомендую обратить внимание на моргание. Оно либо механическое или замедленное, либо отсутствует. Фон в ИИ-контенте также обычно живет своей жизнью. Главное, чем внимательнее смотришь, тем очевиднее становится: дьявол всегда в деталях.
Помните, если по любому из этих пунктов материал вызвал подозрение, вы всегда можете проверить его с помощью ИИ-детектора. Он с большой вероятностью поможет определить генерацию во всех типах контента.
Пожалуй, самый сложный вопрос, связанный с ИИ-материалами, — этический. С одной стороны, современные инструменты дарят нам небывалые возможности. В качестве примера можем взять успешный релиз песни и клипа блогера Саши Комович «Расскажи, Снегурочка». Этот футуристический ремикс на классическую мелодию из «Ну, погоди» Юрия Энтина и Геннадия Гладкова взорвал охваты: миллионы просмотров и сотни тысяч новых подписчиков. Благодаря комбинации нескольких ИИ-инструментов, блогер в одиночку смогла создать произведение, на которое раньше понадобились бы несколько месяцев, большая творческая команда и крупные капиталовложения.
С другой стороны, широкий доступ к таким технологиям дает свободу действий мошенникам, которые множат фейки и манипулируют доверием пользователей. Представители рекламной индустрии также прибегают к ИИ-технологиям и не всегда используют их в исключительно творческих целях. Как итог — разочарование покупателей в приобретенном продукте, недоверие к сгенерированному контенту и увеличение случаев скрытого использования ИИ-материалов. При этом стоит упомянуть, что даже открытая маркировка не панацея от этических коллизий. Тот же трек «Расскажи, Снегурочка» был заблокирован на некоторое время из-за нарушения авторских прав. Искусственный интеллект не просто создает текст, аудио и видео. Он генерирует контент на основе уже созданного авторского материала.
Лично у меня нет никаких сомнений в том, что мир придет к равновесию и весь контент будет создан людьми совместно с искусственным интеллектом. В конце концов, человеку нужен человек, ощущение живого контакта и эмоционального тепла по ту сторону экрана. Тем временем, этические вопросы очевидно будут урегулированы с помощью законодательства. Не стоит относиться к интеграции искусственного интеллекта в нашу жизнь как к апокалипсису. Напомним, что в 19 веке люди с недоверием воспринимали банальное электричество. Любой ученый знает, что должно пройти время, прежде чем сойдет на нет сопротивление инновациям. Что же касается вопроса «как найти правду в мире постправды», он еще надолго останется открытым.