За неаппетитными меню, созданными ИИ, — проблема одинаковости

Странная еда на рекламных картинках

Когда вы заходите в кафе и видите меню с разными бутербродами на булочках-бейглах, сначала может показаться, что вы сами себе всё придумали. Но изображения действительно выглядят подозрительно: каждый продукт безупречно симметричен, слишком гладок и лишён естественных неровностей.

Иногда подделка очевидна. Например, сыр на буррито может пузыриться так сильно, что блюдо больше напоминает авангардное произведение, чем обед. Чаще изображения выглядят вполне обычно, и странность становится заметна только при внимательном рассмотрении.

Алекс Лайл из Reality Defender сравнил такие картинки с попыткой инопланетянина приготовить пиццу, не понимая её основных принципов. Reality Defender работает в растущем сегменте компаний, которые продают инструменты для обнаружения материалов, созданных ИИ, и проверки их подлинности. Сам этот рынок отчасти появился из-за подобных проблем.

Пользователь X написал, что в Нью-Йорке достаточно случайно бросить камень, чтобы попасть в слегка тревожную рекламу еды, созданную ИИ.

По словам Лайла, характерный стиль связан с тем, как устроено обучение моделей: шарики мороженого получаются идеально круглыми, а креветки выглядят так, будто их генетически изменили, чтобы они ели собственные хвосты. В результате возникают новые «лавкрафтовские ужасы еды».

Большие языковые модели и диффузионные модели, благодаря которым работают чат-боты вроде ChatGPT и генераторы изображений вроде Midjourney, обучаются на огромных массивах данных. Они находят в них закономерности, а затем пытаются предсказать, что нужно пользователю по запросу вроде «сделай меню для ресторана с гамбургерами».

Многие такие изображения напоминают меню Chili’s примерно 2015 года. Лайл связывает это с тем, что именно подобные материалы входили в набор данных, на котором модели учились создавать визуальный стиль.

Как модели закрепляют один стиль

Новые данные особенно важны для компаний, которые разрабатывают модели ИИ. Amazon, например, как выяснилось, находила редкие книги, сканировала их для обучения, а затем уничтожала оригиналы после загрузки материалов.

В огромные наборы данных неизбежно попадает часть материалов, созданных самим ИИ. Если модели начинают обучаться на слишком большом количестве таких материалов, возникает риск разрушения модели.

Лайл сравнил это с коровьим бешенством: если снова и снова подавать результат одной модели ей же на вход, близкородственное скрещивание становится чрезмерным и система в конце концов рушится. Однако в случае с меню, по его словам, речь идёт о схождении, а не о разрушении модели.

Схождение — менее радикальный процесс. Оно ухудшает качество результатов ИИ, но не делает систему полностью бесполезной.

Когда модель получает запрос на меню ресторана быстрого питания, она, вероятно, обращается к примерам Wendy’s, Burger King, McDonald’s или другой крупной сети. Эти меню и без того оформлены в похожем стиле. Поэтому сгенерированный результат копирует общую эстетику, а затем дополнительно закрепляет её, если такое меню снова попадает в обучающие данные.

Источник: techcrunch.com

Рекламные изображения еды почти всегда выглядят лучше настоящей еды. В ролике McDonald’s каждый слой Big Mac специально раскладывает реквизитор, чтобы гамбургер казался максимально аппетитным. В результатах ИИ этот эффект может становиться ещё заметнее.

Ли Рейни, директор Центра изучения цифрового будущего при Университете Илона, считает, что оптимизация наборов данных под «приятность» и отсутствие оскорбительных элементов постепенно приводит к однородности. И в изображениях, и в языке ИИ склонен сглаживать острые и необычные детали.

Сто правок одного меню

На более локальном уровне сглаживание заметно, когда вы создаёте меню в генераторе изображений и затем редактируете его. Пользователь X под именем Labtec показал результат эксперимента: он сделал меню в ChatGPT и отредактировал его 100 раз. С каждой новой правкой еда всё меньше походила на настоящую. Автор написал, что итоговое изображение вызвало у него дискомфорт.

Авторы воспроизвели этот эксперимент и получили похожий результат.

Рестораны, вероятно, сталкиваются с той же проблемой, когда много раз правят созданные ИИ меню: меняют цены, названия блюд и небольшие детали оформления. При каждом таком изменении изображения еды могут становиться чуть более круглыми и гладкими.

По словам Рейни, люди почти необъяснимым образом чувствуют разницу между изображением, созданным ИИ, и настоящей фотографией. Они не всегда могут сформулировать, что именно выглядит неправильно, но распознают это при взгляде. Поэтому первые истории о негативной реакции на рестораны, использующие меню от ИИ, вызвали настолько заметный отклик.

Почему изображения вызывают отвращение

У неприязни к таким меню есть научное объяснение. Исследователи Университета Дуйсбург-Эссен в Германии обнаружили у изображений еды, созданных ИИ, эффект «зловещей долины». Почти реалистичные картинки вызывали больше отвращения и тревоги, чем изображения, которые выглядели откровенно ненастоящими.

Культурный контекст вокруг ИИ только усиливает эту реакцию.

Если люди настолько отрицательно воспринимают подобные изображения, ресторанам, возможно, стоит прекратить попытки использовать ИИ для создания меню. Но проблема идеальных булочек для гамбургеров выходит далеко за пределы ресторанов.

Доверие к изображениям

По словам Лайла, люди долго исходили из того, что увиденное и услышанное можно считать доказательством. Судебные системы во многом строились вокруг представления, что эталонными уликами служат записанные признания и видеозаписи.

Теперь это изменилось: мир принципиально сдвинулся — независимо от того, считать ли такой сдвиг хорошим или плохим.

Автор исходного материала — Аманда Силберлинг, старший автор TechCrunch, которая пишет о пересечении технологий и культуры. Она также публиковалась в Polygon, MTV, Kenyon Review, NPR и Business Insider, а вместе с писательницей-фантастом Исабель Дж. Ким ведёт подкаст Wow If True об интернет-культуре. До TechCrunch Силберлинг работала организатором общественных кампаний, музейным педагогом и координатором кинофестиваля. Она получила степень бакалавра английского языка в Пенсильванском университете и была участницей программы Princeton in Asia в Лаосе.