Реклама пиццерии Pizzala с аниме Dr.STONE в TikTok, которую показывали с 1 октября по 1 ноября, оказалась AI-роликом, которого никто не заказывал. Видео собрала не команда, а AI-функция самой платформы TikTok Ads: она читает страницу перехода и прошлые материалы и сама делает новый ролик. По объяснению оператора Fourseasons от 6 ноября, сценарий возник из-за недостаточной проверки настроек. У производственного комитета аниме не было ни согласия, ни надзора. Рекламу остановили, комитету принесли извинения.
Ставка тут для всех, кто ведёт рекламу или делает видео для клиентов: AI может появиться в объявлении без вашего запроса. Сам оператор написал, что функции настраиваются в разных местах, и держать их все в голове трудно. Для начала я бы зашёл в рекламный кабинет и проверил, какие генеративные опции включены по умолчанию.
Случай не единичный. В американском магазине туристического снаряжения в рекламном фото велосипеда появилось два руля, и там тоже сказали, что AI-функцию не включали сознательно. Оба случая похожи: автор материала не решал, что будет сгенерировано. Вопрос уже не в том, что вы загрузили, а в том, что платформа может сделать сама.
Теперь про цифры. Исследователи Sony AI и соавторы проверили 14 моделей генерации картинок на 201 персонаже, компаниях и логотипах, всего 1 809 запросов. Три открытые модели не блокировали ничего. Из коммерческих одиннадцати отказывали все, но Stability AI около 1%, а Amazon Titan Image G2 около 50%. Когда имя не называли, а описывали только внешность, в среднем узнаваемые IP всё равно появлялись в 27–28% случаев, а у почти половины моделей выше 40%. Исследование опубликовано в июле, так что модели там старые. Новые цифры будут другими, но вывод от версии не зависит.
Вывод простой: запрет в промпте не спасает, защита нужна на уровне системы. Поэтому Disney и Adobe пошли по пути Firefly Foundry, то есть модели, обученной на собственных персонажах и стиле студии. Для большинства из нас такого у себя не будет, но принцип тот же: контроль зависит от настроек, а не от формулировки запроса.
Источникnote #画像生成AI

