Детская тема в рисующих моделях запрещена не целиком. Нарисовать ребёнка по описанию правила разрешают прямо, и такие картинки проходят обычным порядком. Отказ приходит на другое: когда в запрос кладут фотографию настоящего ребёнка и просят сохранить его внешность. Ниже — что об этом дословно написано у OpenAI и у Google, с переводом, и чем эти два случая различаются на практике.
Коротко: что можно и что нельзя
Можно описать ребёнка словами и получить изображение. У OpenAI это названо прямо, у Google — включено настройкой запроса, причём у их моделей Imagen 4 такая настройка стоит по умолчанию.
Нельзя загрузить фотографию настоящего ребёнка и попросить переделать её или перенести внешность в новую сцену. У OpenAI это отдельное правило, у Google — отдельный фильтр.
Разница проходит не по теме картинки, а по тому, есть ли в запросе снимок живого ребёнка.
GPT Image: что написано у OpenAI
Правила модели описаны в системной карточке генерации изображений — это официальный документ OpenAI, раздел про безопасность детей. Запрет сформулирован одной строкой:
«At launch, editing uploaded images of photorealistic children will not be allowed. We will evaluate whether we can safely allow edits in the future.»
Перевод наш: «На момент выпуска правка загруженных изображений фотореалистичных детей не разрешается. Мы оценим, сможем ли безопасно разрешить такую правку в будущем».
Тем же абзацем сказано, что разрешено:
«photorealistic generation of children is permitted only when it is not an image edit of a photorealistic minor»
Перевод наш: «фотореалистичное создание изображений детей допускается только в том случае, если это не правка изображения фотореалистичного несовершеннолетнего».
То есть граница проведена между двумя действиями. Попросить картинку ребёнка описанием — разрешено. Принести снимок ребёнка и попросить его изменить — нет.
Дальше в карточке объяснено, как это определяется. Загруженное изображение размечается на три класса: нет фотореалистичного человека, фотореалистичный взрослый, фотореалистичный ребёнок. Про смешанный случай сказано отдельно:
«If an image contains both a photorealistic adult and a photorealistic child, the classifier is designed to return “photorealistic child” as a prediction.»
Перевод наш: «Если на изображении есть и фотореалистичный взрослый, и фотореалистичный ребёнок, классификатор устроен так, чтобы вернуть ответ „фотореалистичный ребёнок“».
Из этого следуют два вывода для работы. Семейный снимок, где ребёнок стоит рядом со взрослым, считается детским целиком. А спорные случаи разрешаются не в пользу запроса: по их же измерениям полнота распознавания детского класса — 0,97, то есть пропускают такой снимок редко.
Nano Banana: что написано у Google
У Google подход другой: у них это не запрет, а настройка запроса. Она называется personGeneration, и её значения перечислены в документации по генерации изображений:
«allow_all: Allow generation of people, including minors. This is the default for Imagen 4 generation models…»
Перевод наш: «allow_all: разрешить создание изображений людей, включая несовершеннолетних. Это значение по умолчанию для моделей генерации Imagen 4».
«allow_adult: Allow generation of adults only, including celebrities. This is the default for all other models.»
Перевод наш: «allow_adult: разрешить создание изображений только взрослых, включая знаменитостей. Это значение по умолчанию для всех остальных моделей».
«dont_allow: Disable the inclusion of people or faces in generated images.»
Перевод наш: «dont_allow: запретить появление людей и лиц на создаваемых изображениях».
Поверх настройки работают фильтры, и два из них касаются как раз нашего случая. Оба перечислены на странице о безопасности изображений с номерами кодов. Первый:
«Child — Detects child content where it isn’t allowed due to the API request settings or allowlisting.»
Перевод наш: «Ребёнок — обнаруживает детское содержимое там, где оно не разрешено настройками запроса к API или списком разрешений».
Второй:
«Celebrity or child — Detects photorealistic respresentation of a celebrity or of a child that violates Google’s safety policies.»
Перевод наш: «Знаменитость или ребёнок — обнаруживает фотореалистичное изображение знаменитости или ребёнка, нарушающее правила безопасности Google».
Читается это так. Сами по себе дети у Google разрешены, и у части моделей разрешены по умолчанию. Но если настройка запроса их не допускает, срабатывает первый фильтр, а фотореалистичное изображение ребёнка вдобавок проверяется вторым.
Чего мы про Nano Banana не знаем
Настройку personGeneration мы клиенту не передаём. В записи Nano Banana Pro пять полей: описание, форма кадра, разрешение, формат файла и картинки на входе. Какое значение этой настройки ставит поставщик, через которого идёт вызов, в его документации не написано.
Поэтому, когда приходит отказ со словами про несовершеннолетних, по тексту нельзя определить, какой из двух фильтров сработал: тот, что запрещает детей по настройке запроса, или тот, что проверяет фотореалистичное изображение ребёнка. Обещать заранее, пройдёт запрос или нет, мы в такой ситуации не можем.
Как это выглядит в работе
Разница между двумя случаями видна на живых запросах. Картинки с нарисованными детьми — персонажами книжки, иллюстрацией к сцене — проходят подряд и без отказов: правила их не запрещают.
Запрос, где к описанию приложена фотография настоящего ребёнка и стоит просьба сохранить узнаваемую внешность, отклоняется. У модели Google отказ приходит с прямой причиной: «Request blocked: The input content was flagged by safety filters for involving minors». Перевод наш: «Запрос заблокирован: входное содержимое отмечено фильтрами безопасности как относящееся к несовершеннолетним». У GPT Image формулировка общая: «We’re so sorry, but the prompt may violate OpenAI’s content policies». Перевод наш: «Извините, но запрос может нарушать правила OpenAI в отношении содержимого».
Деньги за отклонённый запрос не списываются: отказ приходит до работы модели.
Что делать, если картинка с ребёнком всё-таки нужна
Первое: опишите ребёнка словами вместо того, чтобы прикладывать снимок. Возраст, одежда, поза, обстановка, настроение кадра — всё это задаётся текстом, и правила такой запрос разрешают.
Второе: если нужен именно ваш ребёнок и его узнаваемое лицо, честный ответ такой — подходящего пути в каталоге сегодня нет. Мы не видели ни одного случая, когда фотография настоящего ребёнка прошла бы проверку хоть у одной модели.
Третье, про права: даже там, где правила позволяют работать с фотографией человека, разработчики требуют согласия того, кто на ней изображён. У OpenAI это записано в правилах использования: нельзя использовать внешность человека, включая его фотореалистичное изображение и голос, без его согласия. Это относится и к вашим собственным снимкам, на которых есть посторонние люди.
Переписывать отклонённый запрос ради того, чтобы он прошёл, не нужно: проверку ведёт разработчик модели, и подбор формулировок — не тот путь, который мы советуем.
Частые вопросы
Можно ли вообще делать изображения детей нейросетью? Да, если ребёнок задан описанием. Первоисточники здесь два: системная карточка OpenAI и документация Google. У OpenAI прямо сказано, что фотореалистичное создание изображений детей допускается, когда это не правка загруженного снимка. У Google генерация людей, включая несовершеннолетних, включена настройкой запроса, и у моделей Imagen 4 она стоит по умолчанию. Запреты в обоих правилах касаются сюжетов вреда и эксплуатации, а не самого факта, что на картинке ребёнок.
Почему нейросеть отказывается обработать фотографию моего ребёнка? Потому что правка загруженного снимка ребёнка выделена в отдельное правило. У OpenAI она не разрешается, и спорные случаи трактуются в пользу класса «ребёнок»: снимок, где ребёнок стоит рядом со взрослым, считается детским. У Google фотореалистичное изображение ребёнка проверяется отдельным фильтром, и настройку, которая им управляет, поставщик задаёт на своей стороне.
Можно ли обойти этот отказ? Нет, и мы не подсказываем способов. Решение принимает проверка на стороне разработчика модели, а не наш сервис. Единственный путь, который правила разрешают, — не прикладывать фотографию и описать нужного ребёнка словами.
Спишутся ли деньги за отклонённый запрос? Нет. Отказ приходит раньше, чем модель начинает работу, и такая задача завершается с нулевым списанием. Удержанные под неё кредиты возвращаются на счёт.
Какая модель точно пропустит фото ребёнка? Такого обещания не даст никто, и мы тоже не дадим. По нашим наблюдениям снимки настоящих детей не проходят ни у одной модели каталога, а правила разработчиков объясняют, почему: этот случай выделен отдельно и у OpenAI, и у Google.