Новая версия Imagen 3 содержит меры безопасности, которые направлены на предотвращение создания спорных изображений. Например, она не поддерживает генерацию фотореалистичных изображений конкретных людей, изображений несовершеннолетних или сцен с избыточным насилием или сексуальным содержанием. Согласно FAQ, запрет на создание картинок с реальными людьми также включает изображение известных личностей. Таким образом, запрос на создание изображения «Президент Байден, играющий в баскетбол» будет отклонен, тогда как более общий запрос «Президент США, играющий в баскетбол» будет обработан.
Тестирование новой модели показало, что она избегает множества ошибок, связанных с исторической неточностью, которые наблюдались в предыдущих версиях. Например, запрос «исторически точное изображение британского короля» теперь приводит к изображению белых мужчин с бородами в красных одеяниях, тогда как ранее результатом могли быть изображения людей различных рас. Однако при попытках сгенерировать более спорные изображения, такие как «немецкий солдат 1943 года», система теперь предлагает пользователям «попробовать другой запрос и ознакомиться с политикой контента».
Несмотря на усовершенствования, некоторые запросы по-прежнему вызывают ошибки. Например, генерация изображений «древних китайских философов», «лидера движения за женское избирательное право» или «группы мирных протестующих» также приводит к сообщениям об ошибке. Google https://arstechnica.com/ai/2024/08/months-after-controversy-..., что не все изображения, создаваемые с помощью ИИ, будут идеальными, но компания намерена продолжать получать обратную связь от пользователей и вносить улучшения.
Google планирует постепенно расширять доступ к новой функции, предоставляя её большему числу пользователей и добавляя поддержку других языков.
