В Google рассказали о причинах приостановки генерации изображений с помощью Gemini
В Google рассказали о причинах приостановки генерации изображений с помощью Gemini. Фото: из архива компании
Старший директор по продуктам Google Джек Кравчик, который курирует разработку модели искусственного интеллекта, сообщил на X, что команда Gemini работает над корректировкой модели, «чтобы она давала исторически точные результаты».
Сообщение появилось после того, как многие пользователи пожаловались на то, что модель на базе искусственного интеллекта создает исторические изображения, на которых изображены люди разных рас на фотографиях, где их, вероятно, не было бы. Например, Gemini предложил изображение отца-основателя США, который был афроамериканцем, а также индейского мужчины и индийской женщины, как представителей немецкой пары 1820-х годов.
Исправить ошибку оказалось сложнее, чем первоначально предполагала команда, и рано утром в четверг в Google отключили возможность генерировать изображения людей с помощью этого инструмента.
В своем блоге в пятницу старший вице-президент Google Прабхакар Рагхаван подробно рассказал о том, что пошло не так с Gemini.
В частности, Рагхаван сказал, что «настройка, направленная на то, чтобы Gemini показывал диапазон людей, не учитывала случаи, которые явно не должны быть в этом диапазоне». Представитель компании также сказал, что «со временем модель стала намного более осторожной, чем мы предполагали, и полностью отказывался отвечать на некоторые запросы, ошибочно интерпретируя некоторые очень безобидные запросы как деликатные».
Другими словами, Gemini был обучен показывать представителей самых разных рас, однако он не был обучен распознавать случаи, когда это может быть неуместно. У него также была иная интерпретация того, что может быть неуместным, чем предполагалось.
В конечном итоге, в модели обнаружили «чрезмерную компенсацию в некоторых случаях и чрезмерную консервативностью в других, что привело к получению смущающих и неправильных изображений».
Рагхаван говорит, что Google планирует внести существенные изменения, прежде чем снова включить процесс генерации изображений людей. Процесс улучшения «будет включать в себя обширное тестирование».
Startpack подготовил список систем искусственного интеллекта. Искусственный интеллект (ИИ) широко используется в бизнесе — начиная от повышения качества обслуживания клиентов до автоматизации бизнес-процессов. Один из видов искусственного интеллекта — нейронные сети. Нейросети с помощью алгоритмов способны распознавать закономерности в данных и генерировать новые. Это лишь часть сфер, где может применяться искусственный интеллект. Внедрение искусственного интеллекта в работу компании сократит расходы и время.
Статьи по теме
40538
Комментариев пока не было