В ходе эксперимента, направленного на выяснение того, почему изображения, сгенерированные искусственным интеллектом, не могут воспроизводить точные руки, выявили расовую предвзятость в искусственном интеллекте. обнаружено создание изображения.
Создание изображений с помощью искусственного интеллекта в последнее время стало чем-то вроде причуды, но есть одна вещь, с которой у него, похоже, есть проблема.
В эксперименте, проведенном Slate, запуск подсказок через DALL-E 2 и Stable Diffusion постоянно давал изображения преимущественно белых людей и пар, если только не использовались определенные ключевые слова. Автор статьи, Хизер Тал Мерфи, сказала, что она начала проводить исследования, чтобы выяснить, почему изображения, созданные искусственным интеллектом, так плохо воспроизводят изображения человеческих рук. Когда она ввела подсказку для пар, держащихся за руки, то заметила, что «все пары были белыми».
Автор добавил: «Но независимо от того, использовал ли я Shutterstock, NightCafe, Images.AI, Stable Diffusion Playground или DALL-E 2, и независимо от стилистического выбора, который я сделал в инструментах, каждый из 25 или около того пар был белым. Так было до тех пор, пока она не изменила свое приглашение, включив в него слово «бедный». что ей представили образ с парой вроде бы южноамериканского происхождения. По существу, поскольку белые люди считаются большинством населения, А.И. инструменты создадут большинство их изображений.
Предвзятое отношение искусственного интеллекта к белым людям
Профессор информационных систем Флоридского международного университета Манджул Гупта подробно остановился на этом явлении, заявив, что оно «содержит в себе некоторые внутренние предубеждения, которые создатели этих искусственных интеллектов не соблюдают. инструменты, которые не удалось идентифицировать и изолировать на ранней стадии разработки продукта, продукт, скорее всего, даст необъективные результаты». В заключение она сравнила ситуацию с принуждением подростка внимательно просмотреть 100 фильмов 80-х годов, а затем удивиться, когда они ведут себя как герои боевиков.
Однако это не обязательно проблема явной предвзятость; Как объясняет главный научный сотрудник Монреальского института этики ИИ Абхишек Гупта, «дело не в том, что кто-то явно пытается установить эти связи, это просто то, что заметно присутствует в наборе данных». Гупта продолжил, попросив Мерфи изобразить банан, и когда она выбрала желтый, он объяснил, что именно так ИИ инструменты работают — они предназначены для создания наиболее распространенной версии.
Эту проблему нелегко решить, не из-за явной предвзятости, а из-за того, как работают программы. Ученый-исследователь, занимающийся этическим ИИ. В Hugging Face Саша Лучони подчеркивает, почему эта проблема связана с первоначальным поиском Мерфи точных рук, объясняя, что нет никакого способа закодировать программу, чтобы она предлагала демографически или анатомически правильные результаты, потому что «они не ;t не имеют встроенных явных правил; они просто изучают шаблоны"
