Изображения женщин со всего мира, сделанные искусственным интеллектом, стали вирусными. Пропагандируют ли они колоризм и культурные стандарты красоты?

Jul 19, 2023

Как выглядит «красивая» женщина из Индии?

А как насчет Филиппин или Лаоса?

Искусственный интеллект (ИИ) претендует на ответ.

Сгенерированные искусственным интеллектом изображения «красивых женщин» со всего мира уже несколько месяцев становятся вирусными.

Одно видео TikTok с искусственными изображениями женщин из Южной и Восточной Азии, недавно опубликованное аккаунтом AI World Beauties, набрало более 1,7 миллиона просмотров.

Однако эксперты говорят, что, поскольку они «обучены» на предвзятых наборах данных и стереотипах, изображения могут увековечивать ограниченные, исключительные и потенциально вредные идеалы.

Изображения, которые становятся вирусными, создаются программами, известными как «генеративный искусственный интеллект» или «GenAI».

«GenAI — это тип искусственного интеллекта, основанный на моделях машинного обучения», — рассказал ABC Шибани Антонетт, преподаватель по науке о данных и инновациям в Сиднейском технологическом университете.

«Он использует шаблоны и информацию, полученную из миллионов точек данных, для создания нового контента, которого раньше никогда не существовало».

Доктор Антонетт говорит, что качество и разнообразие обучающих данных определяют выходные данные генератора изображений.

В беседе с корреспондентом ABC создатель вирусного видео сообщил, что для создания изображений они использовали диффузионную модель Midjourney.

Они отказались называть свои имена в статье или давать дальнейшие комментарии.

Светлая кожа, тонкие носы, полные губы и высокие скулы.

Судя по вирусным видеороликам, «красивые» женщины обладают теми же чертами.

По словам доктора Антонетт, предвзятость является «серьезной проблемой» в технологиях генерации изображений и распознавания лиц.

«Эти модели могут создать искаженную реальность, усиливая предубеждения и стереотипы в отношении расы и пола», — говорит она.

«Большинство созданных изображений увековечивают колоризм и культурные стандарты красоты».

Глядя на вирусные изображения ИИ, доктор Антонетт говорит, что модель, которая их сгенерировала, вероятно, «не имела разнообразного набора обучающих данных, который содержал бы множество лиц цветных людей с разными оттенками кожи и формами».

«В конце концов, данные для этих моделей извлекаются из всего Интернета за последние несколько десятилетий — без ответственности за охват, разнообразие и инклюзивность — для удовлетворения конкретных приложений».

Асия Джексон часто заставляет людей догадываться о ее этнической принадлежности, и обычно ей говорят: «Ты так не выглядишь», когда она рассказывает людям об этом.

Чернокожая и филиппинская актриса и создатель контента говорит, что в детстве «смешение» создало «много проблем с идентичностью».

Сейчас 29-летняя г-жа Джексон говорит, что у нее более сильное чувство собственного достоинства и идентичности.

«Я определенно обижаюсь еще больше, когда кто-то говорит мне: «Я не выгляжу черным» или «не выгляжу азиатом».

«Потому что обе эти расовые категории содержат такой широкий спектр цвета кожи и особенностей».

То же самое происходит, когда люди говорят г-же Джексон, что она «не похожа на филиппинку».

«Филиппины — это страна с более чем 7100 островами и сотнями различных этнических групп», — говорит она.

Г-жа Джексон чувствует себя «довольно безразличной» к вирусным изображениям ИИ.

«ИИ просто копирует человеческое поведение, каким бы неинклюзивным или неполиткорректным оно ни было», — говорит она.

«Это ничем не отличается от того, что происходит в реальной жизни.

«В то же время я действительно не думаю, что возможно включить огромное разнообразие особенностей или национальностей из каждой страны в 30-секундное видео».

Когда Ишара Сахама впервые увидела приведенные выше изображения, она нашла их «почти неземными».

Затем она поняла, что видит «наиболее общепринятые стандарты красоты каждой этнической группы».

«Многообразие этнических групп внутри каждой страны обобщено в одну модель. Это упрощение и далеко не отражает разнообразие этих стран», - говорит она.

25-летнего соучредителя агентства стратегического дизайна Echo Impact Group приняли за индийца, пакистанца, араба и коренного австралийца.

Она из Шри-Ланки, с сингальскими, тамильскими и малайскими корнями.

«Принятие своей этнической принадлежности, а затем ассоциирование ее с этим, не спрашивая, - это то, что меня раздражает больше всего».