ИИ дискриминирует людей по расовому и гендерному признаку

Фото: istock.com

Ученые из Колорадского университета в Боулдере выяснили, что алгоритмы искусственного интеллекта (ИИ) реже всего ошибаются при распознавании белых цисгендерных людей (люди, у которых гендерное самовыражение совпадает с биологическим полом. — Прим. +1). По их мнению, это указывает на дискриминирующую сущность технологий и необходимость их совершенствования.

В ходе исследования авторы проанализировали работу нескольких коммерческих сервисов для распознавания лиц, в том числе таких, как Amazon Rekognition, Google Cloud Vision и IBM Watson Visual Recognition. Они обнаружили, что алгоритмы хуже распознают трансгендерных людей (те, у кого гендерная идентичность не совпадает с полом. — Прим. +1) и практически не распознают небинарных (те, кто не ощущают себя ни мужчинами, ни женщинами. — Прим. +1).

В статье на портале The Next Web сообщается, что способность алгоритмов идентифицировать людей зависит главным образом от разработчиков. Чаще всего их обучают на стандартной базе данных, состоящей из снимков белых людей со стандартной внешностью.

Так, алгоритмы воспринимают длинные волосы как исключительно женскую черту, а растительность на лице — как мужскую, несмотря на то, что приблизительно одна из 14 женщин имеет гирсутизм (избыточный рост волос по мужскому типу. — Прим. +1). «ИИ приходит к выводу, что волосы на лице — это мужская черта, — пишет автор Тристан Грин. — Не потому, что это так, а потому, что женщине неприемлемо иметь волосы на лице».

Проблемы существуют и в отношении цвета кожи. Например, программное обеспечение Rekognition, используемое правоохранительными органами США, часто принимает темнокожих мужчин за преступников. Другие распространенные системы распознавания лиц, как отмечает The Next Web, могут идентифицировать темнокожих женщин как мужчин.

Автор статьи заключил, что несмотря на недостатки технологий распознавания лиц их по-прежнему широко используют в полиции, банках, аэропортах и многих других учреждениях. Это, по его мнению, может приводить к распространению расистских, женоненавистнических и других дискриминирующих идей.

Çàãðóçêà...