Искусственный интеллект, считывающий эмоции, создает риск дискриминации

Системы искусственного интеллекта, которые распознают человеческие эмоции, основаны на устаревших научных исследованиях и создают риск расовой дискриминации.

Профессор психологии бостонского Северо-Восточного университета Лиза Фельдман Барретт считает, что технологии искусственного интеллекта (ИИ), используемые для распознавания эмоций, основаны на устаревших научных исследованиях и могут игнорировать новые факты, свидетельствующие представление о том, что основные выражения лиц универсальны в разных культурах. ИИ обучают, полагая, что все проявляют эмоции одинаково, что несет в себе ненадежность и дискриминацию, пишет The Guardian.

По словам Фельдман Баррет, идея универсального выражений эмоций основана на данных 1960-х годов. Тогда психолог Пол Экман провел исследование в Папуа-Новой Гвинее. Оно показало, что члены изолированного племени дали такие же ответы, американцы, когда их попросили сопоставить фотографии людей с определенным выражением лица с различными сценариями.

Фельдман Баррет сообщает, что согласно современным исследованиям, люди в западных культурах хмурятся только в 30% случаев, когда злятся, то есть система ИИ не распознает гнев, когда на самом деле он присутствует. Существуют также широкие различия в культурах с точки зрения того, как люди выражают эмоции, в то время как для их понимания очень важен контекст, например, язык тела и то, с кем разговаривает человек, добавила психолог.

Беспокойство Фельдман Баррет обусловлено тем, что такие системы ИИ очень популярны и используются в ряде приложений для идентификации человеческих эмоций. Так, приложение HireVue задействована в видеоинтервьировании соискателей. Отсканировав мимику, язык тела и речь кандидата, программа сопоставляет их с заданными параметрами, характерными для успешного выполнения определенной работы. Система распознавания лиц Rekognition компании Amazon определяет семь основных эмоций — счастье, грусть, гнев, удивление, отвращение, спокойствие и растерянность. А Евросоюз тестирует «детектор лжи», который сканирует микромимику людей, пересекающих границы европейских стран.

Ранее +1 рассказывал о том, чем может обернуться развитие искусственного интеллекта.