Этичность применения искусственного интеллекта изучат в Великобритании

Исследования коснутся влияния ИИ на различные социальные группы, а также предложат механизмы предупреждения нежелательных последствий прогресса

Фото: Adrian Baer/commons.wikimedia

Британская компания DeepMind Technologies, которая исследует и разрабатывает технологии искусственного интеллекта (ИИ), открыла отдел DeepMind Ethics & Society. Подразделение будет изучать этические вопросы применения ИИ и использования «умных» технологий для улучшения условий жизни разных социальных групп. Как считают в компании, исследования помогут технологам разрабатывать системы с максимальной пользой для общества. Об этом сообщается на сайте компании.

Как считают в DeepMind, ИИ может принести «невероятную пользу» миру, но только в том случае, если технологии будут соответствовать этическим нормам. «Изобретатели должны взять на себя ответственность за этические и социальные последствия своей работы. Мы верим, что технологии должны контролироваться человеком и решать социально важные проблемы.», — гласит заявление DeepMind Ethics & Society.

Новое подразделение будет проводить и финансировать исследования в пяти областях: конфиденциальность, прозрачность и справедливость ИИ; экономическое воздействие ИИ (включение всех социальных групп и равенство); управление и подотчетность; управление рисками ИИ (злоупотребления и непреднамеренные последствия); мораль и ценности ИИ; искусственный интеллект и глобальные вызовы.

По мнению аналитиков консалтинговой и исследовательской компании Tractica, технологии ИИ, такие как машинное обучение, глубинное обучение, компьютерное зрение, применимы в 29 областях науки и техники и провоцируют столь же масштабные изменения в обществе, как когда-то индустриальная революция, изобретение компьютеров и смартфонов. В ближайшие десять лет крупнейшие рыночные возможности для ИИ лежат в сферах рекламы, финансов, здравоохранения, потребления и аэрокосмической отрасли. По данным Tractica, доходы разработчиков от реализации технологий оценивались в $1,4 млрд в 2016 году и вырастут до $59,8 млрд к 2025 году.

Задачи для роботов

Круг интересов специалистов нового подразделения DeepMind включает следующие вопросы: какие ценности передавать роботам, на какие социальные сферы ИИ повлияет позитивнее всего, как сделать технологии ИИ доступными для всех социальных групп в развитых и развивающихся странах, как защитить общественные интересы с учетом потенциальных социальных и экономических последствий технологий ИИ, какие навыки необходимо развивать, чтобы направить технологии на решение остросоциальных проблем, какие законные инструменты необходимо разработать, чтобы регулировать сферы применения ИИ. Специалистам также предстоит убедиться, что частный сектор использует ИИ в интересах общества, постараться ограничить и предотвратить злоупотребления, понять и оценить воздействие ИИ на рынок труда и доходы населения, а также выяснить, какие формы неравенства могут возникнуть вследствие развития «умных» технологий, по каким критериям определять безопасность той или иной технологии ИИ, чем рискует общество в случае отказа от ИИ и как контролировать риски и решать проблемы, как предупредить разработку полностью автономного оружия, и гарантировать, что человек сможет контролировать ИИ.

Специалисты обещают сообщать о том, с кем работает подразделение и кого финансирует, вовлекать в работу экспертов по гуманитарным, социальным наукам, представителям гражданского общества, проводить общественные обсуждения проектов. Прозрачность, включение и взаимодействие станут основными принципами работы DeepMind Ethics & Society, уверяют в компании.