Американский юрист-информатик поднял проблему прав роботов
Вопрос о правах и обязанностях машин становится все актуальнее по мере развития технологий искусственного интеллекта
Ученые по всему миру стремятся разрабатывать разумных, наделенных самосознанием, самодостаточных роботов. Автоматические устройства уже приобретают гражданство и потенциальную индивидуальность, открытым остается вопрос о том, должны ли они также иметь какие-то права. Профессор Вудроу Хартзог (Woodrow Hartzog) из Школы права (School of Law) и Северо-Восточного колледжа информатики (College of Computer and Information Science at Northeastern, CCIS — расположен в Бостоне, является одним из девяти колледжей Северо-Восточного университета) рассмотрел проблему, его рассуждения приводит портал Phys.org.
Ученый сконцентрировался на вопросе предоставления роботам негативных прав — прав, которые разрешают или обязывают бездействовать по отношению к индивиду (в противоположность положительным правам — обязательству предоставлять индивиду блага). Хартзог ссылается на исследования Кейт Дарлинг (Kate Darling) из Массачусетского технологического института (Massachusetts Institute of Technology). Ее работы показывают, что люди относятся более эмоционально к человекоподобным роботам, чем к тем, у кого мало или вообще нет человеческих качеств.
«Когда мы думаем в таком ключе, возникает вопрос, хотим ли мы запретить людям совершать определенные действия с роботом не потому, что стремимся защитить его, а из-за того, что насилие над роботом влияет на нас самих как на людей?», — спрашивает Хартзог. То есть не важно, защищать ли автоматическую машину от удара ножом, важно, что кто-то, ударив ножом человекоподобного робота, может проявлять тем самым антигуманные качества, что скажется в будущем и на его жизни, и на жизнях других людей. И с этой точки зрения, как считает Хартзог, было бы целесообразно присвоить роботам права.
В какой степени люди и роботы могут манипулировать друг другом?
Есть еще одна причина для рассмотрения вопроса о присвоении прав роботам: контроль степени, в которой люди и машины могут манипулировать друг другом. Как отмечает Хартзог, человечество приближается к созданию разумных роботов. В качестве примера ученый приводит Софию — гуманоидного робота с лицом Одри Хепберн, созданного с применением технологий искусственного интеллекта, что позволяет машине понимать человека и отвечать ему, выражая при этом свои эмоции. В этом году робот София, проект Hanson Robotics, добилась гражданства Саудовской Аравии.
Роботы, подобные Софии, занимают в информатике место, которое Хартзог и другие ученые называют «зловещей долиной».
«То есть они очень похожи на человека, но недостаточно близки ему, чтобы человек чувствовал себя с ними естественно. Близость выглядит даже немного отталкивающе, — определяет он. — Для изучения последствий взаимодействия человека и робота, возможно, лучше представлять себе милую, но не похожую на нас машину. — Например, главного героя в Диснеевском фильме Валли или симпатичную версию робота-пылесоса Румбы».
Ученый предложил провести мысленный эксперимент — представить, что роботу Румбе дана возможность налаживать отношения с владельцем: шутить, здороваться, спрашивать о проведенном дне и так далее.
«Думаю, что этого Румбу действительно полюбят, — продолжает ученый. — И вот представьте, что в один прекрасный день мой робот-пылесос начинает кашлять, отплевываясь и захлебываясь, у него отказывает одно колесо, и он хромает ко мне и говорит: «Отец, если ты не купишь мне обновление, я умру».
Этот вариант развития событий Хартзог назвал манипуляцией людьми, которая основывается на привязанности к роботам. В подобных ситуациях человек вынужден определять границы своего сострадания, и еще нет ни одного закона, который разрешил бы подобную ситуацию. Ученый отметил, что с появлением таких виртуальных помощников как Siri и Alexa, человечество уже на половине пути к такому развитию событий. Ведь если домашним помощникам будет предоставлен огромный доступ к самым интимным сферам человеческой жизни, то однажды люди начнут доверять роботам и дружить с ними.
Европарламент задумался о правах и обязанностях роботов
В феврале 2017 г. Европарламент принял резолюцию «Нормы гражданского права о робототехнике», в которой, в частности, предлагается внедрение общеевропейской системы регистрации умных машин. По замыслу парламентариев, отдельным категориям роботов следует присвоить индивидуальный регистрационный номер, который будет заноситься в специальный реестр. Парламентарии выступают и за введение страхования ответственности за причиненный роботом вред — по аналогии с ОСАГО. Пока чиновники не смогли договориться, по каким именно правилам будет наступать такая ответственность. Этот вопрос оставлен на ближайшее будущее.
Беспокоит Европарламент и нравственная сторона развития робототехники. Поэтому в качестве приложения к резолюции парламентарии представили «кодекс этики», которым разработчикам робототехники предлагают руководствоваться добровольно. Ключевые принципы кодекса — «делай благо» и «не навреди» — заимствованы из знаменитых «законов роботехники» Айзека Азимова. Принцип самостоятельности подразумевает добровольное информированное согласие человека на взаимодействие с роботом, а принцип справедливости — правильное распределение созданных при этом благ.
Документ вводит и возможность отмены действия, которая должна стать обязательной функцией системы контроля робота. Кроме того, парламентарии задали рамки будущей всеобъемлющей «Хартии робототехники». Предлагается подумать даже о том, должны ли в перспективе самые совершенные автономные роботы получить особый правовой статус электронных лиц — «с их особыми правами и обязанностями, включая обязанность возмещения любого причиненного ими вреда».
