Ученые опасаются вовлечения искусственного интеллекта в разработку биологического оружия

Ученые опасаются, что искусственному интеллекту (ИИ) найдется неправильное применение. В ходе исследования они попросили искусственный интеллект разработать потенциально опасные препараты. И всего за шесть часов ИИ создал 40 тыс. токсичных веществ.

Искусственный интеллект может быть использован злоумышленниками для разработки высокотоксичного химического и биологического оружия, предупреждают ученые Швейцарского федерального института ядерной, биологической и химической защиты. Исследователи, занимающиеся разработкой лекарств с использованием ИИ, обнаружили, что этой технологией можно легко манипулировать для поиска токсичных нервно-паралитических веществ. Имеющийся в их распоряжении алгоритм за шесть часов выдал 40 тыс. формул потенциально опасных соединений, рассказали эксперты в журнале Nature Machine Intelligence.

Фабио Урбина, ведущий автор этой статьи, позже признался онлайн-изданию The Verge, что исследование навело ученых на тревожные мысли. ИИ, который исследователи использовали для полезных лекарств, легко переключился на создание ядов. Многие из них выглядят как боевые отравляющие вещества. Например, VX — самое мощное нервно-паралитическое вещество, разработанное британской научно-технической лабораторией обороны в 1950-х годах. «Меня встревожило то, насколько это было просто. Многое из тех знаний, которыми мы пользуемся в интернете, доступно бесплатно. Набор данных о токсичности того или иного вещества можно загрузить откуда угодно», — пояснил Фабио Урбина.

Он призвал к более ответственному отношению к потенциально опасным данным, которые находятся в открытом доступе. «Наука невозможна без открытой коммуникации и обмена информацией. Ограничения противоречат этому понятию. Но необходима мера защиты — контроль над использованием научных ресурсов. Пока в машинном обучении нет правил на случай использования технологии во вред людям. И на эту проблему стоит обратить внимание, что мы сейчас и делаем», — заявил Фабио Урбина.

Ранее Plus-one.ru рассказал, как чат-бот с искусственным интеллектом ChatGPT устроил переполох во таких индустриях, как журналистика, сценарное дело, программирование, образование и законотворчество.

Подписывайтесь на наш канал в Telegram