Илон Маск и Стив Возняк призвали приостановить разработки ИИ из-за рисков для общества

Некоммерческий Институт жизни будущего выпустил письмо, подписанное более чем 1 тыс. человек, включая основателя Tesla и SpaceX Илона Маска и сооснователя Apple Стива Возняка. В обращении говорится о необходимости взять паузу в создании новых технологий искусственного интеллекта (ИИ) до тех пор, пока не появятся надежные и проверенные протоколы для обеспечения безопасности таких проектов.

Стив Возняк и Илон Маск

Авторы письма призывают разработчиков мощных систем генеративного (способного создавать оригинальный контент) ИИ приостановить работу над более совершенными технологиями в этой области на шесть месяцев.

«Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми», — говорится в письме.

Кроме Илона Маска и Стива Возняка, документ подписали генеральный директор компании-разработчика нейросети Stable Diffusion Stability AI Эмад Мостак, исследователи нейросетей из дочерней компании Google DeepMind и другие известные эксперты в области искусственного интеллекта. Под обращением подписались более 1 тыс. экспертов.

В письме описаны потенциальные риски для общества и цивилизации со стороны систем мощного ИИ. Авторы упоминают экономические и политические потрясения.

«Письмо не идеально, но суть верна: нам нужно притормозить, пока мы лучше не поймем последствия. Они могут причинить серьезный ущерб. Крупные разработчики ИИ становятся все более скрытными в отношении того, что они делают, что затрудняет защиту общества от любого вреда, который может материализоваться», — сказал журналистам Reuters профессор Нью-Йоркского университета Гэри Маркус, подписавший письмо.

Ранее Plus-one.ru рассказывал об опасениях Илона Маска из-за ChatGPT и подобных ему технологий на общество. Согласно недавнему исследованию, ИИ-инструменты могут затронуть 300 млн рабочих мест в развитых странах мира. Возможностями искусственного интеллекта также озабочен Европол, поскольку злоумышленники могут использовать нейросети для мошенничества и киберпреступлений. В то же время основатель Microsoft Билл Гейтс считает ChatGPT и другие ИИ-технологии важнейшими инновациями современности.

Подписывайтесь на наш канал в Telegram

Автор

Артём Новиков