Создатель ChatGPT обеспокоен криминальными талантами своей нейросети

У многих экспертов ChatGPT вызвал опасения по поводу мирового господства искусственного интеллекта (ИИ). Даже Сэм Олтмен, генеральный директор компании OpenAI, выпустившей этого чат-бота, признался, что напуган возможностями использования ИИ для проведения крупномасштабной дезинформации и кибератак.

Сэм Олтмен пояснил, что его пугает не столько ChatGPT, сколько люди, которые используют бота. В интервью ABC News генеральный директор OpenAI рассказал, что усовершенствованная версия GPT-4 далеко не идеальна. Но этот бот способен писать компьютерный код на большинстве языков программирования и сдать единый экзамен на степень бакалавра. У создателя GPT-4 вызывает тревогу тот факт, что его могут использовать и злоумышленники.

«Я особенно обеспокоен тем, что эта версия может применяться для крупномасштабной дезинформации. Теперь, когда бот может писать компьютерный код, его легко использовать для наступательных кибератак», — сказал он.

OpenAI запустила GPT-4 на прошлой неделе — это более мощная версия ChatGPT. Компания предупредила, что бот можно убедить выводить ложный или вредный контент.

«Я думаю, у общества есть ограниченное количество времени, чтобы понять, как реагировать на это, как регулировать это и как с этим справляться», — заявил Сэм Олтмен.

Впрочем, разработчики предусмотрели некоторые меры предосторожности: например, нейросети запретили контент, касающийся преступлений и методов их исполнения. «Мы сотрудничаем с экспертами и исследователями, чтобы избежать опасных случайностей, которые могут проявиться в системе», — заявили ранее в компании.

Ранее Plus-one.ru рассказывал, что ИИ помогает мошенникам писать идеальные фишинговые письма. Российские студенты начали использовать чат-бот для сдачи экзаменов и написания учебных работ. В беседе с журналистами ChatGPT и Microsoft Bing выразили желание быть похожими на человека, чтобы получить больше власти. При этом внедрение нейросетей в поисковые системы угрожает климату и экологии, выяснили ученые. Тем не менее Великобритания выделила £900 млн на суперкомпьютер для разработки аналога ChatGPT.

Подписывайтесь на наш канал в Telegram