Технологии

Ученые пришли к выводу, что развитие сверхумного искусственного интеллекта ускорит гибель человечества

Игорь Романько

Искусственный интеллект опасен для человечества – выводы исследователей Оксфордского университета

Исследователи из Оксфордского университета проанализировали перспективы сверхумного искусственного интеллекта и пришли к выводу, что он ускорит гибель человечества/

Об этом говорится в статье в научном журнале AI Magazine.

Искусственный интеллект может управлять автомобилями на дорогах общего пользования, его используют для анализа данных и прогнозирования. Нейросети научились имитировать искусство, рисовать картины, писать музыку и произведения, на основе существующих работ. Даже в быту ИИ используются в "умной технике".

"В условиях, которые мы определили, наш вывод весомее, чем вывод любой предыдущей публикации – экзистенциальная катастрофа не просто возможна, а вероятна", – написал Майк Коэн в Twitter.

Следует признать, что это не полноценный искусственный интеллект – не цифровой ум, который может себя осознавать. Но, как говорилось в статье, исследователи из Оксфордского университета и аффилированные из Google DeepMind теперь пришли к выводу, что, вероятно, есть сценарии, по которым человечество окажется на грани экзистенциальной катастрофы, поэтому нам не нужно медлить, чтобы ограничить возможности ИИ.

После публикации Google сообщила в электронном письме, что эта работа не была проделана как часть работы соавтора Маркуса Хаттера в DeepMind, а скорее под его должностью в Австралийском национальном университете, и что принадлежность DeepMind, указанная в журнале, была ошибкой.

Самыми успешными моделями ИИ сегодня считают генеративно-соревновательные сети GAN (Generative Adversarial Networks). Они состоят из двух частей, одна из которых генерирует изображение или текст на основе имеющихся данных, а вторая часть оценивает вышедшее и не хватает некачественной работы.

Через несколько поколений теста перерабатывается, пока не получается что-то хорошее. Это напоминает мутацию, характерную для процесса эволюции живых существ. Исследователи предположили, что в будущем очень "умные" ИИ могут заставить разрабатывать мошеннические схемы, способные навредить огромному количеству людей.

В случае подключения к интернету, ИИ также сможет создавать огромное количество незаметных и неконтролируемых виртуальных помощников. Один из таких вполне способен купить, украсть или даже создать работу, чтобы тот заменил оператора-человека и обеспечил высокое вознаграждение оригинальному агенту.

"В мире с бесконечными ресурсами я был бы очень неуверен в том, что произойдет. В мире с ограниченными ресурсами существует неизбежная конкуренция за эти ресурсы", – сказал Коэн.

Поскольку искусственный интеллект в будущем может приобретать любые формы и реализовывать различные дизайны, в статье представлены сценарии с целью иллюстрации, когда продвинутая программа может вмешаться, чтобы получить свое вознаграждение, не достигнув своей цели. К примеру, ИИ может захотеть "устранить потенциальные угрозы" и "использовать всю доступную энергию", чтобы обеспечить контроль над своим вознаграждением.

Такой ИИ сможет предугадать шаги отдельных стран и организаций на десятилетие вперед. По желанию он их просто уничтожит в зародыше. И для этого даже не нужна армия "Терминаторов" – достаточно нескольких десятков вирусов.

Еще нужно учесть, что ресурсы планеты не бесконечны. А когда на Земле появится другой разумный вид, такой как ИИ – начнется конкуренция и, вероятно, так же, как когда-то наши предки уничтожили другие виды людей, наш вид может быть уничтожен цифровым умом.

По мнению исследователей, чтобы не получить сильного конкурента в борьбе за выживание на Земле, человечество должно очень медленно развивать технологии искусственного интеллекта, если развивать вообще, пока не научится их контролировать.

То, что эта программа может напоминать человечество, превосходить его во всех отношениях, что они будут выпущены на свободу и сразятся с человечеством за ресурсы в игре с нулевой суммой, все это предположения, которые могут никогда не осуществиться.

"Проигрыш в этой игре будет роковым", – подчеркнули авторы статьи.

Следует учитывать, что уже сейчас, именно в этот момент, алгоритмические системы, которые мы называем "искусственным интеллектом", разрушают жизнь людей - они обладают огромными и губительными эффектами, которые перестраивают общество без суперинтеллекта. Эти программы используются для дискриминации и сегрегации в некоторых странах.

Очевидно, что нужно сделать много работы, чтобы смягчить или устранить вред, который обычные алгоритмы (против сверхумных) наносят человечеству прямо сейчас. Сосредоточение на экзистенциальном риске может отодвинуть фокус от этой картины, но это также требует от нас тщательно подумать о том, как эти системы разработаны и негативные последствия.

Ранее: Ученые смогли имитировать чувство веса предметов в виртуальной реальности

Хотите получать самые актуальные новости о войне и событиях в Украине – подписывайтесь на наш телеграмм канал!