Предостережение: Эта страна будет править всей планетой

Будущее мира — или его конец?

Владимир Путин видит большие возможности в технологиях будущего, но ведущие ученые забили тревогу:

«Это наиболее вероятная причина третьей мировой войны», — утверждает один из самых влиятельных людей мира.

«Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы… Тот, кто станет лидером в этой сфере, будет властелином мира».

Такие слова Владимир Путин недавно произнес, согласно RT, во время беседы с российскими студентами. Это одно из нескольких высказываний Путина об искусственном интеллекте (ИИ), который, как он считает, в будущем сможет вести войны сам:

«Войны могут заканчиваться, когда беспилотники одной стороны будут уничтожены беспилотниками другой стороны, тогда у первой просто не будет другого выбора, кроме как сдаться».

Впечатляющие успехи

Компьютеры с годами все лучше осваивают то, что обычно называют «человеческими качествами», например, распознавание картинок. Это связано, в том числе, с тем, что так называемые нейронные сети стали гораздо более сложными, чем 20 лет назад, а также с тем, что сейчас есть широкий доступ к данным:

«В некоторых областях сделаны впечатляющие успехи, например, компьютеры теперь могут распознавать картинки или переводить устную речь в текст. Имеется весьма впечатляющий прогресс, основанный на том, что принято называть „глубинное обучение“ (deep learning): сейчас просто есть программное обеспечение, которое эффективно использует очень большие объемы данных, чтобы „самостоятельно обучаться“», — говорит Стефан Карлссон (Stefan Carlsson), профессор информационных технологий в Королевском технологическом институте.

«Предположительно, его можно использовать во всех областях, где нужно принимать решения. Если у вас достаточно данных, вы можете натаскать ИИ так, чтобы он, к примеру, делал экономические предсказания», — продолжает он.

Маск предостерегает о третьей мировой войне

Но далеко не все смотрят на ИИ как на нечто исключительно позитивное. Основатели 116 предприятий, которые работают в сфере искусственного интеллекта и робототехники, недавно написали открытое письмо в ООН, где призвали запретить так называемое автономное оружие — оружие, которое действует более или менее самостоятельно благодаря искусственному интеллекту. Среди подписавших письмо был основатель Tesla и SpaceX Илон Маск (Elon Musk), известный сейчас как наиболее инициативный и успешный предприниматель США.Маск — и многие вместе с ним — предостерегают об опасности: использование ИИ в военных целях может привести к разрушительным последствиям:

«Китай и Россия скоро будут странами с очень сильными информационными технологиями. Борьба за превосходство в сфере ИИ на национальном уровне — наиболее вероятная причина третьей мировой войны, по моему мнению», — написал Илон Маск в понедельник в Twitter.

«Она (третья мировая война), возможно, начнется не по инициативе мировых лидеров, а потому, что ИИ решит, что превентивный удар — наиболее вероятный путь к победе», — продолжил Маск.

Автономная война опасна

То есть, все пойдет приблизительно по сценарию «Терминатора», где роботы-убийцы захватили мировое господство и сеют хаос и смерть.

Владимир Путин, похоже, тоже осознает эту проблему — по крайней мере, так это выглядит. Он заявил RT, что Россия разрешит другим нациям перенять часть технологий, которые ученые страны разработают в будущем:

«Если мы будем лидерами в этой сфере, так же будем делиться этими технологиями со всем миром, как мы сегодня делимся атомными технологиями, ядерными технологиями», — сказал Путин.

Но насколько действительно потенциально опасен ИИ в военных сферах применения? Стефан Карлссон из Королевского технологического института хочет умерить опасения:«Автономное оружие — не новость. Например, крылатые ракеты, в принципе, автономны, но они предназначены для того, чтобы выполнять задание, полученное от главнокомандующего. Военные уже долго борются с этой проблемой, и всегда к вопросу подходили с осторожностью. В истребителях, например, всегда есть пилот, который принимает решения. Люди давно осознали этот риск».

«Разрешить оружию принимать собственные решения — какие цели выбирать и так далее — потенциально возможно в будущем. Тогда мы окажемся в преддверии автономной войны, и именно этого опасаются Маск и остальные», — продолжает Стефан Карлссон.

Карлссон: «Не думаю, что человек настолько глуп»

Но так далеко дело не зайдет, считает он:

«Все эти худшие сценарии основываются на том, что человек должен оказаться достаточно глупым, чтобы позволить роботам принимать решения самостоятельно, я не думаю, что это произойдет».

Aftonbladet: Прав ли Путин? Будет ли страна, которая станет лидером в области ИИ, «властелином мира»?

Стефан Карлссон: Не думаю, что будет какой-то конкретный лидер. Это знание будет достаточно общим. Не думаю, что дело дойдет до мирового господства только из-за того, что какая-то одна страна заполучит исключительно для себя особые знания в сфере ИИ.

Искусственный интеллектИскусственным интеллектом называют интеллект, который проявляют машины. Также это название прикладной науки, которая выясняет, что такое человеческое мышление, и пытается его смоделировать.

Мы используем ИИ множеством способов в будничной жизни. Во всем от управляемого голосом помощника Siri в iPhone до различных видеоигр разнообразными способами используется искусственный интеллект.

Выражение «искусственный интеллект» было придумано в 1956 году американским компьютерным специалистом Джоном Маккарти (John McCarthy, 1927-2011). Его определение гласило, что это «наука и техника по созданию умных машин».