July 17, 2017

Нас всех убьют роботы?

Предсказания Айзека Азимова, Кира Булычёва и особенно Джеймса Кэмерона вот-вот станут реальностью! Совсем скоро симпатичные терминаторы начнут бороздить Большой театр просторы нашей галактики, а человечество будет представлять собой жалкую горстку уцелевших в войне с машинами и выживших за первый этап ядерной зимы.

Возможно, остатки людей будут отправлены колонизировать другие планеты или трудиться на вредных для машин производствах, а кого-то роботы загонят в резервации для сохранения культуры некогда доминирующего вида Земли.

Так (ну ладно, не совсем так) думает Илон Маск. Он уже неоднократно высказывал свои опасения по поводу безрадостного будущего человечества, но теперь бьёт в набат из-за слишком бурного и неконтролируемого развития искусственного интеллекта.

Илон Маск позавчера выступил перед Национальной ассоциацией губернаторов США. Создатель Tesla и SpaceX говорил о главной угрозе, нависшей над безмятежным человечеством. Фактически он призвал государство вмешаться и установить жёсткий контроль над искусственным интеллектом: "Искусственный интеллект является фундаментальным риском для существования человеческой цивилизации. В той мере, в какой ДТП, авиакатастрофы, дефектные лекарства и некачественные продукты [таким риском] не являются".

"Искуственный интеллект – тот редкий случай, когда нам нужно проактивное (превентивное) регулирование, а не реактивное (регулирование по итогам какого-либо события). Потому что к тому времени, когда мы попытаемся отреагировать, будет уже слишком поздно.

Это как раз тот случай, когда регуляторы должны прийти и сказать: "Эй, ребята, вам всем надо просто притормозить и убедиться, что это безопасно". Надо, чтобы регуляторы ввели такое правило для всех команд в игре".

В частности, Маска беспокоит грядущий рост уровня безработицы и социальная дестабилизация, связанная с распространением роботов (об этом он уже говорил). Он уверен, что роботы "будут делать всё подряд".

Но куда сильнее Маска тревожит искусственный интеллект, "живущий в сети": "[Роботы] могут начать войну, создавая фальшивые новости, подделывая учётные записи e-mail, выпуская фейковые пресс-релизы и просто манипулируя информацией".

По мнению Маска, искусственный интеллект способен, например, раздуть инвестиции в оборонную промышленность, а затем спровоцировать войну с помощью компьютерных взломов и дезинформации.

Он говорит, что против чрезмерного регулирования искусственного интеллекта, но за него следует взяться как можно скорее.

Что думаете? Уже пора готовиться к апокалипсису и жизни на планете Шелезяка, или Маск просто сгущает краски? Угрожает ли засилье роботов Архангельску и Омску, Махачкале и Уфе?

Илон Маск о ближайшем будущем человечества

Tesla Model X: обзор удивительной машины

"Метро будущего" от Илона Маска