Нас всех убьют роботы?



Предсказания Айзека Азимова, Кира Булычёва и особенно Джеймса Кэмерона вот-вот станут реальностью! Совсем скоро симпатичные терминаторы начнут бороздить Большой театр просторы нашей галактики, а человечество будет представлять собой жалкую горстку уцелевших в войне с машинами и выживших за первый этап ядерной зимы.

Возможно, остатки людей будут отправлены колонизировать другие планеты или трудиться на вредных для машин производствах, а кого-то роботы загонят в резервации для сохранения культуры некогда доминирующего вида Земли.

Так (ну ладно, не совсем так) думает Илон Маск. Он уже неоднократно высказывал свои опасения по поводу безрадостного будущего человечества, но теперь бьёт в набат из-за слишком бурного и неконтролируемого развития искусственного интеллекта.



Илон Маск позавчера выступил перед Национальной ассоциацией губернаторов США. Создатель Tesla и SpaceX говорил о главной угрозе, нависшей над безмятежным человечеством. Фактически он призвал государство вмешаться и установить жёсткий контроль над искусственным интеллектом: "Искусственный интеллект является фундаментальным риском для существования человеческой цивилизации. В той мере, в какой ДТП, авиакатастрофы, дефектные лекарства и некачественные продукты [таким риском] не являются".



"Искуственный интеллект – тот редкий случай, когда нам нужно проактивное (превентивное) регулирование, а не реактивное (регулирование по итогам какого-либо события). Потому что к тому времени, когда мы попытаемся отреагировать, будет уже слишком поздно.

Это как раз тот случай, когда регуляторы должны прийти и сказать: "Эй, ребята, вам всем надо просто притормозить и убедиться, что это безопасно". Надо, чтобы регуляторы ввели такое правило для всех команд в игре".

В частности, Маска беспокоит грядущий рост уровня безработицы и социальная дестабилизация, связанная с распространением роботов (об этом он уже говорил). Он уверен, что роботы "будут делать всё подряд".

Но куда сильнее Маска тревожит искусственный интеллект, "живущий в сети": "[Роботы] могут начать войну, создавая фальшивые новости, подделывая учётные записи e-mail, выпуская фейковые пресс-релизы и просто манипулируя информацией".

По мнению Маска, искусственный интеллект способен, например, раздуть инвестиции в оборонную промышленность, а затем спровоцировать войну с помощью компьютерных взломов и дезинформации.

Он говорит, что против чрезмерного регулирования искусственного интеллекта, но за него следует взяться как можно скорее.



Что думаете? Уже пора готовиться к апокалипсису и жизни на планете Шелезяка, или Маск просто сгущает краски? Угрожает ли засилье роботов Архангельску и Омску, Махачкале и Уфе?

Илон Маск о ближайшем будущем человечества
Tesla Model X: обзор удивительной машины

"Метро будущего" от Илона Маска


Подписывайтесь:



Обратите внимание:



promo varlamov.ru ноябрь 17, 2011 20:24 153
Buy for 2 000 tokens
По рекламе пишите reklama@varlamov.me или reklama@avtormedia.ru В этом блоге можно разместить рекламный пост. Ежемесячная аудитория – более 2 млн. уникальных посетителей. Для тех, кто просто хочет скачать прайс, есть эта ссылка. Для тех, кто хочет посмотреть полную презентацию со…
Не-а. Он просто в теме.

Я тоже ржал и обзывал пугучих жопоголиками. Пока не увидел, как современная нейросеть играет в ноу лимит покер. Не ранее чем этой зимой.

Если вкратце, а) очень сильно б) совершенно не "по учебнику математики" (наоборот, в терминах покера - очень и очень loose т.е. с большой долей блефа и игры не от своих хороших карт а от говна у оппонентов) в) нечеловечески изобретательно (эта нейросеть сама придумала несколько фокусов, которые уже активно внедряются в соревновательный покер людьми. Серьезно, именно она сама, а не гроссмейстер подсказал.)

То есть, внезапно, она пусть совершенно нечеловечески, но думает и креативит. И приходит к нечеловеческим но эффективным результатам.
Внезапно непонятно, что принципиально помешает одному из более универсальных и сеть-подключенных ИИ ближайшего будущего решить человеков порешить.
Более того, и страшнее того, это может произойти в отрыве от того, что мы воспринимаем и озвучиваем как becoming self-aware или achieving strong-AI. Прям вот как покерному ИИ, явно "неразумному" по нашим меркам, его неразумность не мешает придумывать оригинальные способы надевать на дверь лучших мировых игроков в ноулимит покер, где никаких четких математических решений не существует.
Давайте я очень грубо и быстро, вы же не покеристка? Если таки да - идите читайте лично, там просто прелесть.
Так вот, мы все-таки очень простые ребята, у нас в привычном формате мышления "ноу" лимит сокращался до достаточно узкого спектра ставок: "колл", "рейз" (это просто поднятие на минимальный шаг, честно говоря, оно в ноулимите практически не применяется), "полбанка", "банк", "овербет" (это когда вываливаешь на стол больше фишек чем на нем в этой раздаче вообще лежит). "олл ин".
Ну понятно что никто не мешал никому делать разные творческие ставки, типа вот вам четверть банка, вот вам ровно два банка и т.п. - и это как бы делали по случаю под настроение, но вообще игровая теория и практика развивалась вокруг вышеупомянутых столбиков.
Так вот, эта сучка обнаружила, сама с собой продрачивая, что ставки в четверть банка и три четверти банка, равно как овербет в полтора банка или в три банка, работают по-разному. И с математической и с психологической точки зрения. И если человечье-игрвой мозг привык быстро относить действия оппонентов в одну из семи что ли простых категорий, когда их намного больше и соотносятся они не так - это блайндспот и давайте в него дОвить. И стала очень активно предлагать оппонентам не самые стандартные ставки. Во-первых сбивая всем при этом "блефометр", и во-вторых делая это с подразумеваемой выгодой для себя, потмоу что она ж не просто так с бодуна выбрала поставить тут полтора банка вместо очевидного "банк или олл ин".

И да, вы меня очень правильно поняли (а я, соответственно, асилил передать собственное переубеждение). Ширнармассам не рассказали о принципиальном прорыве в ИИ крайних двух, много трех лет: они теперь вообще не по принципу "попыток все просчитать" (как дип блю шахматный) работают. Они работают по принципу обучаемых естественно-отбираемых случайнорыпающихся: берем миллион копий програмки "в непонятной ситуации сделать что угодно, запомнить что именно мы сделали в этой входной ситуации, встретив ее снова если в прошлый раз хорошо было повторить, если в прошлый раз плохо было сделать что угодно, (цикл)", оставить эти копии бороться друг с другом. Вощемта наши дети примерно так же по ковру ползают, мир изучают.
Тока у детей есть приятное свойство что между моментом когда они связно говорят и мы можем начинать потихоньку объяснять им почему загнать всех жидов в газенваген не очень хорошо даже если тебе жиды очень-очень неприятны, и моментом когда у них появляется возможность таки сделать это, проходит от пятнадцати до тридцати лет. У ИИ может получиться сильно наоборот.
Ага.
Я могу тут ща напоправлять вас много, это не нужно. Содержание вопроса получилось передать.
Одна важная поправка: это не психология. Она не занимается целенаправленной "игрой от чтения противника" (как в иных тупых но красивых киношках), она и училась в основном не на людях а на копиях себя. Оно просто выбрала типичные "правильные" модели поведения и нашла к ним контрмеры. (Не надо уже прям так нас самих, людей, недооценивать. Совеременный человечий покер сам по себе успел сделать несколько полных концептуальных шагов: от "верю-не верю" ("что у тебя карты лучше") к математике "а какие шансы у меня с этими картами" к сложной математике "а какие у меня шансы испортить сейчас рейзом математику играющим от шансов с их картами, шоп оне упали а я забрал банк". Можно почти гордится что в целом история покера была программой подтверждена, типа она свои решения и решения-решений находила в той же последовательности.

Вы понимаете теперь почему Маск ссыт кипятком?

Полтора года назад этой темы не было. Точка, не было. Был дип чтототам, выигрывающий в шахматы методом перебора. Ну всем давно понятно что шахматы переборная игра, и однажды будет найден "идеальный матч" (в котором выиграют белые, бгг). Был бот ЛИМИТ 1-1 техасского покера. Он тоже работал по методу перебора стратегий. В итоге ученые просто опубликовали его матрицу решений, она удивительно простая, на три экрана помещается. Там есть вероятностные поля (в этом раскладе в 24% падайте в 76% колльте) ну и все.
Было понятно что ни го ни ноулимитный техас этой методикой нерешаемы.

И тут вот оппа, за прошедший год нейросетевые ии надели на дверь и го, и техас.
мы с вами прямо сейчас живем внутри этого момента. Если циьтировать говеный паразитический фильм, это прям мы предзаказываем установку программы "генезис".
Это не совсем математические модели, еще раз. Это "поведенческие модели" и подмечание закономерностей.
то есть не обязательно выстраиваются формулы. Более того, наоборот, из такой нейросети извлечь "ее формулу" в формальном виде уже невозможно. Но да, подмечать самые неожиданные закономерности они могут принципиально лучше, чем человеки.

кстати, "бот убера" уже замешан. В нынешнем скандале. Если точнее - фейсбуковский алгоритм подбора чего кому показывать. Он же совершенно анально-непрозрачен и непубличен. И там было обсуждение что как минимум один эффект - разделение лагерей на "пузыри", из которых других просто не видно и об их существовании быстро забывают - сейчас изучают уже на уровне академической социологии.
правда, если я прально пони, этот алгоритм все-таки "олдскульный", то есть на основании жестких формул и признаков, а не нейросети - самообучалки.

и да, это впечатляет. Причем, повторюсь, особенно впечатляет то, что мы, как мгновенно обнаруживается, нихрена не знаем про свою главную гордость - "разум". Что он такое, откуда берется, как связан со способностью к целеполаганию и целенаправленным действиям и т.п. Тот же тест Тьюринга - чисто гуманитарная херня, целиком основанная на субъективном исследователе. Как кто-то уже сказал, "страшен не тот ИИ, что пройдет тест Тьюринга, а тот, что его нарочно завалит."
то есть мы прям никак не готовы к появлению чего-то разумного на нашем уровне возможностей. Вдесятеро - если образ такого разума будет отличаться от нам привычного. О чем, собственно, Маск и говорит.
Ребята, вы сейчас все так красиво разложили по полочкам. Готовая статья для популяризаторов науки. Огромное спасибо.
Пожалуйста. ))

Забавнейшая же ситуация: прям сейчас в одном из важнейших для будущего, насколько мы можем судить, научном направлении происходит революция калибра манхэттенского проекта и гагарина, и никто вощемта об этом не говорит и не в курсе.