Бывший инженер Google предупреждает, что «роботы-убийцы» могут вызвать катастрофы
Беспокойство по поводу роботов-убийц, наносящих ущерб нашей цивилизации, дошло до того, что была сформирована организация под названием «Кампания по остановке роботов-убийц». CARL COURT / AFP / Getty Images
Скажем так, нас предупредили.
Вспомните, в марте 2018 года молодой Илон Маск обратился к толпе на SXSW: заявив: «Запомните мои слова - ИИ гораздо опаснее ядерного оружия».
СМОТРИ ТАКЖЕ: Как новый прорыв в области ИИ может подорвать финансовую индустрию
Да, более молодой Маск, даже зашел так далеко, что назвал тех, кто сопротивляется его предупреждениям, «дураками», поскольку у них нет понимания или надзора за тем, что все безопасно разрабатывают искусственный интеллект (ИИ), особенно когда речь идет об оружии.
< p> Верно. Мы даже не можем подтвердить полную безопасность того, что взломанная лампочка, подключенная к Wi-Fi, может привести к опустошению вашего банковского счета, не говоря уже о том, какие катастрофические сценарии могут взорваться с этим поколением автономного оружия, которое носит прозвище: роботы-убийцы .Да, роботы-убийцы. Еще одна вещь, которую стоит включить в список тревог вашей повседневной жизни. Позвольте мне еще раз повторить: теперь нам нужно беспокоиться о роботах-убийцах ...
Итак, помимо проницательного предупреждения SXSW Маска в марте (и еще одного просмотра Терминатора 2), какие еще причины действительно носят, которые указывают на убийство роботы потенциально могут быть очень реальной угрозой?
Лаура Нолан, бывший ведущий инженер-программист Google, уволилась в прошлом году после того, как ее направили работать с Министерством обороны США над проектом Maven. Нолан начал работать над проектом в 2017 году, прежде чем ушел из-за этических соображений. Целью ее команды было создание системы с алгоритмами искусственного интеллекта, которая ускорила бы анализ огромного количества отснятых материалов наблюдения, чтобы различать людей и неодушевленные предметы с бесконечно большей скоростью. Нолан предупредил, что роботы-убийцы могут вызвать «массовые злодеяния» и даже потенциально могут начать войну.
Вот где все идет не так: Нолан сказал The Guardian, что в отличие от военной команды, удаленно управляющей дроном с оружием за тысячи миль вдали, роботы обладают опасным потенциалом совершать катастрофические действия, на выполнение которых они не были изначально запрограммированы.
Выражаясь самыми упрощенными терминами фильма, вооруженный робот-убийца мог бы хорошо работать, только если бы это был Робокоп. задерживает отца из Шоу 70-х.
Но вооруженный робот-убийца не работает так же хорошо, если это стрелок из оригинального Мира Дикого Запада, уносящий отдыхающих людей.
И самое главное, это не фильмы, а реальность.
Нолан заявил The Guardian: «То, что вы видите, - это возможные зверства и незаконные убийства даже по законам войны, особенно если сотни или тысячи из этих машин развернуты ».
Могут произойти крупномасштабные аварии», она добавила, «потому что эти штуки начнут вести себя неожиданным образом».
Исходя из опыта Нолан, она считает, что роботы, которые не управляются дистанционным управлением человека, должны быть запрещены тем же международным соглашением, что и запрещает химическое оружие.
Маск разделяет мнение Нолана и призывает к надзору со стороны регулирующих органов. Он заявил, что ИИ представляет собой большую угрозу, чем Северная Корея, с точки зрения уничтожения Соединенных Штатов (или всей планеты).
Заявление Маска указывает на тот факт, что мы ничему не научились из истории (или хотя бы история кино). Разве мы ничего не узнали из хаоса, который произошел, когда Феррис Бьюллер разыграл глобальную термоядерную войну с компьютером Министерства обороны?
Беспокойство по поводу роботов-убийц ИИ, сеющих хаос в нашей цивилизации, дошло до того, что организация начала была сформирована Кампания, чтобы остановить роботов-убийц. (И нет, это тоже не название инди-группы 90-х.) Нолан присоединился к группе, цель которой - запретить полностью автономное оружие. На сайте организации четко изложены их (наши) опасения: «Такое оружие можно было бы идентифицировать, отбирать и атаковать без дальнейшего вмешательства человека».
Хьюман Райтс Вотч также призвала запретить роботов-убийц и служит в качестве глобального координатора Кампании по борьбе с роботами-убийцами.
Последний страшный вывод? Единственный способ испытать это автономное оружие - развернуть его в реальных зонах боевых действий. И мы, скорее всего, не единственная страна на планете, которая их развивает. Еще в марте Россия представила ряд дронов-убийц с искусственным интеллектом, которые, как они надеются, произведут революцию на поле битвы.
Как объяснил Нолан: «Мы точно знаем, что в ООН Россия выступала против любого договора, пусть кстати, только запретить это оружие ».
Повторюсь: скажем так, мыбыл предупрежден.
комментариев