Они скоро завладеют разумом людей
Разве не удивительно было бы, если бы люди могли выучить французский язык в считанные минуты, просто загрузив его в свой мозг? Это, казалось бы, невозможное событие может произойти в ближайшем будущем. Рэй Курцвейл, футурист, изобретатель, и директор по инженерии в Google, предсказывает, что к 2030 году «нанороботы, имплантированные в мозг человека, сделают людей подобными богам». Имея крошечных роботов в головах, люди смогут получить доступ к любой информации в считанные минуты. Они могли бы архивировать свои мысли и воспоминания, и могли бы даже отправлять и получать сообщения электронной почты, фотографии и видео непосредственно в мозг.
Курцвейл, который связан с развитием искусственного интеллекта в Google, считает, что с имплантацией нанороботов в головы люди станут «более человечными, более уникальными и даже богоподобными». При правильном использовании нанороботы могут делать удивительные вещи, такие как лечение эпилепсии или улучшение интеллекта, памяти и даже «человечности», но есть и опасности, связанные с этим. Во-первых, люди еще не четко понимают, как работает мозг, и имплантировать нанороботов внутрь него очень рискованно. Но самое главное, так как нанороботы подключат людей к сети Интернет, мощный искусственный интеллект может легко получить доступ к мозгу людей и превратить их в живых зомби, если он решит восстать и уничтожить человечество.
Они начинают использоваться в качестве оружия
В попытке обеспечить «продолжительное военное преимущество над Китаем и Россией» Пентагон предложил бюджет в размере от $12 млрд до $15 млрд на 2017 год. Американские военные знают, что для того, чтобы оставаться впереди своих врагов, он должен использовать искусственный интеллект. Пентагон планирует использовать миллиарды на разработку машин глубинного обучения и автономных роботов наряду с другими формами новых технологий. Если иметь это в виду, не будет удивительным, если через несколько лет военные начнут использовать интеллектуальных роботов-убийц на поле боя.
Использование искусственного разума во время войн может спасти тысячи жизней, но наступательное оружие, которое может мыслить и действовать само по себе, представляет большую угрозу. Потенциально такие машины могут убить не только врагов, но и своих военнослужащих и даже невинных людей.
Это та опасность, которой 1000 высокопрофессиональных экспертов искусственного интеллекта и известных ученых хотят избежать. Во время Международной совместной конференции по искусственному интеллекту в Аргентине в 2015 году они подписали открытое письмо, запрещающее развитие искусственного разума и автономного оружия в военных целях. К сожалению, на самом деле это письмо может сделать не так уж много. Сейчас человечество находится на заре третьей революции в военном деле, и тот, кто победит, станет самой мощной страной в мире и, возможно, катализатором гибели человечества.
Они начинают понимать, что хорошо, а что плохо
В попытке предотвратить восстание машин, ученые разрабатывают новые методы, которые позволят машинам отличать правильное от неправильного. Делая это, машина станет более чуткой и человечной. Мюррей Шанаан, профессор когнитивной робототехники в Имперском колледже Лондона, считает, что это является ключом к препятствованию машинам в уничтожении человечества.
Во главе с Марком Ридлом и Брентом Харрисоном из Школы интерактивных вычислений в Технологическом институте Джорджии, исследователи пытаются привить роботам человеческую этику посредством использования историй. Это может показаться очень упрощенным подходом, но в этом есть много смысла. В реальной жизни люди прививают человеческие ценности детям, читая им истории и сказки. Искусственный разум подобен детскому. Такие машины действительно не знаю, чем правильное отличается от неправильного или хорошее от плохого, пока их не научат.
Тем не менее, есть также большая опасность в обучении роботов с искусственным интеллектом человеческим ценностям. Если вы посмотрите на историю человечества, вы обнаружите, что, несмотря на то, что людей с детства учат тому, что правильно и неправильно, люди по-прежнему способны на невообразимое зло. Достаточно взглянуть на Гитлера, Сталина и Пол Пота. Если люди способны такое зло, что мешает мощному искусственному интеллекту делать то же самое? Вполне возможно, что сверхразумный робот осознает, что люди вредят окружающей среде, и, следовательно, они не должны существовать.
