Развитие технологий уже в ближайшие десятилетия должно создать новое чудо: машину, которая способна думать самостоятельно. Однако эксперты считают, что радоваться этому придется недолго: работы с искусственным интеллектом уничтожат человечество. Они говорят, что искусственный разум является самой большой угрозой существованию людей.
Ученые и раньше задумывались о временах, когда машины станут умнее своих создателей. Однако теперь они начинают говорить об этом все громче: одним из первых свою озабоченность выразил Илон Маск - основатель автопроизводителя Tesla. В октябре он сказал, что искусственный интеллект является самой большой угрозой для человечества.
Эстафету подхватил известный популяризатор науки Стивен Хокинг. Хотя за свое состояние здоровья он должен пользоваться «умными» машинами, настоящий искусственный разум его пугает.
Причины для волнения. У ученых нет сомнения, что когда-нибудь настанет день, в котором компьютеры станут умнее людей. Кремниевые машины уже опережают своих биологических создателей, например, легко выигрывают у них в шахматы еще с 1996 года.
Решать сложнейшие математические уравнения может сегодня любой смартфон, а для некоторых подобных задач даже не нужно ничего вводить: достаточно лишь сфотографировать математическое выражение.
Машины сегодня опережают людей не только в точных играх типа шахмат и точных науках. Машина IBM Watson несколько лет назад победила в американской телеигре Jeopardy. Она также консультирует врачей для определения точного диагноза пациентов в США.
Это не все примеры того, как машины опережают людей в их работе и развлечениях. Компьютеры медленно, но уверенно осваивают новые сферы деятельности и становятся в них лучшими и быстрыми специалистами, чем люди.
Стоит ли бояться? Может казаться, что стращание искусственным интеллектом - это очередная байка, как, например, проблема 2000 года. Тогда эксперты предрекали полный крах компьютерных сетей и систем из-за наступления нового века. Однако на этот раз угроза может оказаться реальной, ведь как только люди создадут первый в истории искусственный разум, он дальше сможет самостоятельно разработать свою лучшую версию. Люди ему будут вообще не нужны.
«Я не думаю, что этические последствия от появления искусственного разума будут минимальными, - говорит эксперт из искусственного интеллекта Нил Якобштейн. Он считает, что человечество должно взвесить последствия того, что оно создает и подготовиться к радикальным изменениям, которые могут возникнуть. - Лучше сделать это, пока технологии не развиты и не существует искусственного интеллекта. Возможность того, что что-то пойдет не так растет, когда вы не задумываетесь об этом».
Профессор когнитивной робототехники в Имперском Колледже Мюрей Шанахан говорит, что сегодня исследователи не задумываются о безопасности своих систем, чтобы их можно было остановить в случае сбоя. «Разработчики искусственного интеллекта не считают это проблемой, тогда как широкая публика считает, - говорит он. - Я думаю, правильный ответ находится между этими крайностями. Нет нужды паниковать сейчас. Я не думаю, что мы создадим похожий на человеческий разум в ближайшие 10-20 лет».
Одна из главных проблем на пути искусственного интеллекта - это слабое понимание того, как его разработать. «Мы в действительности не знаем, лучше копировать природу, или создавать с нуля», - говорит ученый.
Бояться стоит людей. Фантаст Чарльз Стросс говорит, что опасность от искусственного разума существует, однако ее причина не в том, что он станет умнее людей или не захочет работать на своих хозяев. «Никто не хочет иметь искусственный разум, который будет устанавливать свои цели, - говорит он. - Если он будет думать о себе, то, скорее, найдет свой эквивалент лежки на диване перед телевизором».
Стросс считает, что опасность от искусственного интеллекта в будущем будет происходить не от него, а от людей, которым он служит. «Наша самая большая угроза от искусственного разума, - говорит он, - это сознание, которое устанавливает их цели».
В качестве такого примера он приводит беспилотных дронов. «Дроны не убивают людей, которые управляют ими. Зато они убивают тех, на кого их направляют, - говорит он. - Необходимо ставить вопрос к хозяевам машин. Машины - это просто еще одно отражение нас самих».