На прошлой неделе Илон Маск (Elon Musk) напугал всех появлением про опасность искусственного интеллекта, который уничтожит человечество.
Редакция TechCrunch решила поинтересоваться другой точкой зрения на безопасность AI-разработок, в частности, пообщались с Родни Бруксом (Rodney Brooks), известным специалистом роботизированных систем с MIT. Он основал лабораторию компьютерных наук и искусственного интеллекта в университете, а также выступил соучредителем проектов iRobot и Rethink Robotics.
Брукс не просто «знает про AI» — он непосредственно занимается подобными разработками уже много лет, но сегодня его больше всего волнует предвзятое отношение к технологии. Широкая общественность не понимает суть работы AI-алгоритмов, и даже сам Илон Маск ложно толкует искусственный интеллект. Предлагаем адаптированный перевод разговора журналистов с Родни Бруксом.
— Инвесторы сегодня охотно вкладывают деньги в роботизированные системы?
Проект iRobot я начинал еще в 1990 году, когда не существовало венчурных фондов. Следующая компания Rethink стартовала в 2008-м, тогда венчурное инвестирование уже развивалось, но было немного заинтересованных в проектах по робототехнике. Сегодня есть и заинтересованность, и инвестиции, а большинство венчурных фондов Кремниевой долины и Бостона очень упорно ищут именно разработки на основе роботизации. Также, изобретателям на сегодняшний день легче выйти на инвесторов.
Однако, мне кажется, что даже те инвесторы, которые вкладывают средства на поздних стадиях развития стартапа не понимают, насколько длительным является процесс разработки и сколько времени в действительности потребуется для возврата вложенных средств. Думаю, для многих учредителей это станет решающим моментом во время поиска инвестора.
Тем, кто начинает бизнес с роботизированными разработками сегодня следует настраиваться на такой сценарий: в какой-то момент времени для дальнейшего развития бизнеса придется продать его более крупной компании. В целом, экосистема использует венчурное инвестирование для отделения хороших идей от безнадежных. Но даже с инвестициями самостоятельно пройти весь путь от начала до выхода на IPO будет сложно.
Еще один важный момент — не все задачи могут быть решены только программным обеспечением. Да, машинное обучение — это прогрессивная технология и она много на что способна, но некоторые из самых прогрессивных разработок последнего времени — это не новый вид оборудования, а только новый тип электродвигателя, контрольной системы или коробки передач.
— Вы пишете книгу про AI, действительно ли искусственный интеллект так опасен, как говорят?
Об опасности от разработки искусственного интеллекта высказался не только Илон Маск. Раньше предупреждал и Стивен Хокинг, и астороном Роял Мартин Риз, который даже написал об этом книгу. Всех их объединяет тот факт, что они сами не работают в сфере разработки искусственного интеллекта. Мы же, те, кто разрабатывает AI знаем, какие усилия и огромные ресурсы нужны для того, чтобы технология заработала на нужном уровне продукта.
Вот почему люди, включая Илона Маска, допускают такие ошибки и запугивают искусственным интеллектом — когда мы видим человека, который безупречно выполняет определенное задание, мы понимаем степень привлеченного профессионализма и необходимых навыков. И люди оценивают работу искусственного интеллекта как и привлеченные усилия человека, однако это — неверный подход. Когда разработка AlphaGo от компании DeepMind победила корейского и китайского чемпионов в игру Го, все были поражены. «Этот компьютер такой умный, он может сделать что угодно!» Но я посещал офис DeepMind в Лондоне буквально месяц назад и там признаются, что работа алгоритма элементарно могла пойти неверным путем.
Если мы сейчас будем вводить какие-то правила для регулирования искусственного интеллекта, как предлагает Маск, тогда эти правила должны касаться конкретного поведения, регулировать и корректировать его. Регулирование должно касаться чего-то определенного — или не касаться ничего. Так что же предлагает регулировать Илон Маск? Кстати, можно поговорить про беспилотные автомобили Tesla, которые уже сейчас представляют реальную опасность на дороге, но об этом основатель компании не вспоминает на каждой пресс-конференции.
— Вы не раз поднимали тему безопасности автономных авто, описывая ситуацию: если автомобилю придется выбирать между детскими колясками и пожилыми женщинами — кого должна спасти машина...
Существует много этических вопросов, которые, я убежден, замедлят массовое распространение беспилотных авто на дорогах. Придется разрабатывать кипы новых правил, регулировать такие вопросы, о которых мы еще и не начинали думать. И касаться это будет очень конкретных бытовых ситуаций, даже не беря во внимание пример с колясками и бабушками. Я живу недалеко от работы, однако за последние три недели я трижды оказывался в ситуации, когда мог или простоять в заторе около шести часов, или съехать на одностороннюю дорогу, чтобы миновать затор. Следует ли позволить беспилотным авто принимать следующие решения: ехать неправильно, чтобы не торчать в пробке? А если пассажир будет ехать в такси Uber без водителя, должен ли он иметь доступ к системе голосового управления и изменения маршрута? А если такому пассажиру только 14 лет? Все нужно регулировать, и это — более реальные проблемы, чем мнимая опасность от искусственного интеллекта.
— Вы считаете роботов приложением к людям, однако не отрицаете того, что некоторых работников заменят машины?
Несомненно, замещение рабочих произойдет через развитие роботизированных технологий и людям будет сложно с ним смириться. На фабриках, думаю, люди будут лишь присматривать за работой техники. Есть традиционный стереотип, что промышленное оборудование должно иметь ужасный интерфейс, настолько сложный, что придется проходить специальные учебные курсы для управления такими машинами. На самом же деле, как и в случае с пользовательской электроникой, мы получим машины, которые самостоятельно обучают, как с ними работать. Нам нужно изменить свое отношение к индустриальному и другому оборудованию, чтобы создавать машины, которые будут учить людей работать с ними.
— Если бы не разработка робототехники, то что?
Я глубоко увлечен роботизированными технологиями. Каждая проблема, о которой я задумываюсь, в моей реальности имеет самое роботизированное решение. Однако есть такая категория проблем, которые важны для всего человечества; в то же время, ни одна из ведущих компаний или инвестиционных фондов не сможет ее решить. Например, возьмем проблему с пластиковым мусором в океане. Она становится все острее, влияет на пищевую цепочку на Земле. Это глобальная проблема, которая касается всех. Но кто будет вкладывать инвестиции в стартап, что борется с мусором в океане? Ведь здесь речь не идет о возврате инвестиций, по крайней мере, в денежном эквиваленте. Сейчас я ищу такие направления, в которых мои роботизированные решения могут помогать, но в которых нет финансирования для исследований или даже запросов на финансирование таких программ.
Важный момент в моей работе — это написание книги об искусственный интеллект, роботизированные технологии и будущее. Я вижу, что пользователи начинают бояться не тех вещей и инноваций, они не понимают, в чем кроются настоящие опасности для человечества.