Великие чемпионы знают, как закончить карьеру на пике своего успеха. В DeepMind, лаборатории искусственного интеллекта Alphabet, решили, что их компьютерная программа, AlphaGo, больше не будет фокусироваться на победах в Го.
Вместо этого, как написал в блоге Демис Хассабис, исполнительный директор DeepMind, фокус будет на "разработке усовершенствованных общих алгоритмов, которые однажды смогут помочь ученым решить некоторые из самых сложных проблем — как поиск новых лекарств".
Эти амбиции вполне оправданы. Искусственный интеллект может привести к значительным прорывам, особенно в руках людей мыслящих. Когда эти захватывающие разработки можно будет легко воплотить, если устранить определенное неправильное понимание.
Некоторым, как выглядит, представляется, что искусственный интеллект — это скрещивание в новых программах искусственных агентов и разумного поведения. На самом же деле более осмысленным является совершенно противоположное: речь идет про "раскрещивание" успешного решения задач от необходимости быть умным. Успех приходит, когда достигнуто именно это.
Лучшее определение искусственного интеллекта написал в 1955 году американский компьютерный ученый Джон Маккарти со своими коллегами — к классическому уже Дартмутскому семинару по вопросам искусственного интеллекта, что, собственно, основал эту область науки. Проблема, писали они, "заключается в том, чтобы способ вырабатываемого машиной поведения можно назвать разумным тогда, если человек в этой ситуации имел бы такое же поведение."
Обратите внимание на контрфактичность: если человек имел поведение в такой способ, то мы можем назвать такое поведение умным. Определение не утверждает, что искусственный агент умный, а говорит, что человек должен бы достичь той же цели. Иная интерпретация — это заблуждение, что пахнет идолопотворством. Это если бы сказать, что река, чтобы достичь моря, бежит наилучшим из возможных путей, устраняя препятствия на своем пути; но если бы это делал человек, то считалось бы, что такое поведение является разумным; таким образом можно сказать, что поведение реки является разумной.
Весь и единственный смысл в том, чтобы выполнить задание так, чтобы результат был таким же добрым и лучшим — если бы его достиг человеческий разум. Не вопрос "как" — только результат. Вот почему искусственный интеллект — это не о репродукции, а о замене человеческого разума. Посудомоечная машина не моет утварь, как это делаю я. Но в итоге ее чистая утварь ничем не отличается от моего — а может, и чище. Так же и AlphaGo не играет в Го так, как Ке Цзе, первый номер в мире, но все равно выигрывает.
Искусственный интеллект — это продолжение ума другими средствами. Итак, автономным автомобилем не управляет гуманоид, сидящий за рулем; технология в целом переосмысливает автомобиль и его среду.
Именно благодаря этому искусственный интеллект может осваивать задачу каждый раз, когда это может быть достигнуто без понимания, осознания, чувствительности, интуиции, опыта или даже мудрости. Короче говоря, именно тогда, когда мы перестаем пытаться воссоздать человеческий ум, мы можем успешно его заменить. Иначе AlphaGo никогда не стал бы настолько лучше каждого, кто играет в Го.
Маккарти знал это очень хорошо. Поэтому он сетовал, чтобы не рассматривать шахматы как аргументацию в пользу искусственного интеллекта. Он был прав. Не аргументация. Но он ошибался в мнении, что по этой причине это не является его хорошей возможностью. Так же и с AlphaGo. Если это непонимание устранить, то перед нами три очевидные развития.
Во-первых, искусственный интеллект должен перестать только выигрывать в играх, а должно использоваться для "игрофикации" таким образом, чтобы принести что-то, что может быть превращено в игру в меру его возможностей. На месте DeepMind я нанял бы команду геймдизайнеров.
Во-вторых, в контексте игрофикации искусственный интеллект будет играть только с искусственным интеллектом — а их внутренние взаимодействия могут стать слишком сложные, чтобы быть вполне понятными внешним поклонникам. Мы можем наслаждаться просмотром игры искусственных интеллектов так, как мы наслаждаемся игрой Баха.
И напоследок, стоит надеяться, что там, где искусственный интеллект является лучшим игроком, человеческий разум будет играть другую роль. Он будет меньше решать проблемы, а больше решать, какие проблемы решать и почему.
Автор Лучано Флориде является директором Лаборатории цифровой этики Оксфордского университета
The Financial Times