Новость о том, что боты в Лаборатории исследования искусственного интеллекта (AI) компании Facebook создали свой искусственную язык, взорвало сеть. Исследователи, которые хотели научить роботов вести переговоры, заметили, что оставленные сами на себя, они создали собственный, непонятный людям язык.
Как следствие, эксперимент пришлось приостановить и перестраивать модели, чтобы они общались таки на английском (собственно, это и есть цель исследования — создать ботов, которые могли бы коммуницировать с пользователями сети Facebook). На эту новость медиа отреагировали со смесью удивления и страха. Ведь машины, которые придумывают свой язык, — это нечто не менее страшное, как и удивительное.
Этот диалог кажется ерундой. Но важно и то, что боты так и не достигли никакого результата в переговорах. Элис так и не отошла от своей изначальной позиции. Как свидетельствуют данные Facebook, иногда такие переговоры все-таки заканчиваются успешно и боты доходят до нужных результатов, — сообщают в лаборатории изучения AI. Иногда исследователи плохо настраивают свои модели — и боты выбирают неправильные стратегии ведения переговоров, хотя и общаются понятно по человеческим стандартам.
Один из способов думать об этом подает явление криптофазии, когда дети-близнецы общаются на собственном, только им понятном языке. На популярном видео 2011 года двое близнецов весело болтают между собой, а их разговор напоминает текучий, но непонятный диалог.
Лингвисты уже десятилетиями спорят о том, криптофазия — это собственно язык или только радостное лепетание, которое имитирует речь. Малыши социализированы, подражая язык, но, видимо, не сообщают друг другу ничего содержательного.
В случае с Facebook это, однако, больше напоминает именно язык, — утверждают эксперты компании. В прошлом исследователи AI уже наблюдали за тем, как машины создавали собственные языки с когерентной структурой, определенным словарем и синтаксисом, хотя и не всегда понятные по человеческим стандартам.
Читайте также: Человечество должно создать систему контроля за развитием искусственного интелекта
В статье, опубликованной в начале года на сервере препринтов arXiv, исследователи из некоммерческой организации OpenAI описали, как боты научились общаться абстрактным языком и как они обратились к невербальной коммуникации, эквивалентной жестам и указаниям, когда речевое общение стало недоступным (ботам не нужна телесная форма, чтобы общаться невербально, — они используют для этого механизм визуальной сенсорной модальности). В другой недавней статье описан эксперимент, в котором два бота изобрели собственные коммуникационные протоколы, обсуждая цвета и формы. По их словам, они наблюдали "автоматическое появление почвенного языка и... без присмотра людей".
От таких экспериментов голова идет кругом. Ведь они не только демонстрируют, как AI создает свои языки, но и проливают свет на то, как синтаксис и композиционная структура могли появиться среди людей.
Однако действительно ли то, что возникло между ботами, можно назвать языком? Как утверждает профессор лингвистики из Университета Пенсильвании Марк Либерман, "в этом случае не лингвистам решать, как можно использовать слово “язык”, хотя лингвисты и имеют свое мнение и аргументы о природе и пределы человеческих языков".
Поэтому вопрос о том, действительно ли боты с Facebook создали свой язык, зависит от того, что мы подразумеваем под словом "язык". Например, лингвисты сходятся во мнении, что знаковая речь — это отдельный тип языка, а не только приближение разговорной речи, а компьютерные языки, такие как Python и JavaScript, на самом деле не являются языками, хотя мы их так называем.
Зато Либерман поставил вопрос по-другому: может ли общение ботов Facebook (или "Facebotlish", как он ее называет) сигнализировать появление нового типа языка?
"Пожалуй, что нет, хотя еще не хватает информации, чтобы сказать наверняка, — говорит он. — Прежде всего эта речь полностью базируется на текстах, тогда как человеческие языки есть собственно разговорными или жестикулируемыми, а текст — это искусственная надстройка".
Но очень важно и то, что эти боты не такие умные, чтобы проводить параллели между ними и человеческим интеллектом (именно поэтому и термин "искусственный интеллект" может вводить в заблуждение).
"Стиль “экспертных систем” искусственного интеллекта 1970-х сегодня напоминает исторический курьез, так же как и механические автоматы XVII века. Мы можем быть уверены, что сегодняшний искусственный интеллект, использующей машинное обучение, также подобное сравнению с тем, что появится через несколько десятилетий", — считает Либерман.
"Сегодня уже реально создать искусственные миры, населенные мистическими алгоритмическими существами с коммуникационными процедурами, которые развиваются через комбинацию случайных совпадений, социальных движителей и оптимального отбора. Это так же просто, как создать заводную фигурку, что играет на фортепиано".