05.12.2016

Глубокие нейронные сети и идеальное зрение роботов: обмануть иллюзиями

Рейтинг:  0 / 5

Звезда не активнаЗвезда не активнаЗвезда не активнаЗвезда не активнаЗвезда не активна
 

Компьютеры получают все больше человеческих свойств, и недавно они научились распознавать предметы так, как это делают люди. Машины, например, могут легко создать подпись к картинке или фото или упражняются с управлением авто. Однако коллекция оптических иллюзий для искусственного интеллекта показала, что машины видят иначе, чем люди. И это открывает путь к опасным уязвимостям.

Алгоритмы распознавания изображений сегодня тренируются на огромных массивах картинок, на которых они учатся идентифицировать шаблоны, присущие тем или иным объектам. Например, у кота и чашки будут разные геометрические формы и различные шаблоны.

Одним из самых популярных таких алгоритмов распознавания являются глубокие нейронные сети (DNN), которые способны не только идентифицировать, но и сами придумывать образы. Последнее они пока что делают с помощью людей-помощников, но Джефф Клун из Университета Вайоминга попытался заменить последних другой программой.

Устранение людей и передача всей работы искусственному алгоритму обнаружило, что роботы видят совсем не так, как мы. «Мы ожидали, что получим такие же результаты - много качественных снимков, на которых можно распознать объекты, - говорит Клун. - Зато мы получили странные изображения, например, гепарда, который не выглядит, как гепард».

Зрение роботов легко обмануть. Для своей работы Клун использовал одну из лучших глубоких нейронных сетей, что существуют, под названием AlexNet. Ее в 2012 году создали в Университете Торонто, и производительность этого решения поразила представителей Google, которые предложили ученым работу на поискового гиганта.

Оказалось, что при незаметных для человека изменениях в изображении AlexNet ошибочно определял их с уверенностью в 99% как такие, что содержат животное. А в некоторых случаях вместо правильного объекта глубокая нейронная сеть видела бейсбольные мячи, электрогитары или бытовое принадлежности.

Ученые говорят, что такое поведение объясняется отличием между человеческим и машинным видением. Если мы идентифицирует того же гепарда, взглянув на все его тело (форму, цвет и т.п.), то DNN интересуется только теми частями, которые больше всего отличаются от других. «Это как бы то, что роботы являются большими фанатами искусства в стиле кубизма», - говорит ученый.

Оптические иллюзии. Ученые говорят, что не стоит удивляться возможности обмануть зрение компьютера или робота - человеческий глаз именно постоянно становится жертвой оптических иллюзий. «Все оптические иллюзии - это как бы излом визуальной системы человека, - рассказывает ученый. - Мы также заставили компьютер видеть то, чего не было на самом деле».

Однако оптические иллюзии в машинах - это не только интересная игрушка. Их изучение и исследование различий с человеческим зрением может больше рассказать о нас самих. Так считает Йорген Шмидгубер, который работает в швейцарском Институте искусственного интеллекта. «Эти нейронные сети открывают то, что нейрологи исследуют в людях через несколько десятилетий, как только наука позволит считывать синапсы в человеческом мозге», - говорит он.

Однако к тому времени более важным является вопрос, как придать машинам иммунитет против оптических иллюзий. Ведь если компьютеры можно обмануть статичными фотографиями, тогда злоумышленник может, например, пройти систему биометрического контроля, которая распознает лица. Или он может заставить автомобиль с автопилотом увидеть дорогу, которой не существует. «Через это оказывается уязвимой каждая программа, которая использует такой тип компьютерного видения», - говорит Клун.

  1. Последние
  2. Популярные
Загрузка...

Новости технологий сегодня

Наш сайт посвящен новостям в сфере высоких технологий, а также инноваций в мире интернета, автопромышленности.

Представлены материалы по развитию технологических компаний и стартапов. Интересным будет информация по настройке и хакингу гаджетов и устройств на Android, Apple iOS и прочее. Покажем как правильно выбирать устройства для покупок.

В процессе наших экспериментов с сайтами по оптимизации и настройке, в рубрике Вебмастер Мы делимся своим опытом в том как создать свой сайт на популярных платформах Joomla, Wordpress, настроить его и оптимизировать.

Самые популярные метки