В этом году на YouTube появилось видео, на котором Франсуаза Арди, французская певица, объясняла, почему президент США Дональд Трамп заставил своего пресс-секретаря Шона Спайсера соврать о численности толпы во время инаугурации. Спайсер, по ее словам, привел «альтернативные факты» относительно этого.
И все бы ничего, но Франсуаза Арди, которой сейчас 73, имеет вид 20-летней, а голос, что исходит из ее уст, принадлежит советнице Трампа Келлиенн Конуэй.
Видео под названием «Альтернативное лицо v. 1.1» скачал немецкий художник Марио Клингман. Цифровой призрак Франсуазы Арди в нем озвучивает интервью Келлиенн Конуэй канала NBC. Видео некачественное, шаткое и пикселированное. Но Клингман умышленно не нанес себе хлопот с графическими редакторами, чтобы продемонстрировать возможности цифрового алгоритма под названием «генеративная соревновательная сеть» (Generative adversarial network, GAN). Ведь видео автоматически сгенерировала компьютерная программа на основе старых музыкальных клипов Франсуазы Арди. Это – реалистичная запись того, что на самом деле никогда не происходило.
Эксперимент Клингмана является предвестником мрачного будущего, в котором невозможно будет отличить истину от заблуждения. Вера в правдивость написанного слова все больше подвергается атакам от того, что мы называем фейковыми новостями. Но фото - и видеодоказательства для многих людей еще до сих пор остаются чем-то внутренне правдивым.
GAN – это начало технологической волны, которая имеет все шансы разрушить.
Подделать голос – проще всего. Компьютерная программа может сгенерировать голос любого человека. Для этого ей достаточно послушать его запись, она, следовательно, разбивает на микрофрагменты, которые комбинирует в слова и предложения. Чтобы сымитировать голос Трампа, достаточно передать машине записи его речей и продиктовать текст, который вы бы хотели вложить ему в уста. Такие технологические компании, как британская DeepMind, Институт глубинного обучения китайского цифрового гиганта Baidu и Институт цифровых алгоритмов в Монреале, уже создали очень реалистичные алгоритмы цифрового вещания. Правда, они еще требуют вычислительных мощностей, которые сегодня доступны только крупным компаниям, но это может измениться уже в ближайшем будущем.
Создавать искусственные изображения несколько сложнее. Программу GAN в 2014 г. создал студент Института цифровых алгоритмов Йен Гудфеллоу под руководством одного из пионеров технологии глубинного обучения Иошуа Бенджио. Хотя предыдущие алгоритмы машинного обучения позволяли компьютерам достаточно легко различать рисунки, например, кота и собаки, программе никак не удавалось сгенерировать правдоподобное изображение животного на основе тренировочных иллюстраций в ее памяти.
Чтобы решить эту проблему, Гудфеллоу использовал привычную для человеческого общества идею – соревнование. Вместо того, чтобы требовать от программы создать нечто в вакууме, он дополнил ее цифровым противником, который инспектировал сгенерированные изображения и решал, насколько они правдоподобны. Отталкиваясь от противника, программа в конце концов научилась создавать довольно правдивые изображения.
Сегодня GAN может сгенерировать небольшие, размером с марку, изображения птиц. Скажите программе, что вам нужна белая птичка, у нее должно быть немного черного на голове и крыльях и длинный оранжевый клюв, – и машина нарисует такую птичку специально для вас. Рисунки, конечно, еще далеки от идеальных, но на первый взгляд кажутся вполне правдивыми.
Хотя изображения птиц размером с марку имеют мало шансов перевернуть общество, вещи быстро меняются. За минувшие пять лет программы, которые работают на таких же алгоритмах, позволили уменьшить количество ошибок при распознавании фотографий с 25% до всего нескольких процентов. Майк Тука, художник, который работает с программами машинного обучения в лаборатории Google, сумел сгенерировать изображение человеческого лица с разрешением 768 пикселей на дюйм, что вдвое превышает все предыдущие достижения.
Гудфеллоу ожидает, что уже через три года наступит нашествие на YouTube искусственных видео, которые невозможно отличить от настоящих. Другие исследователи говорят про более длительные сроки, однако все сходятся на мнении, что это вопрос «когда», а не «если». «Я думаю, что искусственный интеллект изменит содержание доказательств, которым мы привыкли доверять», – говорит Гудфеллоу.
Технологии, однако, порождают не только новые виды фейков, но и способы борьбы с ними. Один из способов верификации заключается в возможности загружать файлы с исходными данными о том, когда, где и как они были сняты. Эта информация дает возможность удалить ложную фотографию или видео на основе, например, несовпадения с известными местными условиями в указанным временем.
Компания NVIDIA, которая производит чипы, на которых работает много технологий в сфере искусственного интеллекта, в 2014 г. проанализировала фото высадки «Аполлона-11» на Луну. Симулируя распространение света, специалисты NVIDIA доказали, что странные блики на скафандре База Олдрина на самом деле являются солнечным светом, отраженным поверхностью Луны, а не, как думают сторонники теории «лунного заговора», огнями съемочной аппаратуры Голливуда. Другой способ определения подлинности видео – криптография. Аппаратура, которая снимала видео, может зашифровать в него уникальный ключ, который удостоверяет его подлинность.
В Международной амнистии уже длительное время имеют дело с некоторыми из этих проблем. В ее лаборатории проверяют изображения и видео со сценами нарушение прав человека. Используя данные Google Earth, ее специалисты проверяют фоновые ландшафты и определяют, является ли та или иная фотография или видео были сняты именно в том месте, а не где-либо. Кроме того, с помощью поисковой системы Wolfram Alpha они отслеживают погодные условия и определяют, совпадают ли они с условиями на видео. Как правило, к Амнистии попадают старые доказательства, которые выдают за новые, однако теперь им придется иметь дело и с искусственно сгенерированными.
История поддельных снимков такая же древняя, как и история фотографии. «Несмотря на презумцию правдивости, которая наделяет все фото авторитетностью, работа фотографа часто не являются исключением из шаткой коммерции между искусством и правдой», – пишет Сьюзан Зонтаг в своей книге «О фотографии». Но цифровые технологии выводят эту «коммерцию» на высший уровень: трудоемкий процесс наведения объектива на реальность теперь можно вообще пропустить.