ЕС хочет автоматически просматривать истории чатов и опубликованные фото на всех смартфонах. Сейчас речь идет о предотвращении насилия над детьми, а также целью является борьба с терроризмом. Критики говорят, что это и не защищает детей, и не предотвращает другие преступления, пишет Die Welt.
Когда Apple опубликовала план противодействия изображениям насилия над детьми в августе на своих устройствах, компания, по-видимому, не ожидала значительного сопротивления. На первый взгляд, идея казалась полезной: разработчики Apple хотели предотвратить распространение изображений и видео, демонстрирующих насилие над детьми, но в то же время сохранить неограниченное шифрование чатов и файлов своих пользователей.
Такое решение Apple назвала ССК - «Сканированием на стороне клиента» (Client Side Scanning, СЅЅ). То есть изображения и содержание чатов должны были собирать и проверять на устройствах пользователей еще до шифрования данных для передачи.
Тем ошеломленнее была Apple, когда защитники данных и исследователи безопасности разразились возмущением. Ибо, как говорили критики, например, известные исследователи из Массачусетского технологического института и Кембриджского университета, с помощью этой технологии разработчик установит программное обеспечение для слежения промышленного масштаба на устройствах всех пользователей.
По словам критиков, то, что они будут искать, будет находиться лишь в руках Apple и национальных законодателей и органов безопасности, которые могут давить на компанию. Поэтому из-за критики техногигант пока что отозвал этот проект.
Однако несмотря на это, по крайней мере в Европейском Союзе, технология мониторинга ССК может вскоре появиться на устройствах пользователей, предупреждают парламентарии ЕС, например депутат от Пиратской партии Германии Патрик Бреер. Ведь государства-члены ЕС предпочитают как можно быстрее контролировать чаты и медиаконтент в сетях крупных интернет-концернов. Соответствующий законопроект сейчас рассматривает комиссар по внутренним делам ЕС Илва Йоханссон.
"Американские концерны, такие как Facebook, годами тайно практиковали контроль чатов на своих серверах", - говорит Бреер в разговоре с Die Welt. В то же время почти все службы сообщений основываются на сквозном шифровании. Поэтому, например, у WhatsUp и Signal контроль больше невозможен. К тому же теперь интернет-сервисы подпадают под тайну телекоммуникаций, поэтому на самом деле производители больше не могут сканировать информацию.
Контроль чатов должен стать обязательным
Но это раздражает политиков, которые занимаются вопросами безопасности ЕС. Концерны также хотели бы и дальше контролировать, для чего используют их услуги. «Американские провайдеры обратились к Еврокомиссии в 2020 году с просьбой легализовать такие действия. В результате прошлой осенью ввели специальное разрешение на сканирование содержания личных чатов", - говорит Бреер.
Временное спецразрешение вышло с сообщением для всех операторов: ЕС намерен разработать постоянное законодательство, которое сделает контроль чатов обязательным.
Согласно с текущим проектом, в будущем всем поставщикам чат-программ придется уже на самом устройстве установить контрольное программное обеспечение, которое с помощью искусственного интеллекта будет определять, обмениваются ли собеседники запрещенными изображениями. Различать должны также так называемый кибергруминг, то есть незаконное соблазнение детей взрослыми.
Примерно в прошлом году похожее предложение, которое предусматривало смягчение, вызвало волнения на уровне ЕС. Причиной стал проект резолюции от Германии, которая тогда председательствовала, направленный делегациям государств-членов в Европейском совете.
Поводом была не борьба против насилия над детьми, а теракт в Вене. Хотя с зашифрованными сообщениями, которыми террористы обмениваются на сервисах, как WhatsUp, Signal и Телеграм, теракт сначала не имел ничего общего, но спорили именно об этом. В документе говорилось о том, что ЕС и дальше поддерживает надежное шифрование. И о необходимости создать "лучший баланс" между защитой приватности, с одной стороны, и борьбой против организованной преступности и терроризма — с другой.
Согласно документу, правоохранительные органы также должны иметь доступ к данным. Технические решения для этого должны «соответствовать принципам законности, прозрачности, необходимости и соразмерности». «Чтобы стратегически установить этот баланс» следует сотрудничать правительствам, промышленности, исследованиям и науке.
Инструментом контроля легко злоупотреблять
Как именно это должно работать, не определено и в текущем законопроекте. Но ССК — единственная технология, которая соответствует требованию, с одной стороны, не нарушать шифрование, с другой — обеспечивать контроль.
На то, что так ЕС внедряет технологию на всех смартфонах, которую впоследствии могут использовать авторитарные государства для контроля над диссидентами или преследования религиозных меньшинств, очевидно, не обращают внимания. Однако противостоять намерению Евросоюза чрезвычайно сложно, комментирует Бреер: «каждого, кто говорит, что это опасно и контрпродуктивно, считают защитником преступников».
Эксперты из полиции и науки скорее критически относятся к плану ЕС: они, с одной стороны, опасаются многих ложных сообщений сканеров, а с другой — функции алиби закона. Даниэль Кречмар, представитель федерального руководства Ассоциации немецких полицейских-криминалистов, говорит, что для его организации борьба с насилием над детьми «чрезвычайно важна», и в то же время он настроен скептически.
"Автоматическое сканирование по инкриминируемому контенту частным бизнесом и очень тяжелое для контроля органами безопасности обязательство об информировании создает риск того, что, с одной стороны, в фокус расследований попадут обычные люди, а с другой — компании будут выбирать для отчетов непонятные сообщения». В то же время приватизация таких инициативных расследований означает «зависимость уголовного преследования от определенных компаний, хотя на самом деле это суверенное и государственное задание».
Критически настроен к плану ЕС и Томас-Габриэль Рюдигер, глава Института киберкриминологии в Высшей школе полиции в Бранденбурге. "В конце концов это, наверное, снова коснется прежде всего несовершеннолетних", - говорит он в разговоре с Die Welt. Рюдигер ссылается на цифры криминальной статистики, согласно которым 43% зарегистрированных преступлений, связанных с детским порнографическим контентом, приходятся на самих детей и подростков.
Настоящих преступников, вероятно, не схватят
Примерно такая ситуация с «секстингом» и «порнографией в школьном дворе», когда 13-ти и 14-летние обмениваются непристойными фото. То есть если 13-летняя пришлет откровенные кадры своему 14-летнему парню, это сочтут детской порнографией.
Еще одна проблема-групповые чаты: если кто-то отправит туда проблемное изображение, а участники чата включат автоматическую загрузку, все они могут подпасть под наказание.
Настоящих преступников, которых, собственно, хотели поймать, вероятнее всего, не схватят. "Потому что они свои действия осознают и перейдут на альтернативы». Видимо, тогда снова больше будут использовать USB-накопители и носители данных», — говорит Рюдигер.
К тому же проблематично, что каждая страна имеет собственные правила, а потому пока неясно, как искусственный интеллект будет их распознавать и дифференцировать. Рюдигер вместо этого выступает за повышение осведомленности несовершеннолетних путем тренингов по медиакомпетентности, а во время анализа призывает фокусироваться только на так называемых хэш-таблицах, то есть сравнивать данные с известными изображениями детской порнографии.
Зато иначе на это смотрят те, чье внимание сосредоточено на защите детей от насилия. Как Райнер Бекер, почетный председатель Немецкого общества помощи детям. По его словам, в целом он понимает предостережения по защите данных в планах ЕС. «Но критики таких планов избегают делать акцент на том, что речь идет о сотнях тысяч изображений насилия и сотни тысяч детей, пострадавших от сексуального насилия, которые благодаря этому по крайней мере имеют шансы избежать опасностей, что и дальше им угрожают».
Если противопоставить защиту этих детей и приватность в службах сообщений, решение должно быть принято только в пользу защиты детей.
Еврокомиссия хотела представить проект 1 декабря, такой план уже был в календаре комиссара внутренних дел ЕС Йоханссон. Но учитывая сопротивление, этого не произойдет - теперь должны внести очередные улучшения.