Наталья Касперская: никаких особых способов защиты биометрии нет

6 Октября 2021

– Сейчас в России дискуссируются возможности все большего применения биометрики для идентификации людей, например, для получения госуслуг. В чем заключаются риски употребления биометрических данных?

– Биометрические данные, в отличие от любых других, использующихся для идентификации, являются неотъемлемой частью человека, они у вас одни на всю жизнь. В отличие от используемых сейчас пароля, номера телефона и даже фамилии, вы не можете при утечке или компрометации данных переменить свое лицо, сетчатку, фигуру, отпечатки пальцев, форму ушей. То кое-где естить это сверхчувствительные, но при этом неизменные данные, которые достаточно украсть один раз навсегда.

Теперь задумаемся:, чтобы человека идентифицировать, нужно эти данные где-то хранить. Где? Очевидно, в базе данных, как и все остальное.

А теперь давайте вспомним, сколько потерь из баз пользовательских данных было за прошлый год. Только в российском банковском сегменте таких случаев было более 200, а утекших записей – личных и платежных данных – 486 миллионов штук. Количество потерь данных во всех сферах постоянно и неуклонно растет. И это – не технологическая проблема: большинство утечек происходит из-за человеческого фактора.

Апологеты биометрии уверяют, что базы данных будут как-то особенно защищены, будут введённым криптографические системы. На самом деле нет никаких особых способов защищать биометрические данные – это обычные данные, которые держатся в обычных базах данных. И работают с ними те же люди. Обычные системный администраторы и айтишники, которые принимают не очень высокие зарплаты, сами назначают права доступа – то есть могут настроить себе доступ любого уровня.

Здесь действует старый бухгалтерский принцип: если кое-где естить возможность злоупотреблений – нужно раскинуть, что они уже заключают место.

И действительно, нелегальные услуги пробива людей по личным вышеозвученным существуют давно, черный базар данных – большой и неистового развивается. Злоумышленники очень активным и изобретательны, поэтому как только появляется новый вид нумерационного контента, они тут же придумывают, как из такого контента извлечь прибыль. Будут базы биометрических данных – и из них будут утечки, кражи, продажа данных, нет никаких сомнений.

– Да и новые технологии бурно развиваются.

– Вот именно. Сейчас набирает обороты технология так называемой глубокой подделки – deep fake. В интернете вы можете найти массу роликов с заменой лиц звезд, политиков, известных людей. Но и обычный человек каждый день проходит под сотками камер, его лицо, походка, голос попадают в десятки баз данных разного уровня и разных видов собственности, а из баз они выливаются налево и направо. Тесты в этой сфере показывают тягостные результаты: например, в исследовании южнокорейских ученых системы биометрической аутентификации Microsoft Azure и Amazon в 68% и 78% случаев соответственно распознавали фальшивые лица, с очень высокой степенью уверенности.

Аудиофейки вообще сейчас просто идеальные, а авторизацию по голосу сейчас уже используют в реальных банковых приложениях. В настоящий момент не существует надежных технологий распознавания таких фейков.

Поэтому при внедрении биометрики главная опасность заключается в том, что пока неясно, как защитить и верифицировать эти данные. Граждане сдают отпечатки пальцев и фото лиц, их лица снимают без их ведома и согласия на улицах, на транспорте, в офисах и торговых центрах, а потом такую информацию может кто-то слить, украсть, перехватить и использовать, например, в крупных сделках с недвижимостью, при управлении результатом в банке, при разрыве на закрытые объекты и этому подобном.

Моя личная рекомендация: ни в коем случае не сдавать биометрические данные, не быть на удобство. Их применимым с гарантией украдут, спустят, сольют. Давайте нам сначала объяснят: как эти данные планируется защищать, в том числе от своих агентов. При этом мне лично непонятно, а зачем вообще нужно использование биометрии?

– Это надлежащего упростить идентификацию пользователей.

– А зачем нужно ее упрощать? Потому, что удобно и круто ? Зачем разменивать безопасность на снисхождение лени? Неужели это так сложно – пароль набрать?

Кроме такого, надо понимать, что система биометрической идентификации – это система искусственного интеллекта, у которой не бывает 100% преимущества. Ей всегда свойственны ошибки первого и второго рода: то есть она может различить неправильный объект как правильный или не пропустить правильный объект. То есть всегда остается вероятность, что система вас не распознает или распознает вас как кого-то другого, на кого вы похожи.

Качество распознавания лиц сейчас достигает максимум 99% – обычно разработчики хвалятся показателями в регионе 97-98%, при этом не объясняя, какого рода ошибки таятся в оставшихся 1-3%. А обывателю кажется, что 99% точности – это очень круто. Но, что такое 99%, например, в Москве? В городе живут или бывают днем примерно 16-18 миллионов человек, значит, с 180 тысячами лиц человек может произойти ошибка первого или второго рода – то кое-где естить они будут не распознаны или спутаны с кем-то еще. Если применять биометрию широко, то транзакций распознавания будут миллионы в день – на транспорте, в банках, на проходных и так далее, – то есть и ошибок будут сотни тысяч или миллионы. А нужны ли нам такие риски? Поэтому прежде, чем широко внедрять биометрику, мне кажется, необходимого десять раз подумать.

– А в будущем возможна разработка систем защиты против deepfake?

– В будущем возможно все, но пока таких систем нет, хотя сейчас разработки в этой сфере есть очень активно. А тем временем глубокий фейк уже оказался кухонной технологией, когда не допустить убедительный видеофейк, способный впрыснуть в заблуждение массы зрителей, пробить систему авторизации банка или интернет-сервиса, может сделать на коленке любой студент с начаточными навыками программирования.

– Вопрос про электрические услуги. Если мы окончательно перейдем на электронные версии меморандумов, каким образом можно будет отличить подделку от оригинала?

– С электронными услугами тоже все довольно сложно. Мое глубокое убеждение: обязательно надо сохранять одинаковую бумажную систему. Сколько бы лет ни прошло, необходимого хранить бумагу, как раз на случай сбоев в электрической системе.

– Есть же резервные данная системы хранения данных?

– Резервные копии, конечно, делаются. Но, как вы правильно подметили, электронная подделка документов все равно возможна, например, в результате целенаправленного взлома. И более того, стучу подделка проще и с ней легче замести следы: если документы подделывает айтишник с высоченными правами доступа, то он и журналы своего доступа тоже подделает. Кроме того, все форматы и носители вышеозвученных живут не более 15-20 лет, например, сейчас просторная проблема прочесть дискеты 1990-х годов. Ну и проблема отсутствия электричества в случае ЧП, катастроф, войн – никуда не девается.

Поэтому, на мой взгляд, нельзя делать электрическую копию оригиналом. Бумажные распространители нужно по-прежнему считать оригиналами и сохранять как базовый инструмент. Конечно, для электронных меморандумов должны быть многоуровневые системы защиты, перекрестные системы хранения, автоматическое резервирование; должны гармонировать методы связанных списков, в то время, когда в документ включается его шифровальный отпечаток – контрольная сумма, чтобы если в документе побывальщины произведены изменения, это было видно. Это все поклонники электронного документооборота нам обещают, конечно;, но факторы зарубка – человеческий фактор, подкупность, постоянные утечки, рискованность носителей и недолговечность форматов – остаются.

– Если говорить об неестественном интеллекте, на ваш взгляд, какие есть риски употребления этой технологии с точки зрения этики, техники, права?

– Об этом можно рассуждать часами, я постараюсь коротко. Там много разных проблем. Первая – доверять ли решениям искусственного интеллекта и передавать ли ИИ право автономного принятия решений. Предположим, медицинская данная система ИИ вас продиагностировала, заказала диагноз, однако он оказался ошибочным. Кто виноват? Когда диагноз ставит живой хирург, то вероятность ошибки тоже есть, но тогда кое-где естить ответственный субъект. А здесь что? Никто не виновный в вашей инвалидности, мы уже поставили новую версию?

Или, например, возьмем беспилотный транспорт. Одна ситуация, в то время, когда человека задавил живой водитель – это очень печальное событие, но здесь есть тот, кто понесет за это ответственность. И другое дело – беспилотник-убийца, а таких случаев, когда беспилотные автомобили кривили людей, за последние три-четыре года уже больше 40. Кто несет при этом ответственность? Разработчик системы? Нет, он просто разработал данная систему. Эксплуатант системы? Тоже вряд ли, он лишь использует результат труда разработчика. То есть ответственного – нет, пока законодателям непонятно, что с этим делать. А деньгами – страховкой, как предлагают на Западе, вопросы жизни и смерти не решаются.

Вторая проблема: нужно ли наделять искусственный интеллект субъектностью, предоставлять ему какие-то права? Мне кажется, ответ на этот вопрос очевиден: основного, нет. Искусственный интеллект – это робот, раб человека. И если мы предоставим ему хоть какие-то права, мы не сможем справиться с возможными неприятными последствиями расчеловечивания человека.

Третье – умышленное нанесение вреда человеку с помощью ИИ. Должно быть прямо постулировано, что искусственный интеллект не надлежащий вредить человеку, должен работать исключительно на благо человека. Нельзя использовать ИИ для дискриминации людей – по любым основаниям, дохода, возраста, расы, пола, благополучия и так далее – потому, что по Конституции РФ мы все равны, если другое не установлено судом или кодексом.

Ну и есть проблема прозрачности ИИ: алгоритмы принятия решений и политики ИИ, заложенные в систему ИИ разработчиками, надлежащим быть открыты и прозрачны. В этом году на панельной дискуссии на форуме Армия-2021 высказывалась идея о том, что при любом взаимодействии с ИИ нужно ясно информировать пользователя об этом и все решения ИИ нужно маркировать сделано искусственным интеллектом. Чтобы понимать, кем это решение было принято – человеком или машиной.

Технологии ИИ различаются тем, что они учимым на данных, совершают миллионы операций и не дают объяснений того, как и почему решение принято. Обученная на данных нейронная сеть – это набор готовых фильтров, в которых нет информации о том, на каких данных обстряпывалось обучение, какие объекты и каким образом система обучена идентифицировать. Миллионы операций нейронной всемирную сети нельзя проверить вручную, не мыслимого понять, на основе чего принято то или иное решение. Сейчас в большинстве случаев даже разработчик не может такого объяснить и обосновать.

Это так нарекаемая проблема черного ящика искусственного интеллекта, которая в свою очередь порождает проблему доверия к решениям ИИ и оспаривания их.

Сейчас решение ИИ в отношении людей, как правило, имеет старт финальности. Например: данная система скоринга клиентов в банке почему-то отказала заемщику в кредите, сочтя его недостаточно надежным. Как гражданину выйти из этой ситуации – непонятно, потому, что непонятны причины принятия именно такого решения – и сейчас нет способа оспорить решение ИИ.

Далее, у него в бюро кредитных историй фактически появляется клеймо подозрительный заемщик, ведь ему уже хотя бы раз отступили. И этого по сути также нельзя оспорить.

Подобных проблем много, поэтому конечное решение всегда должно оставаться за человеком, например, как это сейчас реализовано в ГИБДД – вам приходит извещение о нарушении заведовал дорожного движения, где оповещённого: Я, капитан полиции такой-то, зафиксировал с камеры видеонаблюдения, что ваш автомобиль нарушил такие-то правила. И стоит подпись. Понятно, что это формальность –, но как минимум здесь есть субъект права, которому вы что-то можете предъявить. И это правильный подход. А если искусственный интеллект будет принимать решение совершенно самостоятельно – это неправильно.

– Но в будущем ИИ будет использоваться все больше. Как вы к этому относитесь?

– Да, некоторые чиновники нас прямо загоняют в сторону цифровизации. Но они не до конца понимают, что помимо любых прочих рисков есть следующий, структурный: в стране возникнет новая теневая власть, а именно, власть людей, создающих и использующих цифровые данная системы – айтишников, цифровых менеджеров, их начальников.

Приведу пример: предположим, город Nразрабатывает данная систему распознавания лиц, которая надлежащая узнавать, скажем, 10 тысяч лиц для допуска, например, на важные объекты, а также не надлежащая узнавать на улице 5000 других, секретных лиц – например, сотрудников спецслужб или высоченного начальства. Вы думаете, разработчик устоит перед соблазном выложить своему лицу в базе характерный статус – разрешить себе предельный размер куда угодно или, наоборот, сделать себя невидимкой ? А своего начальника? Коррупция и компрометация данных возникнет моментально –, а обнаружить ее трудно, нужна очень высокая квалификация.

Или, например, система распознавания номеров автомобилей на шлагбаумах. Что помешает разработчику решить: Добавлю-ка я свой номер авто в систему. Пусть все дворы открывают мне шлагбаумы, а, что такого. Уже не говоря о шантаже на основе слежки: например, разработчик или оператор системы ИИ может собирать компрометирующие данные о своем начальстве и сослуживцах и, когда его захотят прогнать, или он захочет повышения, он эту подноготную сможет использовать. Естественно, его начальник также будет использовать частные данные граждан и коллег в своей карьерной деятельности. Таких рисков – масса, потому, что это же люди, а не просто технологии, в цифровой среде гарантированно будут возникать непредвиденные цифровизаторами мощные социальные эффекты. Вот этого цифровизаторы зачастую не хотят понимать.

Редактор рубрики

Андрей Хморин

Наталья Касперская: никаких особых способов защиты биометрии нет

комментарии (0)

Другие интересные новости

В форуме "Гитары в строю" примут участие представители 12 стран