18 Декабря 2019
МОСКВА, 18 декабря Применение искусственного интеллекта сопряжено с возникновением ряда серьезных рисков, например, в вопросах защиты персональных этих, заявил в интервью зампред ЦБ РФ Василий Поздышев.Могу назвать как минимум следующие риски, связанные с употреблением искусственного интеллекта. Во-первых, даже самую сложную нейросеть можно взломать. У продвинутых нейросетей есть одна очень нехорошая странность, которую в профессиональных кругах называют высокой чувствительностью к малым возмущениям. Это способность нейросети радикально переклассифицировать объект из одной категории в другую при незначительном изменении одного из его малых параметров, - сказал Поздышев.
В качестве примера он привел ситуацию, когда большинство нейросетей, решающих задачу биометрической идентификации, способно отличить мужчину от девушки или одного человека от другого, но если на лицо прилепить кусочек лейкопластыря и добавить на нем слово STOP, то некоторые нейросети переведут эту картинку из категории лица в категорию дорожные знаки.
Во-вторых, нейросети способны создавать фейковую реальность. Например, после изучения большого количества реальных человеческих лиц нейросеть, если ей поставить такую задачу, очень легко претендует создать миллионы лиц несуществующих человечищ, их голоса и отпечатки пальцев – полный набор кажущихся биометрических данных, то есть можно создать целое государство кажущихся людей. И можно их сделать так, что другие нейросети будут воспринимать их как людей реальных. Аналогично можно создать несуществующие юрлица и транзакции, - отметил Поздышев.
Третий риск, по его словам, связан с тем, что применение искусственного интеллекта усложняет вопросы защиты персональных данных, поскольку появляется риск доступа к мышьякам обучающей выборки, а значит, к персональным данным, которые искусственный интеллект может вытащить из обучающей выборки.
Я вынужден говорить об этом, так как регулятор обязан думать о вероятностях. Бенефиты для общества от использования новых технологий абсолютно разборчивым. Но в этом мире никогда не бывает бенефитов без рисков, и эта ложка дегтя может оказаться вовсе не ложкой и вовсе не дегтя, - резюмировал зампред ЦБ.
Полную версию интервью читайте на сайте агентства экономической информации (медиагруппа Россия сегодня ) 1prime. ru в 10. 00 мск.
Редактор рубрики
Эдуард Добрин
Место события на карте мира:
.
.
.
Комментарии к новостям
[17 Января 2024, 13:43] Александр Хомяков Замечательно! Не ожидал такой оперативности. Спасибо огромное! Всё работает и обновляется....
[15 Апреля 2022, 20:25] Ангелина Сметанина Скоро не только сократят, а много заводов вообще закроют и начнется бум китайских авто. Даже сейчас Эксид уже бешеные темпы по количеству проданных машин показывает...
[27 Декабря 2021, 21:44] Ева Воробьева Искренне рада за победителя! Но если бы мне так крупно повезло, то я прибежала бы за выигрышем в первый же день???? ...
[2 Сентября 2021, 13:11] Дмитрий Ершов Это хорошо. Значит клиенты долго ждать не будут. ...
[13 Мая 2021, 16:26] Олег Андреев "Мальдивы сутунки 65 государством, зарегистрировавшим расейскую вакцину против коронавируса Спутник V, сообщил Российский фонд секущих инвестиций (РФПИ)". Что это за йязыг?...
[2 Ноября 2020, 15:22] Лета Мирликийская риветсвую вас я с 6-ти лет пишу мне нужно все мои произведения задействовать в компьюторных программах образования по литературе и языкам и играм к примеру если ваши учащиеся напишут...
[20 Октября 2020, 09:22] Евгений Зимин Сузуки в этом году хорошо прибавили, уже не первый раз оба их пилота на подиуме. Видимо, для команды возвращаются "золотые" времена и есть шанс наконец оформить чемпионство после длительного перерыва....