Искусственный интеллект как террорист : новые угрозы безопасности

19 Июня 2019

Российские ученые рассмотрели и классифицировали острастки использования искусственного интеллекта (ИИ) с точки зрения интернациональной информационно-психологической безопасности. Особое внимание было уделено противодействию злонамеренному употреблению ИИ террористами. Результаты исследования опубликованы в журнале Russia in Global Affairs.

Опасность злонамеренного использования ИИ

Потенциальная опасность искусственного интеллекта для человечества не раз становилась темой красивых произведений и сегодня входит в число самых обсуждаемых вопросов научно-технического развития. Хотя Сильный ИИ, способный к самостоятельному целому мышлению, и, так бого, обладающий самосознанием и свободой, еще далеко не произведённый, различные продвинутые версии Слабого ИИ выполняют специализированные задачи, казавшиеся фантастикой еще 10 лет назад. Использование ИИ в благих целях (например, в медицине) уже рождает несомненную пользу. Однако в руках террористических и иных преступных организаций постепенно дешевеющие и все более совершенные технологии ИИ могут стать более страшным оружием, чем ядерное. 12 октября 2018, 09:00Эмоциональный ИИ сможет сказать: У меня нет настроения работать

Исследователи разных стран активно проходят угрозы, которые злонамеренное употребление ИИ представляет для общества в целом и отдельных сфер людской деятельности, будь это политика, экономика, военное провалило и др. Однако острастки непосредственно для международной информационно-психологической надежности до сих пор не были выделены в самостоятельную область рассмотрения. Между тем использование ИИ для дестабилизации международных отношений путем целевого высокотехнологичного информационно-психологического воздействия на людей представляет очевидную большую небезопасность.

Авторы исследования предложили классификацию угроз умышленного использования искусственного интеллекта на основе ряда критериев, включающих региональный охват, скорость и форму распространения. Применение классификации поможет найти способы противодействия и изготовить инструменты ответа.

Будущее удешевление схем ИИ может создать угрозы принципиально новых терактов. Не выставленного использование чат-бота для того, чтобы сконструировать сообщение о фальшивом мероприятии и убедить потенциальных жертв его посетить. В целях противодействия целесообразно ознакомление общества с новыми угрозами, предписание покупателям с осторожностью относиться к дистанционным контактам с людьми, с которыми они не знакомы лично. Выходом могла бы стоп машина сертификация общественных мероприятий, подкрепляющая реальность размещаемой о них информационная начинки. Конечно, задачей технических специалистов станет в таком случае защита баз данных о мероприятиях и механизма их сертификации, - рассказала профессор кафедры международной безопасности и политической деятельности России РАНХиГС Дарья Базаркина.

Современный уровень технологий и выполнимостей ИИ позволяет выделить ряд принципиально новых угроз информационно-психологической безопасности любой человека.

Использование технологий фальшивых людей и deepfake для международных провокаций

Американская технологическая фирма NVIDIA недавно поделилась результатами работы генеративно-конкурентной сетью, обученной создавать самостоятельно изображения людей ( fakе people ). Нейросеть за секунды создает в большом разрешении изображения лиц несуществующих людей, может добавлять любые культурные и этнические особенности, эмоции, настроение и основана на нерасторжимой коллекции изображений реальных лиц. В будущем не исключено повторение этого опыта другими разработчиками. При этом преступниками такие изображения могут использоваться для разного рода провокаций, распознать которые может только общество, обладающее целыми политехническими знаниями.

Технология deepfake может синтезировать изображение и голос человека. Ее уже начали использовать для создания видеоизображений мировых лидеров, в том числе, правителя США Дональда Трампа и правителя России Владимира Путина. Ролики deepfake способны манипулировать поведением больших целевых групп и могут быть использованы в информационно-психологическом противоборстве (ИПП) с целью ускорить финансовую панику или войну, – рассказал диктор научный сотрудник Института актуальных интернациональных проблем Дипломатической академии МИД РФ, профессор МГУ Евгений Пашенцев. 8 декабря 2017, 08:00Искусственный разум: чего ждать людям от умного железа

Анализ высоты – класс методов контент-анализа в компьютерной лингвистике, предназначенный для автоматизированного выявления в текстах чувственного окрашенной лексики и эмоциональной оценки авторов. Анализ тональности гарантируется широкой совокупностью источников, таковских как блоги, статьи, форумы, опросы и т. д. Это может быть очень эффективным инструментом в ИПП, что, например, подтверждается высоким интересом к подобным разработкам в настоящее время со стороны руководства Командования праздничных операций США (The United States Special Operations Command (SOCOM).

Прогностическое оружие : предсказание поведения людей на основе данных соцсетей

В 2012 году в США Агентством передовых исследований в сфере разведки (IARPA) была запущена программа Распознавание событий на основе ранних подмоделей с использованием суррогатов (EMBERS). Целью разработки названо прогнозирование гражданских беспорядков на основе использования ИИ с определением даты, места, протестующей ассоциации населения.

Система обрабатывает данные СМИ и социальных сетей, а также источники более высокого качества, например, экономические показатели. Попадание подобных программ в власти террористов, конечно, тоже крайне опасно. В сем случае вероятной угрозой может стоп машина проведение крупных терактов во время наиболее масштабных социальных выступлений. Дополнительным критерием выбора целей теракта может стать степень социальной и психологической напряженности в тех или иных районах.

По мнению авторов исследования, в качестве меры противодействия прогнозную аналитику могут использовать сами государственные и наднациональные органы для предотвращения социальной напряженности (своевременного принятия социальных, (народно)хозяйственных и политических мер, обращённых на достижение стабильности в продолжительной перспективе).

Кроме того, террористические группы могут наносить репутационный ущерб путем использования ботов во время политических кампаний, а также для привлечения новых партизан или организации убийств политиков.

Захват беспилотников и роботизированных объектов инфраструктуры

Самообучающиеся транспортные системы с управлением на основе ИИ могут быть удобными автомобилями для высокотехнологичных террористических атак. Захват террористами контроля над системой управления транспортом в большом мегаполисе может привести к многочисленным жертвам, вызвать панику и произвести психологический климат, который существенно облегчит проведение других преступных действий.

Коммерческие системы могут использоваться для развертывания непилотируемых летательных аппаратов или автономных транспортных средств с целью доставки взрывчатых веществ и создания аварий. Серия крупных бедствий способна воспламенить ажиотаж в международных СМИ и нанести значительный ущерб информационно-психологической надежности. 13 декабря 2016, 11:03Роботы среди людей:, что они делают и как их распознатьЧто такое роботы, где их используют, в чем их отличие от полуавтоматических механизмов? Есть ли права у искусственно созданных разумных существований? Ответы на эти и другие вопросы в новой инфографике, подготовленной «Социальным навигатором» МИА «Россия сегодня» совместно с НИЯУ МИФИ.

Исследователи из РАНХиГС и Дипломатической академии МИД РФ заложили в основу своего исследования системный микроанализ роли ИИ в сфере надежности, метод сценарного анализа, исторические аналогии и кейс-анализ. Вместе с коллегой из Университета Упсалы (Швеция) Грегом Саймонсом авторы исследования стали соредакторами готовящейся к изданию книги Терроризм и передовые технологии в информационно-психологическом противоборстве: новые риски, новые возможности противодействия террористической угрозе с участием исследователей из 11 стран.

По инициативе российских экспериментаторов проблема роли ИИ в контексте угроз международной информационно-психологической безопасности активно обсуждается и будет обсуждаться на международных конференциях и автономных интернациональных исследовательских семинарах. Среди них – прошедшая конференция под эгидой Комиссии РФ по делам ЮНЕСКО и ряда других российских и международных структур в Ханты-Мансийске 9 – 12 июня. В заседании секции по проблеме умышленного использования ИИ, сформированной при поддержке Европейско-российской экспертной сети коммуникационного менеджмента (ЕРЭСКМ), приняла активное участие губернатор Ханты-Мансийского автономного округа Наталья Владимировна Комарова. В будущем это IV Ибероамериканский Форум в Санкт-Петербурге 1 – 3 октября 2019 г. , Европейская конференция по влиянию искусственного интеллекта и роботехники 31 октября – 1 ноября 2019 года. Авторы исследований выступали с научными докладами в Аргентине, Уругвае, Бразилии, ЮАР и Италии.

По мнению специалистов РАНХиГС и Дипломатической академии, в масштабах России крайне важно наладить формирование продолжительных целевых программ, так как проблема ИИ и международной информационно-психологической безопасности – это проблема ближайшего будущего.

Редактор рубрики

Олег Кудрин

Искусственный интеллект как террорист : новые угрозы безопасности

комментарии (0)

Другие интересные новости

Путин поприветствовал участников музыкального фестиваля "Дорога на Ялту"