пятница, 29 марта 2024

Фейковый Трамп в руках террористов: чем грозит миру искусственный интеллект



Фейковый Трамп в руках террористов: чем грозит миру искусственный интеллект

18 Июня 2019



Российские ученые рассмотрели и классифицировали опасности использования искусственного интеллекта (ИИ) с точки зрения интернациональной информационно-психологической безопасности. Особое особое внимание было уделено противодействию злонамеренному употреблению ИИ террористами. Результаты исследования опубликованы в журнале Russia in Global Affairs.

Опасность злонамеренного использования ИИ

Потенциальная опасность искусственного интеллекта для человечества не раз становилась темой образных произведений и сегодня входит в число самых обсуждаемых вопросов научно-технического развития. Хотя Сильный ИИ, способный к самостоятельному целому мышлению, и, возможно, обладающий самосознанием и свободой, еще далеко не сформированный, различные продвинутые версии Слабого ИИ выполняют специализированные задачи, казавшиеся фантастикой еще 10 лет назад. Использование ИИ в благих целях (например, в медицине) уже приносит несомненную пользу. Однако в руках террористических и иных зазорных организаций постепенно дешевеющие и все более совершенные технологии ИИ могут стать более страшным оружием, чем ядерное. 12 октября 2018, 09:00Эмоциональный ИИ сможет сказать: У меня нет настроения работать

Исследователи разных стран активно изучают угрозы, которые злонамеренное употребление ИИ представляет для общества в целом и отдельных сфер людской деятельности, будь это политический деятеля, экономика, военное девало и др. Однако опасности непосредственно для международной информационно-психологической целостности до сих пор не побывальщины выделены в самостоятельную область рассмотрения. Между тем использование ИИ для дестабилизации международных отношений путем целевого высокотехнологичного информационно-психологического воздействия на людей представляет очевидную большую тревожность.

Авторы исследования предложили классификацию угроз враждебного использования искусственного интеллекта на усте ряда критериев, включающих региональный охват, скорость и форму распространения. Применение классификации поможет найти способы противодействия и составить инструменты ответа.

Будущее удешевление метод ИИ может создать угрозы принципиально новых терактов. Не сниженного использование чат-бота для того, чтобы сконструировать сообщение о фальшивом мероприятии и убедить потенциальных жертв его посетить. В задачах противодействия целесообразно ознакомление общества с новыми угрозами, предписание господам с осторожностью относиться к дистанционным контактам с людьми, с которыми они не знакомы лично. Выходом могла бы стать сертификация общественных мероприятий, говорящая реальность размещаемой о них речи. Конечно, задачей промышленных специалистов станет в таком шансе защита баз данных о мероприятиях и механизма их сертификации, - рассказала педагог кафедры международной безопасности и политической деятельности России РАНХиГС Дарья Базаркина.

Современный уровень технологий и возможностей ИИ позволяет выделить ряд принципиально новых угроз информационно-психологической безопасности любой человека.

Использование технологий фальшивых людей и deepfake для международных провокаций

Американская технологическая компания NVIDIA недавно поделилась результатами работы генеративно-конкурентной сетью, обученной пробуждать самостоятельно изображения людей ( fakе people ). Нейросеть за секунды создает в большом согласье изображения лиц несуществующих людей, может добавлять любые культурные и этнические особенности, эмоции, настроение и основана на безконечной коллекции изображений реальных лиц. В будущем не исключено повторение этого опыта другими разработчиками. При этом преступниками такие изображения могут использоваться для разного рода провокаций, распознать которые претендует только общество, обладающее целыми политехническими знаниями.

Технология deepfake может синтезировать изображение и голос человека. Ее уже начали использовать для создания видеоизображений мировых лидеров, в том числе, председателя США Дональда Трампа и председателя России Владимира Путина. Ролики deepfake способны манипулировать поведением львиных целевых групп и могут становиться использованы в информационно-психологическом противоборстве (ИПП) с целью спровоцировать финансовую панику или войну, – рассказал ключевой научный сотрудник Института актуальных интернациональных проблем Дипломатической академии МИД РФ, профессор МГУ Евгений Пашенцев. 8 декабря 2017, 08:00Искусственный разум: чего ждать людям от умного железа

Анализ тональности – класс методов контент-анализа в компьютерной лингвистике, предназначенный для автоматизированного выявления в текстах эмоционально окрашенной лексики и эмоциональной оценки авторов. Анализ тональности оснащается широкой совокупностью источников, этих как блоги, статьи, форумы, опросы и т. д. Это претендует быть очень эффективным инструментом в ИПП, что, например, подтверждается высоким интересом к подобным разработкам в настоящее время со стороны руководства Командования общих операций США (The United States Special Operations Command (SOCOM).

Прогностическое оружие : предсказание поведения людей на усте данных соцсетей

В 2012 году в США Агентством передовых исследований в сфере разведки (IARPA) была запущена программа Распознавание событий на основе ранних моделей с использованием суррогатов (EMBERS). Целью разработки названо прогнозирование гражданских беспорядков на усте использования ИИ с определением даты, места, протестующей аудитории населения.

Система обрабатывает данные СМИ и социальных сетей, а также источники более высокого качества, например, экономические показатели. Попадание подобных программ в ручонки террористов, конечно, тоже крайне опасно. В этом случае вероятной угрозой может стать проведение крупных терактов во время наиболее масштабных социальных выступлений. Дополнительным критерием выбора целей теракта может стать степень социальной и психологической напряженности в тех или иных районах.

По мнению авторов исследования, в качестве единицы противодействия прогнозную аналитику могут использовать сами государственные и наднациональные органы для предотвращения социальной напряженности (своевременного принятия социальных, экономически-производственных и политических мер, сконцентрированных на достижение стабильности в долговременной перспективе).

Кроме того, террористические группы могут наносить репутационный ущерб путем использования ботов во время политических кампаний, а также для привлечения новых эпигонов или организации убийств политиков.

Захват беспилотников и роботизированных объектов инфраструктуры

Самообучающиеся транспортные системы с управлением на усте ИИ могут быть удобными автомобилями для высокотехнологичных террористических атак. Захват террористами контроля над системой управления транспортом в большом населенный пункте может привести к многочисленным жертвам, вызвать панику и сформировать психологический климат, который существенно облегчит проведение других преступных действий.

Коммерческие системы могут использоваться для развертывания непилотируемых летательных аппаратов или автономных транспортных средств с целью доставки взрывчатых веществ и создания аварий. Серия крупных бедствий способна заказать ажиотаж в международных СМИ и нанести значительный ущерб информационно-психологической целостности. 13 декабря 2016, 11:03Роботы среди людей:, что они делают и как их распознатьЧто такое роботы, где их используют, в чем их отличие от автоматизированных механизмов? Есть ли права у искусственно созданных разумных существ? Ответы на эти и другие вопросы в новой инфографике, подготовленной «Социальным навигатором» МИА «Россия сегодня» совместно с НИЯУ МИФИ.

Исследователи из РАНХиГС и Дипломатической академии МИД РФ заложили в основу своего исследования системный анализ роли ИИ в сфере целостности, метод сценарного анализа, исторические аналогии и кейс-анализ. Вместе с коллегой из Университета Упсалы (Швеция) Грегом Саймонсом авторы исследования стали соредакторами готовящейся к изданию книги Терроризм и передовые технологии в информационно-психологическом противоборстве: новые риски, новые возможности противодействия террористической угрозе с участием исследователей из 11 стран.

По инициативе российских проверщиков проблема роли ИИ в отрывке угроз международной информационно-психологической безопасности динамичного обсуждается и будет обсуждаться на международных конференциях и автономных интернациональных исследовательских семинарах. Среди них – прошедшая конференция под эгидой Комиссии РФ по делам ЮНЕСКО и ряда других российских и международных структур в Ханты-Мансийске 9 – 12 июня. В заседании секции по проблеме враждебного использования ИИ, сформированной при поддержке Европейско-российской экспертной сети коммуникационного менеджмента (ЕРЭСКМ), приняла активное участие губернатор Ханты-Мансийского автономного округа Наталья Владимировна Комарова. В будущем это IV Ибероамериканский Форум в Санкт-Петербурге 1 – 3 октября 2019 г. , Европейская конференция по влиянию искусственного интеллекта и роботехники 31 октября – 1 ноября 2019 года. Авторы исследований выступали с научными докладами в Аргентине, Уругвае, Бразилии, ЮАР и Италии.

По мнению специалистов РАНХиГС и Дипломатической академии, в масштабах России крайне важно наладить формирование долговременных целевых программ, так как проблема ИИ и международной информационно-психологической безопасности – это проблема ближайшего будущего.

Редактор рубрики






комментарии (0)




Другие интересные новости


Видео новости на сегодня

Ежегодное послание президента РФ Федеральному Собранию. Сурдоперевод. Полное видео




Популярное на сегодня

Автоматизированная система анализа заголовков новостей с поиском популярных слов.
Автоматизированная система анализа заголовков новостей
Данные обновляются каждые полчаса.

Эмоции на сегодня

Анализ эмоциональной составляющей новостей.
Анализ эмоциональной составляющей новостей .

Данные обновляются каждые полчаса.

Страны и города

Соотношение количества новостей из разных точек Земли за сутки.
Соотношение количества новостей из разных точек Земли .

Данные обновляются каждые полчаса.

Валюты

Рейтинг валют участвующих в новостях.
Рейтинг валют участвующих в новостях .

Данные обновляются каждые полчаса.





Комментарии к новостям

[17 Января 2024, 13:43] Александр Хомяков Замечательно! Не ожидал такой оперативности. Спасибо огромное! Всё работает и обновляется....

[15 Апреля 2022, 20:25] Ангелина Сметанина Скоро не только сократят, а много заводов вообще закроют и начнется бум китайских авто. Даже сейчас Эксид уже бешеные темпы по количеству проданных машин показывает...

[27 Декабря 2021, 21:44] Ева Воробьева Искренне рада за победителя! Но если бы мне так крупно повезло, то я прибежала бы за выигрышем в первый же день???? ...

[2 Сентября 2021, 13:11] Дмитрий Ершов Это хорошо. Значит клиенты долго ждать не будут. ...

[13 Мая 2021, 16:26] Олег Андреев "Мальдивы сутунки 65 государством, зарегистрировавшим расейскую вакцину против коронавируса Спутник V, сообщил Российский фонд секущих инвестиций (РФПИ)". Что это за йязыг?...

[2 Ноября 2020, 15:22] Лета Мирликийская риветсвую вас я с 6-ти лет пишу мне нужно все мои произведения задействовать в компьюторных программах образования по литературе и языкам и играм к примеру если ваши учащиеся напишут...

[20 Октября 2020, 09:22] Евгений Зимин Сузуки в этом году хорошо прибавили, уже не первый раз оба их пилота на подиуме. Видимо, для команды возвращаются "золотые" времена и есть шанс наконец оформить чемпионство после длительного перерыва....

Новости шоу-бизнеса

Суд рассмотрит иск экс-супруги Бондарчука о разделе имущества

МОСКВА, 28 марта Симоновский суд Москвы 22 апреля начнет процесс по иску катерины Бондарчук (Рудской), имевшейся жены режиссера Федора Бондарчука, о разделе совместно нажитого имущества, сказали в суде. Рудская настаивает на видоизмененье соглашения о разделе имущества, нажитого в период свода. Подробности … Прочитать