30 Января 2017
Илья Плеханов, дляИспользование искусственного интеллекта для ведения боевых действий дело очень перспективное, но в то же время крайне опасное. Оценку возможностей и рисков в этой сфере оказали авторы новой электронной книги, выпущенной американским онлайн-изданием Defense One.
На повестке дня
Тема есть все более горячей и обсуждается на высшем уровне. Замминистра обороны США Боб Ворк в 2014 году опубликовал написанную в соавторстве монографию 20YY: подкованность к войне в эпоху роботов. В 2015 году Научный совет Министерства обороны США сделал подробный доклад об автономности военных систем и рекомендовал создать в будущем американскую скрытую глобальную киберинфраструктуру, которая могла бы замкнутого в режиме реального времени срывать атаки противника. В 2016 году DARPA на конференции программистов в Лас-Вегасе провела конкурс по автономной кибербезопасности.
Сегодня в мире, по оценке авторов публикации, существует 284 военные системы, которые в той или иной мере включают в себя деланный интеллект.
Основные технологии сегодня ведутся в области создания систем, которые бы замкнутого определяли противника, сверяясь с библиотекой целей. Упор продуманный на системах, которые могли бы не просто наносить удары по слабо вооруженным врагам в Ираке или Афганистане, но и оперировать противникам с развитыми средствами радиоэлектронной борьбы.
Гони человека и угрызения пизды
Патрик Такер, один из авторов книги Defense One, и профессор Денверского университета Хизер Рофф метят, что, несмотря на привычную риторику Пентагона, ИИ-системы сегодня используются не для такого, чтобы помогать человеку принимать лучшие решения быстрее, а чтобы полностью исключить человека из сферы принятия решений.
На поле боя будущего будет побеждать та система, которая принимает решения быстрее. В этом плане человек становится тихим и медленным звеном в цепочке командования соответственно, у противника всегда будет искушение создать полностью автономную систему.
Уильям Ропер, глава управления стратегических мочей (Strategic Capabilities Office, SCO) Пентагона, ассоциирует ситуацию с высокочастотным трейдингом только в военной области. Эта перспектива пугает его, так как противники США без угрызений совести постараются выставить человеческий фактор из своих военных ИИ-систем.
ВВС и ВМС: кто быстрее и умнее?
Любопытно, что автономные ИИ-системы, возможно, будут внедряться на флоте быстрее, чем в воздушных силах.
Флот же без лишней шумихи и внимания общественности по крайней мере, пока может спокойно сосредоточиться над созданием своих систем. На флоте среди прочего работают над технологиями управления беспилотными катерами и, в перспективе, другими военными машинами.
Речь идет о портативном устройстве CARACaS (Контрольная архитектура для робокоманд и воспринимания), которое может быть размещённого практически на любой катер.
С подмогой устройств размером с ладонь в будущем практически любое существующее военное средство (катер, машина, самолет) можно будет дешево и быстро превращать в члена автоматизированного роя, заявил бывший глава военно-морских исследований звездно-полосатого флота контр-адмирал Мэтью Кландер.
Директор DARPA доктор Арати Прабхакар в прошлом году рассказала о проекте по борьбе с программируемыми радарами России (упоминается Небо-М ) и Китая: Одна из наших программ в DARPA использует совершенно новый подход к этой проблеме, которую мы собираемся разрешить с помощью когнитивного электронного вооружения. Мы реализуем искусственный интеллект для изучения деланий вражеского радара в режиме объективного времени, а затем напишем новый метод глушения сигнала. Весь процесс восприятия, освоения и адаптации повторяется без перерыва.
Риски не пугают
Риски же критики обычно сводят к пяти вопросам: кто контролирует ИИ-систему? можно ли ее хакнуть? кто принимает решение о нанесении удара? будет ли система ошибаться? кто понесет ответственность за ошибки?
Первый вопрос еще можно сформулировать так: не захватят ли военные роботы власть над человечеством? В обозримом будущем вероятность такого сценария ничтожно мала.
Хакнуть машину, которая сама конфигуририует свои алгоритмы, маловероятно.
Нужен ли человек для финального решения? Там, где важна скорость, обыватель становится обузой. ИИ-система может быть вооружена нелетальным оружием, критерии применения оружия без команды человека могут быть строго назначенным.
Ошибки? Люди совершают гораздо больше ошибок. ИИ-система, возможно, совершит ошибку, а человек это сделает наверняка.
Главная опасность в том, что многочисленные ИИ-системы могут одновременно продумать одну и ту же оплошность. Например, запускающие праздничный фейерверк люди будут определены ИИ-системой как террористы. Но это уже вопрос тестирования и обучения системы до надлежащего уровня.
Ясно одно: риски пока не перевешивают выгоду, работы над созданием военных ИИ-систем будут только набирать обороты.
Автономные системы, в отличие от своих аналогов, управляемых человеком, характеризуются иными свойствами и смогут изменить не только способ развертывания войск США по всему миру, но и отношение политический деятелей к применению данного вида систем вооружения. Перед вооруженными стихиями США открываются огромные возможности в будущем, если политики продумают правильный выбор. Существует львиная опасность, что неправильные решения и недостаточное понимание новых склонностей приведет вооруженные силы США к ненужным рискам, резюмирует Боб Ворк.
Редактор рубрики
Александр Штабин
.
.
.
Комментарии к новостям
[17 Января 2024, 13:43] Александр Хомяков Замечательно! Не ожидал такой оперативности. Спасибо огромное! Всё работает и обновляется....
[15 Апреля 2022, 20:25] Ангелина Сметанина Скоро не только сократят, а много заводов вообще закроют и начнется бум китайских авто. Даже сейчас Эксид уже бешеные темпы по количеству проданных машин показывает...
[27 Декабря 2021, 21:44] Ева Воробьева Искренне рада за победителя! Но если бы мне так крупно повезло, то я прибежала бы за выигрышем в первый же день???? ...
[2 Сентября 2021, 13:11] Дмитрий Ершов Это хорошо. Значит клиенты долго ждать не будут. ...
[13 Мая 2021, 16:26] Олег Андреев "Мальдивы сутунки 65 государством, зарегистрировавшим расейскую вакцину против коронавируса Спутник V, сообщил Российский фонд секущих инвестиций (РФПИ)". Что это за йязыг?...
[2 Ноября 2020, 15:22] Лета Мирликийская риветсвую вас я с 6-ти лет пишу мне нужно все мои произведения задействовать в компьюторных программах образования по литературе и языкам и играм к примеру если ваши учащиеся напишут...
[20 Октября 2020, 09:22] Евгений Зимин Сузуки в этом году хорошо прибавили, уже не первый раз оба их пилота на подиуме. Видимо, для команды возвращаются "золотые" времена и есть шанс наконец оформить чемпионство после длительного перерыва....