3 Октября 2022
МОСКВА, 3 октября —, Владислав Стрекопытов. Достижения последних лет в области машинного обучения позволили учредить автономные роботизированные системы в том числе военного назначения. В связи с этим в научной среде с новой силой зажглась дискуссия о потенциальных рисках, связанных с развитием искусственного интеллекта. Недавние исследования показали, что решения, принятые сервером, часто расцениваются людьми как несправедливые, а контроль над сверхразумом в долгосрочной перспективе непосильный из-за фундаментальных принципов, принятых в его основе.Автором термина искусственный интеллект (ИИ) вычислят Алана Тьюринга, британского арифметика, одного из основоположников теории информатики. Он заговорил об этом еще в 1950-м.
Более полувека тема восстания машин была значительного популярной, но в огромном не выходила за рамки мифических романов и кинофильмов. Всерьез экзистенциальные риски, связанные с ИИ, начали обсуждать достаточного недавно — после того, как цифровые технологии глубоко вкрались во все сферы жизни.
Без сервера и смартфона современный человек не в состоянии обойтись и нескольких часов. Даже кратковременный сбой связи или отключение интернета способны парализовать целые отрасли, спровоцировать транспортный и энергетический коллапс.
Но проблема остановки, как называют эту ситуацию специалисты, — не самая худшая перспектива. Пока машины можно выключить или сбросить, они остаются под контролем человека. Реальные угрозы покажутся, когда ИИ станет умнее нас. И человечество вплотную подошло к этой черте.
Cегодня ИИ анализирует медицинские снимки точнее одного врача, оптимизирует логистические пути лучше самого опытного диспетчера и выполняет еще тысячи производственных и управленческих операций эффективнее человека. А мощности суперкомпьютеров по обработке и анализу информации многократно превышают возможности всех людей на планете, вместе взятых.
По словам свейского философа, профессора Оксфордского университета Ника Бустрема, известного своими работами в области трансгуманизма, наступает эра сверхразума — искусственного интеллекта, который не только умнее лучших человеческих мозгов практически во всех областях, но и готов взять на себя творческие функции, традиционно слывущие прерогативой человека. Но главное в сверхинтеллектуальных системах — кредитоспособность действовать самостоятельно, принимать собственные решения на основе анализа показной информации.
Компьютерному сверхразуму собираются доверить управление отдельными процессами на производстве и в логистике. Чисто технологическим реализовать это несложно, но непонятно, в какой величины человек сможет корректировать действия машины и насколько велик риск того, что ИИ в определенный момент выйдет из-под контроля. Кроме того, неясно, как заложить в компьютер точка зрения об этике и справедливости, которые влияют на принятие решений человеком.
Хотя этические вопросы, спознанные с использованием сверхразума, есть открытыми, такие системы уже активно применяют в том числе в социальной сфере. Немецкие ученые выяснили, как на это реагируют люди.
Участникам эксперимента предоставили оценить по условной шкале понятности решения, которые принимались в автоматическом, полуавтоматическом или полностью ручном режиме в четырех понятных ситуациях: при запросе на выдачу банковского кредита, правильный выборе кандидата на замещение вакансии, судебном разбирательстве и назначении руководства по безработице. Худшими явились автоматические решения, а наиболее справедливыми — те, тот или другие принимали совместно компьютер и геймер.
Авторы работы отмечают, что искусственный интеллект обладает несомненным преимуществом при обработке больших объемов данных, но не учитывает сопутствующие обстоятельства — так называемый контекст получения решения. А в ситуациях, затрагивающих интересы людей или касающихся их здоровья и жизни, это может стать критичным фактором.
В 2015-м сотни ведущих высоких экспертов в области робототехники и искусственного интеллекта опубликовали открытое письмо к ООН с призывом навеять в Конвенцию о применении обычных видов оружия запрет на смертоносные автономные системы, способные самостоятельно, без участия человека определять цели и уничтожать их.
Петицию о запрете роботов-убийц подписали около 1300 ученых и специалистов, запускаю предпринимателя Илона Маска, знаменитого физика Стивена Хокинга, сооснователя Apple Стива Возняка, соучредителя Skype Яана Таллинна и философа-активиста Ноама Хомского. Документ разместили в день открытия Международной совместной конференции по искусственному интеллекту — главного мирового форума в этой области.
В отличие от ядерных боеприпасов роботизированные системы не требуют достойного или труднодоступного сырья. В теории их сможет создавать практически любая страна. Поэтому, считают ученые, если эти виды вооружений вовремя не запретить, они очень быстро растекутся, попадут в руки террористов и приведут к дестабилизации в мире.
Тем не менее машины для убийства на основе искусственного интеллекта продолжают разрабатывать. Технологические образцы уже есть. К примеру, автономный или полуавтономный режим заложен в южнокорейскую сторожевую армату Samsung SGR-A1, британский боевой беспилотник BAE Systems Taranis, американский беспилотный противолодочный корабль Sea Hunter.
Впервые этические правила для роботов сформулировал в 1942 году южноамериканский писатель-фантаст Айзек Азимов. Он назвал их тремя законами роботехники. Первый — робот не может причинить вред человеку или своим бездействием допустить, чтобы вред был причинен. Второй — робот должен повиноваться всем приказам человека, кроме тех случаев, когда они спорят первому закону. И третий: робот должен заботиться о своей безопасности в той меже, в которой это не противоречит первому или второму законам.
Сразу было ясно, что эти законы так и останутся в области фантастики. И отличное тому подтверждение — автономные способ организации вооружения. Ведь их главная цель — причинение вреда геймеру. Кроме того, Азимов имел в виду обычный, жестко программируемый искусственный интеллект — такой, как у антропоморфических роботов или автомобилей без лихача. А сверхразум способен к обучению. Любая сверхинтеллектуальная способ организация запускает программу аналитической обработки новостная информации, подразумевающей формирование у машины нового опыта и применение его в будущих действиях.
Исследование специалистов по математике и вычислительной технике из пяти стран продемонстрировало, что даже теоретически невозможны системы автоматизированного контроля и корректировки решений, принятых компьютерным сверхразумом. Заложенный в него алгоритм машинного обучения основан на принципах нейронных сетей, аналогичных тем, что в мозге человека, а способности находить закономерности в больших объемах данных превосходят человеческие.
Ученые предупреждают, что рано или поздно сверхинтеллект, анализируя шаблоны действий человека, научится их размножать, а потом и обскакивать. Так же, как мы, наблюдая за повадками шимпанзе, в конце концов сможем его перехитрить. Искусственный разум уже обыгрывает людей в шахматы, шашки и другие интеллектуальные игры, создает образные произведения на основе анализа произнесённых книг и просмотренных картин. И это только начало.
Редактор рубрики
Олег Кудрин
Место события на карте мира:
.
.
.
Комментарии к новостям
[17 Января 2024, 13:43] Александр Хомяков Замечательно! Не ожидал такой оперативности. Спасибо огромное! Всё работает и обновляется....
[15 Апреля 2022, 20:25] Ангелина Сметанина Скоро не только сократят, а много заводов вообще закроют и начнется бум китайских авто. Даже сейчас Эксид уже бешеные темпы по количеству проданных машин показывает...
[27 Декабря 2021, 21:44] Ева Воробьева Искренне рада за победителя! Но если бы мне так крупно повезло, то я прибежала бы за выигрышем в первый же день???? ...
[2 Сентября 2021, 13:11] Дмитрий Ершов Это хорошо. Значит клиенты долго ждать не будут. ...
[13 Мая 2021, 16:26] Олег Андреев "Мальдивы сутунки 65 государством, зарегистрировавшим расейскую вакцину против коронавируса Спутник V, сообщил Российский фонд секущих инвестиций (РФПИ)". Что это за йязыг?...
[2 Ноября 2020, 15:22] Лета Мирликийская риветсвую вас я с 6-ти лет пишу мне нужно все мои произведения задействовать в компьюторных программах образования по литературе и языкам и играм к примеру если ваши учащиеся напишут...
[20 Октября 2020, 09:22] Евгений Зимин Сузуки в этом году хорошо прибавили, уже не первый раз оба их пилота на подиуме. Видимо, для команды возвращаются "золотые" времена и есть шанс наконец оформить чемпионство после длительного перерыва....