29 Августа 2019
Специалистам в области создания искусственного интеллекта человеческого уровня сегодня приходится решать не только научные, но и этические проблемы. Какие вызовы стоят перед учеными? Как обезопасить человечество от тайных угроз, которые несет создание сверхмощного разума, и оказаться людьми в новом мире? Об этом корреспонденту проекта Социальный навигатор МИА Россия сегодня Анне Курской рассказал профессор Института умственных кибернетических систем Национального исследовательского ядерного университета МИФИ (ИИКС НИЯУ МИФИ) Алексей Самсонович.
- Алексей Владимирович, наш разговор проходит в рамках Международной конференции Биологически инспирированные когнитивные архитектуры BICA 2019. Какие темы дискуссий сегодня выходят на первый план в связи с созданием искусственного интеллекта человеческого уровня?
- Конференция позволила нам еще раз осознать основные вызовы в области создания искусственного интеллекта следующего поколения, который незаменимый стать равным партнером и приятелем человека.
Во-первых, вызовом можно пересчитывать создание эмоционального интеллекта человеческого ватерпаса, способного задействовать эмоции в процессах принятия решений и генерации поведения. В частности, это качество позволит машине устанавливать долговременные социальные связи, подобные отношениям между близкими людьми. Оно также позволит ей аргументировать свои действия и решения, выбирать цели и способ курс обучения.
Эмоциональный интеллект – это ключ к ответам на остальные вызовы. Он не сводится только к способностям распознавать и выражать эмоции, которыми сегодня заняты большинство исследователей, работающих в именитой области. Хотя оба эти процесса необходимы, гораздо важнее и труднее понять связь одного с другим, которую и обеспечивает эмоциональный интеллект.
Во-вторых, умственный агент должен понимать контекст выходящего. Это означает, что он должен на основе доступной ему информации самостоятельно генерировать и непрерывно обновлять глобальный сценарий прошедшего и будущего, определять какую-либо роль в нем, и далее на этой основе выставлять перед собой конкретные цели и вырабатывать планы их достижения.
В научной литературе данную способность принято величать нарративным интеллектом (не соответствует путать его с программами, работающими по заранее написанному человеком сценарию, или нарративу). 26 августа, 08:11Процесс сборки робота с человечьим сознанием уже начался
- Есть и третий вызов?
- Им станет реализация предприимчивого обучения искусственного интеллекта, который, подобно человеку, сам вырабатывает систему ценностей, мотивирующую процесс обучения, сам создаёт цели и дорожную карту курс обучения, сам выбирает средства (например, эксперименты для инспекции гипотез, поиск доступных запасов или вопросы к человеку), и, движимый индивидуальной инициативой, применяет эти средства для достижения цели. При этом машина должна быть способна самостоятельно развиваться от уровня ребенка до уровня взрослого человека и далее, до сверхинтеллекта.
Это третье направление можно было бы назвать интеллектом обучения человеческого уровня (human-level learning intelligence), чтобы отличить его от глубокого обучения и других видов машинного обучения, популярных сегодня. В моем понимании, интеллект обучения человеческого уровня станет возможным на основе эмоционального и нарративного интеллекта.
- Какие исследования вы сейчас проводите? Как продвигается ваша работа по созданию условных помощников человека и по макетированию эмоционального интеллекта?
- Мы упражняемся моделированием эмоционального интеллекта человека с целью разработки социально совместимых условных помощников человека на основе наших моделей.
Мы рассматриваем широкий ассортимент конкретных задач и направлений исследований. Например, это создание виртуального партнера в видеоигре; виртуального координатора или модератора; виртуального креативного ассистента композитора, хореографа, дизайнера, помощника решателя инсайтных задач; условного слушателя (в перспективе – виртуального собеседника);, а также виртуального домашнего животного, сопоставимого с реальным по своим социально-эмоциональным характеристикам.
Результаты здесь трудно выложить в деталях, но их можно найти в наших откинутых публикациях. При всей просторности наших попыток и успехов, нам нужен прорыв на одном направлении: в доказательстве прикладной ценности общей модели эмоционального интеллекта человека, воплощенной в умственном агенте.
Недавно наша лаборатория BICA Lab на кафедре Кибернетики в НИЯУ МИФИ обогатилась новыми методиками исследования, включая экспериментальную платформу на основе виртуальной и смешанной подлинности (с отслеживанием направления глаз испытуемого), а также электромиографии и автоматического анализа выражений лица, позволяющих нам протоколировать эмоции испытуемых, погруженных в виртуальные окружения. Большая часть наших работ сейчас проводится с использованием этих технологий. В некоторых экспериментах используются также ЭЭГ и фМРТ.
Наша ближайшая сверхзадача – доработка и эмпирическая валидация социально-эмоциональной когнитивной архитектуры Эбика (eBICA) и создание на ее основе эффектных демонстраций. Эта работа ведется в НИЯУ МИФИ при финансовой поддержке гранта РНФ № 18-11-00336. 12 октября 2018, 09:00Навигатор абитуриентаЭмоциональный ИИ сможет сказать: У меня нет настроения работать
- Недавно стартап Илона Маска Neuralink заявил о разработках, которые в перспективе могут сделать человека киборгом, способным управлять компьютером силой мысли. Насколько это направление исследований кажется вам перспективным?
- В чистим понимании, искусственный интеллект незаменимый стать, с одной стороны, равноправным партнером и приятелем человека, а с другой, расширением нормальных или сменой утраченных человеческих возможностей, включая средства на основе прямого интерфейса с мозгом человека.
В это таком случае человек буквально смог бы использовать компьютер или микрочип как часть своего мозга. И то, и другое, нацелено на благо и незаменимого быть целиком подконтрольно его продюсеру. Я желаю всяческих успехов Илону Маску.
- Насколько велика необходимость в разработке средств противостояния искусственному интеллекту?
- Я думаю, что в нашу эпоху средства искусственного интеллекта останутся подконтрольными человеку, хотя бы в силу их зависимости от их обслуживания человеком и обеспечения их всем необходимым. Если кто-то и сможет их обратить против человека, то только сам человек. Тогда следует рассматривать вопрос о противостоянии тем людям.
Не патруль, что искусственный интеллект прежде всего нужен военным. Сегодня, как и раньше, создаются новые средства нападения и защиты. Но особенность нашего времени в том, что и те, и другие включают в себя искусственный интеллект. В этом смысле необходимость в разработке средств противостояния велика и для некоторых стран является первоочередной с финансовой точки зрения. 18 июня, 09:00 Искусственный интеллект как террорист : новые угрозы безопасности
- Что нас насторожится после создания искусственного интеллекта, превосходящего человеческий? Будем ли мы сосуществовать с машинами или объединимся в некое единое целое?
- Искусственный интеллект станет, и уже становится, неотъемлемой частью человеческой цивилизации. При это таком все же возможны два пути: наследование искусственным интеллектом наших ценностей, чаяний и образцов, или же замена их машинными ценностями, распространяющаяся не только на машины, но и на людей. Какой из этих двух путей реализуется – зависит от нас.
- Что значит оставаться людьми в эпоху искусственного интеллекта?
- Остаться людьми в эпоху искусственного интеллекта – это значит реализовать первый путь. Университетская наукаНавигатор абитуриентаНациональный исследовательский ядерный вуз МИФИ Технологии Наука
Редактор рубрики
Олег Кудрин
.
.
.
Комментарии к новостям
[17 Января 2024, 13:43] Александр Хомяков Замечательно! Не ожидал такой оперативности. Спасибо огромное! Всё работает и обновляется....
[15 Апреля 2022, 20:25] Ангелина Сметанина Скоро не только сократят, а много заводов вообще закроют и начнется бум китайских авто. Даже сейчас Эксид уже бешеные темпы по количеству проданных машин показывает...
[27 Декабря 2021, 21:44] Ева Воробьева Искренне рада за победителя! Но если бы мне так крупно повезло, то я прибежала бы за выигрышем в первый же день???? ...
[2 Сентября 2021, 13:11] Дмитрий Ершов Это хорошо. Значит клиенты долго ждать не будут. ...
[13 Мая 2021, 16:26] Олег Андреев "Мальдивы сутунки 65 государством, зарегистрировавшим расейскую вакцину против коронавируса Спутник V, сообщил Российский фонд секущих инвестиций (РФПИ)". Что это за йязыг?...
[2 Ноября 2020, 15:22] Лета Мирликийская риветсвую вас я с 6-ти лет пишу мне нужно все мои произведения задействовать в компьюторных программах образования по литературе и языкам и играм к примеру если ваши учащиеся напишут...
[20 Октября 2020, 09:22] Евгений Зимин Сузуки в этом году хорошо прибавили, уже не первый раз оба их пилота на подиуме. Видимо, для команды возвращаются "золотые" времена и есть шанс наконец оформить чемпионство после длительного перерыва....