Google: искусственный разум должен дополнять, а не заменять человека

3 Июня 2017

ОСКВА, 3 июня Грег Коррадо, ведущий хакер проекта Google Brain (который занимается созданием систем машинного обучения и искусственного интеллекта и их интеграцией в сервисы Google) рассказал, что представляет собой искусственный разум, почему восстание самосовершенствующихся машин нам не грозит, и поделился мыслями о том, как человечество будет приспосабливаться к жизни в эпоху разумных машин.

За последние годы Коррадо и его коллеги разработали новые системы машинного перевода, научили систему поиска картинок Google Images распознавать кошек, собак и другие объекты, а также создали нейросеть, улучшающую разрешение фотографий. Сейчас они работают над созданием звукового помощника для телефонов на ОС Android.

— Грег, ваша научная карьера, судя по вашим публикациям, началась в нейрофизиологии, а не в разработке искусственного разума. Как так получилось, что системы ИИ стали важными и для вас лично, и для всего Google в целом?

— Изначально меня интересовали совершенно другие вещи – сначала я занимался изучением физики, а потом переключился в область наук о мозге. Тогда мне казалось, что гол является самой интересной физической способ организацией, и я хотел диагностировать, как развитие нашего гола привело к появлению разумных и осознающих себя существ.

Проработав некоторое время подобным типом, я понял, что мне было не менее интересно изучать все формы интеллекта, не только в его биологических, но и в искусственных проявлениях. Кроме того, тогда мне показалось, что в области искусственного интеллекта мы сможем продвигаться гораздо быстрее, чем в изучении мозга потребителя.

С Google ситуация другая – компания фактически с момента своего основания занимается искусственным интеллектом. Сама реализация поисковой системы в том виде, в котором ее задумали основатели компании, Сергей Брин и Ларри Пейдж, требует наличия хотя бы какой-то формы искусственного интеллекта.

Для нас главной задачей является не создание ИИ как какого-то продукта, который мы могли бы упаковать в коробочку и продать, а использование подобных систем для организации и обработки информации. Объемы информации постоянно растут, и чем больше мы намолачиваем данных, тем хуже мы видим ее и теряем понятие о том, что важно, а что нет.

— Сама математическая идея, описывающая глубинные нейронные сети и нелинейные методы обучения, появилась более десяти лет назад, однако они стали известными только в последние два-три года. С чем это стеснённого?

— Могу оповестить больше сами взгляды организации этих сетей появились еще раньше, в 60-х годах прошлого века, а окончательно они были оформлены в математическом виде в 1980-1990-х. С тех пор они фактически не поменялись. Единственной причиной того, почему их возрождение проистекло именно сейчас, является то, что компьютеры стали видно быстрее в последние годы и у нас появилась возможность дешево наращивать их мощность.

В девяностые года и в начале двухтысячных мы этого не понимали, и поэтому нейросети в то время рассматривались как интересная, но бесполезная игрушка. Но на самом деле им просто не хватало вычислительных ресурсов для того, чтобы делать что-то удобное. Когда объемы данных и вычислительные ресурсы были невелики, простые математические подходы использовали их эффективнее, чем нейросети.

Мы впервые осознали, что глубинные сети и машинное обучение могут могут выступать полезными? примерно в 2010 или в 2011 году, и нам понадобилось около пяти лет, чтобы проверить эту идею и доказать, что это действительно так. Сейчас каждый человек в отрасли понимает, что это так, и стремится в эту палестину.

— С каждым годом наша цивилизация производит все больше и больше данных, обработка которых в скором медли будет невозможна без использования искусственного интеллекта. Сможет ли человечество развиваться дальше, как считают противники ИИ, не применяя подобные системы?

— Я не думаю, что искусственный интеллект или машинное обучение могут быть чем-то плохим или хорошим – это буквального набор новых технологий, способ использования которых будет зависеть исключительно от нас самих. Как общество мы должны решить, для чего и как они будут применяться – к примеру, мы можем полностью отказаться от них по каким-то этическим или политическим причинам.

Я же лично считаю, что подобное решение будет невероятного неэффективным и подобным тому, если бы мы запретили автоматизированные швейные машинки и заставили все фабрики шить одежду вручную. Вместо этого нам нужно диагностировать, где их использование принесет реальную пользу и будет соответствовать нашим ценностям.

И, как мне кажется, существует немереное множество сфер, где использование и ИИ, и машинного обучения принесет гигантскую пользу обществу, многие из которых мы пока еще и представить себе не можем.

— Google сегодня использует нейросети в работе Google Translate, Google Image Search и многих других продуктов. Где в ближайшее время будет совершен главный срыв в их применении?

— Когда люди говорят о развитии искусственного интеллекта, они чаще всего представляют себе что-то очень впечатляющее, чем он на самом деле не является. Нужно понимать, что мы просто пытаемся организовать машины менее глупыми, чем они являются сегодня, и заставляем их взаимодействовать с человеком наиболее естественным образом.

Кроме того, искусственный интеллект позволяет нам корректировать ошибки машин и заставлять их учиться на этих неправильностях. Возникает своеобразный диалог между человеком и машиной.

Я надеюсь, что в ближайшие десять лет у нас появится система, возможно работающая на телефонах и других мобильных устройствах, которая будет динамично взаимодействовать с хозяином и учитывать особенности его личности и какие-то конкретные пожелания.

К показателю, вы просите подобного помощника помочь вам достичь какой-то точки на карте. Когда он предлагает вам маршрут, вы можете попросить его проложить его ближе к парку или выполнить другие пожелания, и система вас поймет и исполнит ваши пожелания. Нам хочется, чтобы общение с подобными способ организациями шло максимально естественным путем для человека.

— В последние годы ученые все пуще говорят о создании самосовершенствующихся способ организаций искусственного интеллекта, которые многие серьезные ученые, к примеру Стивен Хокинг, считают очень опасными для человека. Так ли это на самом деле?

— На самом деле самосовершенствующийся искусственный интеллект пока еще не создан. С технической точки зрения, возможно, когда-то подобные системы возникнут, но пока их нет, и они вряд ли появятся в обозримом будущем.

К показателю, сегодня существуют роботы, которые работают на сборочных ориентациях и собирают машины и прочие сложные технические устройства. Эти роботы были собраны на такой же линии при участии таких же роботов, но это не означает, что электронный люди улучшили себя. То же самое справедливо для технологий машинного обучения – мы используем их для анализа данных, в том числе и других систем искусственного интеллекта, но они еще не могут совершенствовать себя без креатива со стороны человека.

Система AlphaGo, к примеру, способна к очень ограниченной форме самообучения, но она не может кардинально поменять свою архитектуру и сделать себя кардинально другой, к примеру приспособленной для решения других задач. То, что сегодня существует, является лишь небольшой частью того, что нужно сделать для создания самообучающихся систем, и весь остальной путь еще не пройден.

Поэтому лично мне кажется, что создание искусственного интеллекта сегодня все больше напоминает искусство, нежели инженерию или науку, и лидеры в нашей области часто удивляют и себя, и коллег своими неожиданными открытиями и находками. В частном, можно сказать, что сегодня создание ИИ является беспримерной прерогативой человека.

— Можно ли использовать подобные способ организации для решения самых необычных задач к примеру, в качестве мозга для марсоходов или зондов, которые бы самостоятельно изучали далекие планеты и миры?

— В принципе, такое вполне возможно, и мне кажется, что в будущем искусственный разум будет использован для проведения исследований в космосе или на дне океана, где прямое управление техникой невозможно по тем или иным причинам. Системы ИИ помогут подобным роверам или роботам решать какие-то рутинные задачи и избегать опасностей, но реальные научные исследования все же будут вести люди.

Только человек может использовать конкретные научные задачи и определять, как их решать. Мы можем сказать роботу – приблизься к этому кратеру и попытайся найти в нем белые породы, но сам робот в принципе не может понять, почему эти породы нам интересны. Человек очень хорошо ставит задачи и ищет пути для их решения, и машины пока не имеют такой возможности. Роботы могут быть в данном случае только помощниками, но не изыскателями.

— Этот главный вопрос непосредственно связан с тем, что многие люди не понимают, что такое искусственный разум, и считают, что ученые создают полный аналог потребителя с его разумом, чувствами и прочими чертами. Почему так происходит?

— Мне кажется, что это является следствием того, что люди не понимают, зачем вообще существует искусственный разум. Они считают, что мы создаем машины, подобные потребителям. Я полностью это не принимаю и говорю, что мы создаем его не для того, чтобы заменить человека, а чтобы дополнить его варианты.

К примеру, я использую комп каждый день, и есть вещи, которые и я, и он могут изготовлять сами по себе складывать или умножать числа. Компьютер делает это быстрее, и я ценю его в том числе и по в данной причине. Соответственно, я могу провести разделение труда, отдав вычисления компьютеру, и сделать больше, чем мне удалось бы без его взаимопомощи. И в этом, как мне кажется, и заключается суть искусственного интеллекта.

Идея создания полного аналога человека, как мне кажется, уходит своими корнями или в научную фантазию, или в философию. Философы давно задумываются о том, можем ли мы устроить машины, похожие на человека, но этот вопрос никак не связан с тем, будут ли подобные искусственные люди полезными для нас и возможно ли это вообще.

Поэтому с точки зрения практики лучше создавать разум, который будет дополнять наш собственный разум и расширять его возможности, а не воспроизводить его.

— Уже сегодня существуют системы, подобные машинам с автопилотом, в которых жизнь человека зависит от действий искусственного интеллекта. Нужно ли создавать принципиально новые правовые нормы для определения ответственности и того, кто будет отзываться за действия ИИ?

— Это очень важный главный вопрос. Сразу подчеркну, что я не юрист, но мне кажется, что в прошлом уже были примеры подобных проблем. К примеру, уже много столетий существуют кодексы, которые определяют то, кто несет ответственность за то, что чья-то лошадь лягнула постороннего человека, собака напала на незнакомца, сломался станок и нанес травму рабочему или произошло какое-то другое происшествие.

Нам, как мне кажется, нужно использовать этот опыт при определении ответственности за поведение систем искусственного разума. Соответственно, остается лишь обсудить, как мы можем адаптировать эти принципы для определения того, как мы будем взаимодействовать с автономными машинами и другими устройствами такого типа.

Эта дискуссия, я более чем уверен, будет очень страстной и длительной, но мне кажется, что она не потребует введения каких-то абсолютно новых юридических норм и принципов. Конечно, некоторые люди предлагают считать системы ИИ личностями и так далее, но это лично для меня является чем-либо очень странным и непонятным.

— Футурологи и некоторые ваши коллеги прогнозируют, что дальнейшее развитие ИИ оставит многих людей, занятых квалифицированным, но рутинным трудом – бухгалтеров, водителей, чинодралов, – без работы. Существует ли эта проблема и как ее можно кончить?

— Конечно, эта проблема существует. Мои родители, бабушки и дедушки были бухгалтерами, и моя бабушка начинала работать с ручки и бумаги и закончила калькуляторами, а мама – перешла с калькуляторов на электронные таблицы на компьютере. Все эти изменения радикально поменяли то, как работают бухгалтеры, но сама суть профессии от этого не поменялась – бухгалтеры не исчезли, но при этом стали работать быстрее, быстрее и качественнее.

Как мне кажется, нечто подобное произойдет и с искусственным интеллектом. Содержание многих профессий поменяется, но их суть останется прежней, какие-то из них могут даже исчезнуть, но подобная судьба постигнет лишь небольшую их составная часть.

Кроме того, может произойти что-то подобное, что случилось со сферой веб-дизайна в конце 1990-х годов – до появления и распространения интернета никто и не мог помыслить, что кто-то может заниматься такими штуками. С другой стороны, глупо и неправильно подходить к этому вопросу легкомысленно и думать, что ничего не изменится. Нужно понимать, что эти технологии поменяют мир, что к ним нужно будет адаптироваться и помогать другим приноровляться к ним.

Редактор рубрики

Леонид Кузьмин

Место события на карте мира:

Google: искусственный разум должен дополнять, а не заменять человека

комментарии (0)

Другие интересные новости

Ярмольник опроверг сообщение о госпитализации