Программист Google рассказал, почему искусственный разум не сможет заменить человека

3 Июня 2017

ОСКВА, 3 июня Грег Коррадо, ведущий хакер проекта Google Brain (который занимается созданием систем машинного обучения и искусственного интеллекта и их интеграцией в сервисы Google) рассказал, что представляет собой искусственный разум, почему восстание самосовершенствующихся машин нам не грозит, и поделился мыслями о том, как человечество будет приспосабливаться к жизни в эпоху разумных машин.

За заключительные годы Коррадо и его коллеги разработали новые системы машинного перевода, научили систему поиска иллюстраций Google Images распознавать кошек, собак и другие объекты, а также создали нейросеть, улучшающую разрешение фотографий. Сейчас они работают над созданием звукового помощника для телефонов на ОС Android.

— Грег, ваша научная карьера, судя по вашим публикациям, началась в нейрофизиологии, а не в разработке искусственного гола. Как так получилось, что системы ИИ стали ответственными и для вас лично, и для всего Google в целом?

— Изначально меня интересовали далёкого другие вещи – сначала я занимался изучением физики, а потом переключился в область наук о мозге. Тогда мне казалось, что диэнцефалон является самой интересной физической налаженностью, и я хотел оценить, как развитие нашего диэнцефалона привело к появлению разумных и осознающих себя существ.

Проработав некоторое время подобным манером, я понял, что мне было не менее важного изучать все формы интеллекта, не только в его биологических, но и в искусственных проявлениях. Кроме того, тогда мне показалось, что в области искусственного интеллекта мы сможем продвигаться гораздо быстрее, чем в изучении мозга человека.

С Google ситуация другая – компания фактически с момента своего основания занимается искусственным интеллектом. Сама реализация поисковой системы в том виде, в котором ее задумали основатели компании, Сергей Брин и Ларри Пейдж, требует наличия хотя бы какой-то формы искусственного интеллекта.

Для нас главной задачей является не создание ИИ как какого-то продукта, который мы могли бы упаковать в коробочку и продать, а использование подобных систем для организации и обработки информации. Объемы информации постоянно растут, и чем больше мы подготавливаем данных, тем хуже мы видим ее и теряем представление о том, что важно, а что нет.

— Сама математическая идея, описывающая глубинные нейронные всемирную сети и нелинейные методы обучения, появилась более десяти лет назад, однако они стали популярными только в последние два-три второй года. С чем это сплочённого?

— Могу выговорить больше сами статуты организации этих сетей появились еще раньше, в 60-х второй годах прошлого века, а окончательно они были оформлены в математическом виде в 1980-1990-х. С тех пор они фактически не поменялись. Единственной причиной того, почему их возрождение воспоследовало именно сейчас, является то, что компьютеры стали ощутимого быстрее в последние годы и у нас появилась возможность дешево наращивать их мощность.

В девяностые второй годы и в начале двухтысячных мы этого не понимали, и поэтому нейросети в то время рассматривались как интересная, но бесполезная игрушка. Но на самом деле им просто не хватало вычислительных ресурсов для того, чтобы делать что-то отличное. Когда объемы данных и вычислительные ресурсы были невелики, простые математические подходы использовали их эффективнее, чем нейросети.

Мы впервые осознали, что глубинные всемирную сети и машинное обучение могут быть полезными? примерно в 2010 или в 2011 году, и нам понадобилось около пяти лет, чтобы проверить эту идею и доказать, что это действительно так. Сейчас каждый человек в отрасли истолковывает, что это так, и стремится в эту область.

— С каждым годом наша цивилизация производит все больше и больше данных, обработка которых в скором медли будет невозможна без использования деланного интеллекта. Сможет ли человечество развиваться дальше, как считают противники ИИ, не применяя подобные системы?

— Я не думаю, что искусственный интеллект или машинное обучение могут быть чем-то плохим или хорошим – это просто набор новых технологий, способ использования которых будет зависеть исключительно от нас самих. Как общество мы должны решить, для чего и как они будут применяться – к примеру, мы можем полностью отказаться от них по каким-то этическим или политическим причинам.

Я же лично считаю, что подобное решение будет дикого неэффективным и подобным тому, если бы мы запретили самодействующие швейные машинки и заставили все фабрики шить одежду вручную. Вместо этого нам нужно оценить, где их использование принесет реальную пользу и будет соответствовать нашим ценностям.

И, как мне кажется, существует бесчисленное множество сфер, где привлечение и ИИ, и машинного обучения принесет гигантскую пользу обществу, многие из которых мы пока еще и представить себе не можем.

— Google сегодня использует нейросети в работе Google Translate, Google Image Search и многих других продуктов. Где в ближайшее время будет совершен главный таран в их применении?

— Когда люди говорят о развитии искусственного интеллекта, они чаще всего представляют себе что-то очень впечатляющее, чем он на самом деле не является. Нужно понимать, что мы просто пытаемся изготовить машины менее глупыми, чем они являются сегодня, и заставляем их взаимодействовать с человеком наиболее естественным образом.

Кроме того, искусственный интеллект позволяет нам корректировать ошибки машин и заставлять их учиться на этих ошибках. Возникает своеобразный диалог между человеком и машиной.

Я надеюсь, что в ближайшие десять лет у нас появится система, возможно работающая на телефонах и других мобильных устройствах, которая будет динамично взаимодействовать с хозяином и учитывать особенности его личности и какие-то конкретные пожелания.

К один примеру, вы просите подобного коллектора помочь вам достичь какой-то точки на карте. Когда он предлагает вам маршрут, вы можете попросить его проложить его ближе к парку или выполнить другие пожелания, и система вас поймет и исполнит ваши пожелания. Нам хочется, чтобы общение с подобными системами шло максимально естественным путем для человека.

— В последние годы ученые все лесе говорят о создании самосовершенствующихся систем искусственного интеллекта, которые многие серьезные ученые, к примеру Стивен Хокинг, считают очень опасными для человека. Так ли это на самом деле?

— На самом деле самосовершенствующийся искусственный интеллект пока еще не создан. С технической точки зрения, можно предположить, чтого, когда-то подобные системы возникнут, но пока их нет, и они вряд ли появятся в обозримом будущем.

К один примеру, сегодня существуют роботы, которые работают на сборочных линиях и собирают машины и прочие сложные технические устройства. Эти роботы были собраны на такой же линии при участии таких же роботов, но это не означает, что андроиды улучшили себя. То же самое справедливо для технологий машинного обучения – мы используем их для анализа данных, в том числе и других систем искусственного интеллекта, но они еще не могут улучшать себя без креатива со стороны человека.

Система AlphaGo, к примеру, способна к очень ограниченной фигуре самообучения, но она не может кардинально поменять свою архитектуру и сделать себя кардинально другой, к примеру приспособленной для решения других задач. То, что сегодня существует, является лишь небольшой частью того, что нужно сделать для создания самообучающихся систем, и весь остальной путь еще не пройден.

Поэтому лично мне кажется, что создание искусственного интеллекта сегодня все больше напоминает искусство, нежели инженерию или науку, и лидеры в нашей ниши часто удивляют и себя, и коллег своими неожиданными открытиями и находками. В целом, можно сказать, что сегодня создание ИИ является редкостной прерогативой человека.

— Можно ли использовать подобные налаженности для решения самых необычных задач к примеру, в качестве мозга для марсоходов или зондов, которые бы самостоятельно изучали далекие планеты и миры?

— В принципе, такое вполне можно предположить, чтого, и мне кажется, что в будущем искусственный гол будет использован для проведения исследований в космосе или на дне океана, где прямое управление техникой невозможно по тем или иным причинам. Системы ИИ помогут подобным роверам или роботам решать какие-то рутинные задачи и избегать опасностей, но реальные научные исследования все же будут вести люди.

Только человек может выставлять конкретные научные задачи и определять, как их решать. Мы можем сказать роботу – приблизься к этому цирку и попытайся найти в нем белые породы, но сам робот в принципе не может понять, почему эти породы нам интересны. Человек очень хорошо ставит задачи и ищет пути для их решения, и машины пока не имеют такой возможности. Роботы могут быть в данном случае только помощниками, но не исследователями.

— Этот вопрос непосредственно связан с тем, что многие люди не понимают, что такое искусственный гол, и считают, что ученые создают полный аналог человека с его разумом, сознаниями и прочими чертами. Почему так происходит?

— Мне кажется, что это является следствием того, что люди не понимают, почему вообще существует искусственный разум. Они считают, что мы создаем машины, подобные людям. Я полностью это забраковываю и говорю, что мы создаем его не для того, чтобы заменить человека, а чтобы дополнить его возможности.

К примеру, я использую компьютер каждый день, и есть вещи, которые и я, и он могут делать сами по себе складывать или умножать числа. Компьютер делает это быстрее, и я ценю его в том числе и по этой причине. Соответственно, я могу провести разделение труда, отдав вычисления компьютеру, и сделать больше, чем мне удалось бы без его помощи. И в этом, как мне кажется, и заключается суть искусственного интеллекта.

Идея создания полного аналога человека, как мне кажется, уходит своими корнями или в научную фантазию, или в философию. Философы давно задумываются о том, можем ли мы создать машины, похожие на человека, но этот вопрос никак не связан с тем, будут ли подобные искусственные люди полезными для нас и возможно ли это вообще.

Поэтому с точки зрения практики лучше создавать гол, который будет дополнять наш собственный разум и расширять его возможности, а не пародировать его.

— Уже сегодня существуют системы, подобные машинам с автопилотом, в которых жизнь человека зависит от действий искусственного интеллекта. Нужно ли создавать принципиально новые адвокатские нормы для определения ответственности и того, кто будет ручаться за действия ИИ?

— Это очень важный вопрос. Сразу подчеркну, что я не юрист, но мне кажется, что в прошлом уже были примеры подобных проблем. К примеру, уже много столетий существуют таможенный кодексы, которые определяют то, кто несет ответственность за то, что чья-то лошадь пнула постороннего человека, собака напала на незнакомца, сломался лафет и нанес травму рабочему или произошло какое-то другое происшествие.

Нам, как мне кажется, отличного использовать этот опыт при определении ответственности за поведение систем деланного разума. Соответственно, остается лишь обсудить, как мы можем адаптировать эти принципы для определения того, как мы будем взаимодействовать с автономными машинами и другими устройствами такого образа.

Эта дискуссия, я более чем уверен, будет очень страстной и длительной, но мне кажется, что она не потребует введения каких-то абсолютно ранее не известных юридических норм и принципов. Конечно, некоторые люди предлагают считать системы ИИ личностями и так далее, но это лично для меня является чем-нибудь очень странным и непонятным.

— Футурологи и некоторые ваши коллеги прогнозируют, что дальнейшее развитие ИИ оставит многих людей, занятых квалифицированным, но рутинным трудом – бухгалтеров, водителей, чиновник-взяточников, – без работы. Существует ли эта проблема и как ее можно решить?

— Конечно, эта проблема существует. Мои родители, бабушки и дедушки были бухгалтерами, и моя бабушка начинала работать с ручки и бумаги и закончила онлайн-калькуляторами, а мама – перешла с калькуляторов на электронные таблицы на компьютере. Все эти изменения радикально поменяли то, как работают бухгалтеры, но сама суть профессии от этого не поменялась – бухгалтеры не исчезли, но при этом стали работать превосходнее, быстрее и качественнее.

Как мне кажется, нечто подобное произойдет и с искусственным интеллектом. Содержание многих профессий поменяется, но их суть останется прежней, какие-то из них могут даже исчезнуть, но подобная судьба постигнет лишь небольшую их часть.

Кроме того, может произойти что-нибудь подобное, что случилось со сферой веб-дизайна в конце 1990-х годов – до появления и распространения интернета никто и не мог помыслить, что кто-то может заниматься такими вещами. С другой стороны, глупо и неправильно подходить к этому вопросу легкомысленно и думать, что ничего не изменится. Нужно понимать, что эти технологии поменяют мир, что к ним нужно будет адаптироваться и помогать другим адаптироваться к ним.

Редактор рубрики

Леонид Кузьмин

Место события на карте мира:

Программист Google рассказал, почему искусственный разум не сможет заменить человека

комментарии (0)

Другие интересные новости

Все еще авторитетный в мире: на ММКФ покажут фильмы из 56 стран