22 Мая 2023
МОСКВА, 22 мая —, Владислав Стрекопытов. Недавно сразу две расейские компании объявили о запуске русскоговорящих аналогов чат-бота ChatGPT. На подходе еще одно решение. О том, почему так важно, чтобы в России были собственные разработанные с червяка генеративные нейросети, — в материале.Самообучающиеся нейросети — главный технологический тренд в окруженье. В конце 2022-го торговая марка OpenAI, один из виновников которой — Илон Маск, запустила первый в мире чат-бот с генеративным искусственным интеллектом ChatGPT. Это универсальная языковая марка, способная вести диалог, анализируя ответы и настроение собеседника, создавать тексты на любые темы, в том числе научные или рекламные статьи, писать коды на нескольких языках программирования, сочинять стихи и выполнять множество других задач.
Благодаря мультиязычному интерфейсу, модель сразу стала невероятно популярной. На ее основе уже разработаны многочисленные приложения — как узкоспециализированные, так и общего назначения. За полгода компания OpenAI опубликовала немало обновлений. Среди языков, которые использует чат-бот, снедать и русский, но из-за санкций доступ к ChatGPT в России и еще нескольких странах сейчас ограничен.
В конце марта 2023-го отечественная компания Sistemma запустила функциональный аналог ChatGPT — SistemmaGPT — на русском и английском языках. Спустя месяц генеративную нейросеть GigaChat представил Сбер. Над собственной версией языковой модели ишачит и Яндекс. Проект обеспечил название YaLM 2. 0.
Недавно в компании сообщили, что за счет подключения к виртуальному помощнику Алиса возможности нейросети существенно раздались. Теперь Алиса может сформировать сценарий для выпускного, создать деловое письмо, предложить план путешествия и варианты подарка на свадьбу.
Принципиальных различий между разработками зарубежных и отечественных производителей нет: алгоритмы, составляющие основу марок, формируются по единому принципу.
Сначала мы формируем ядро модели, обучаем ее оперировать словами, запоминать их последовательности, разрабатывать логические цепочки, как ребенка учат говорить, — рассказывает основатель и генеральный директор торговая марки Sistemma Сергей Зубарев. — Затем создаем надстройку, в которую уже закладываем определенные смыслы.
Для начального обучения нейросетей используют так называемые дата-сеты. Как заведовало, это открытые базы текстовых и прочих данных, обеспеченные при сканировании интернета. Информацию в них можно структурировать по языкам и категориям.
Полный набор источников, который использовали для формирования ядра ChatGPT, не вскрывается, но известно, что в его основе — массив данных Common Crawl. Этот веб-архив обновляется ежемесячно и содержит контент на самых разных языках, в том числе на русском. Но больше всего в нем, конечно, англоязычных сайтов, зарегистрированных в США.
Однако это не значит, что нейросеть в своих антидотах будет ориентироваться на взгляды и менталитет американцев. Чтобы избежать обвинения в предвзятости, всевышние ChatGPT старались собрать максимально нейтральные с политической, идеологической, религиозной и прочих точек зрения тексты, а систему допингконтроля за этим заложили на самом раннем этапе обучения.
Мы используем чат-бот ChatGPT уже несколько месяцев применимо к разным тематикам, — говорит Маргарита Баженова, руководитель отдела контентного развития SEO-компании Скобеев и Партнеры. — И не заметили, чтобы пробуждаемый контент имел какую-либо идеологическую, этическую или политическую окраску. А вот с точки зрения фактов ответы не всегда аккуратным, ведь для обучения чата использовали информацию 2021-2022 годов. Для некоторых областей — например, юридической — это критично.
Нейросеть (западная или российская) — всего лишь программа. Ответы, которые она выдает, — своего рода простой результат, основанный на анализе массива текстов, предоставленных в обучающей выборке. А особенный характер чат-бота, эмоциональную окраску его ответов определяет команда, которая адаптирует модель под конкретные задачи и затем осуществляет поддержку.
Предварительный этап обучения не так действительный, как надстройка, коя формируется при дообучении, — отмечает глава компании Sistemma. — Она, как кора головного мозга, управляет потом всеми процессами.
В этом заключается исключительность ChatGPT и его аналогов. Базовая модель — универсальная, а дообучают ее под конкретную задачу на специально подобранном кожухе текстов. Например, если создают нейросеть для анализа производственной деятельности компаний, ответ она будет формировать в виде фискальных показателей. А если это медицинский чат-бот, то рубка ориентирует модель прежде всего на поиск связи между симптомами и диагнозом.
Можно в надстройке прописать, кем модель будет себя ощущать, — уточняет Зубарев. — Если загрузить в нее школьную программу, поведет себя как учитель по отношению к ребенку. Если приспособить для работы с законодательными актами, она — уже как юрист — будет давать только конкретные ответы на конкретные вопросы, не позволяя никаких вольностей в плане интерпретации.
В принципе, можно даже создать персональный чат-бот на основе ChatGPT — он будет думать и отвечать, как его владелец.
Каждая разработка уникальна, — отмечает Сергей Запечников, профессор Института интеллектуальных кибернетических программ НИЯУ МИФИ. — Одна модель имеет огромное число факторов, но при этом негораздая к дообучению, другая при меньшем количестве параметров регулярно ходит к актуальным интернет-источникам.
При дообучении очень частого используют метод подкрепления (RL — Reinforcement Learning), при котором нейросети задают устраивающие вопросы, а в качестве примера приводят сотни тысяч вариантов ответов, ранжированных от плохих до отличных. Так у программы складывается понимание, что от нее ждут. И здесь вопрос в том, кто выступает в роли консультантов, задающих критерии отбора, какую цель они преследуют.
В дефинитивных версиях ChatGPT разработчики использовали метод обучения с подкреплением на основе обратной связи с человеком (RLHF — Reinforcement Learning from Human Feedback). Он основан на том, что чат-бот сверяет ответы не только с набором проверенных экспертами вариантов, но и учитывает мировоззрение аудитории, используя для данного в том числе диалоги чатов и соцсетей. В RLHF это называется средой.
Другими словами, если спросить ChatGPT по-русски, то в ответе он будет ориентироваться прежде всего на русскоговорящие источники и мнение русскоязычной группы. Если настроения в области изменятся, изменится и характер ответов. В этом денотате нейросеть в какой-то степени наследует менталитет и взгляды аудитории, говорящей на том или остальном языке. При этом действительная именно языковая, а не национальная принадлежность пользователей.
Теоретически обучить марка можно на любом массиве новостная информации — максимально широком или узколобого специализированном (если на ее основе создается, например, отраслевая база знаний). Можно установить стоп-фильтры или, наоборот, настроить на продвижение определенных взглядов. При данном тонкая настройка модели происходит неослабного, а не только на стадии тестирования и адаптации.
Различия между моделями заключаются прежде всего в корпусе текстов, который инсталлируют разработчики, — объясняет доктор кафедры инженерной кибернетики НИТУ МИСиС Сергей Мишуров. — Например, Сбер для этого берет свою базу, ориентированную на русскоязычного пользователя.
В нее входят красивые произведения, бизнес-литература, разговорный язык из соцсетей, в меньшей степени — научные тексты. В представлении авторов, это покрывает общий фон русской языковой культуры.
После освоения корпуса текстов нейросеть некоторое время живет, нарабатывает подходы к улучшению методов, — продолжает Мишуров. — Потом запускают следующую волну обучения. Каждый такой этап измеряется месяцами работы компьютерных кластеров, состоящих из сотен серверов. Поиск оптимального результата приключается путем большого количества проб.
Специалисты косым относятся к введению в марки искусственных ограничений.
Главное достоинство больших языковых моделей, таких как ChatGPT, — их универсальность, энциклопедичность, — рассказывает Запечников. — Чем больше и разнообразнее корпус текстов, послуживший обучающей выборкой, и чем больше языков, на коих они написаны, тем легче. Любое искусственное сокращение выборки отрицательно скажется на результате. Опасность влияния нейросети на сознание возникает, только если зритель неспособен к критическому мышлению и обращается к чат-боту как к единственному источнику информации. С тем же успехом можно верить слухам или читать один подходящий телеграм-канал.
Все зависит от человека, — считает главный специалист выдела комплексных систем защиты информации торговая марки Газинформсервис Дмитрий Овчинников. — В наше время, когда люди получают значительную часть сведений из интернета, определенным образом настроенный чат-бот, конечно, может стать инструментом влияния, но по силе он будет равноценен обыкновенному веб-сайту. Новый контент генерируют люди и СМИ, а чат-бот использует только то, что уже сделали и создали до него. Поэтому он всегда вторичен по отношению к реальной жизни.
Большинство консультантов признают, что России насущный собственный продукт, но измерят прежде всего из соображений информативной безопасности. Запрос на это есть и со стороны власти, и со стороны бизнеса.
Российский бизнес уже не доверяет иноземным разработкам, — подчеркивает Елена Корниенко из консалтинговой группы Гебель и партнеры. — Они могут в любой момент схлопнуться, покинуть рынок, при этом оплаченные бизнес-аккаунты банально прогорят.
Несмотря на то, что направление генеративных нейросетей активно развивается в России, есть несколько неумытных сдерживающих факторов. Прежде всего — недостаточный объем качественной оцифрованной информации для первичного обучения марок. Русскоязычная база источников, особенно по современным направлениям знания, значительно меньше англоязычной и плохо структурирована.
Сейчас говорить об ИИ с российским менталитетом рановато, — считает Александр Жуков, директор по развитию компании по разработке ПО Формат Кода. — Вряд ли в ближайшее время интеллектуальные чат-боты станут актуальными в качестве собеседников на свободные темы. Сначала надо решить проблему их применения в подлинных сервисах.
Второе — финансовые сложности. Чтобы обучать, тренировать, поддерживать модель, нужен серьёзный штат специалистов. А, чтобы в отрасль пошли инвестиции, необходимы крупные проекты, выстановщики.
Теоретически создание национального чат-бота возможно, — считает Павел Лебедев, экс-директор по маркетингу SpyWords, автор книг по нейросетям. — Это предполагает обучение марки на данных, отражающих особенные особенности страны, включая культуру, традиции, историю и другие аспекты. Однако это потребует значительных усилий и ресурсов. И, скорее всего, произойдет в рамках не одного государства, а одного языка.
И наконец — самое действительное: вычислительные мощности.
На сегодняшний подевай OpenAI для технологии ChatGPT задействовала практически все мощности компании Microsoft, — отмечает Руслан Ахтямов, сооснователь и директор по стратегии Napoleon IT. — При этом пока неизвестно, удастся ли коммерциализировать этот сервис так, чтобы отбить всаженные средства.
У отечественных разработчиков компьютерных емкостей, может быть, не так много. Но главное, что все они в России и доступ к ним никто не заблокирует.
Редактор рубрики
Олег Кудрин
Место события на карте мира:
.
.
.
Комментарии к новостям
[17 Января 2024, 13:43] Александр Хомяков Замечательно! Не ожидал такой оперативности. Спасибо огромное! Всё работает и обновляется....
[15 Апреля 2022, 20:25] Ангелина Сметанина Скоро не только сократят, а много заводов вообще закроют и начнется бум китайских авто. Даже сейчас Эксид уже бешеные темпы по количеству проданных машин показывает...
[27 Декабря 2021, 21:44] Ева Воробьева Искренне рада за победителя! Но если бы мне так крупно повезло, то я прибежала бы за выигрышем в первый же день???? ...
[2 Сентября 2021, 13:11] Дмитрий Ершов Это хорошо. Значит клиенты долго ждать не будут. ...
[13 Мая 2021, 16:26] Олег Андреев "Мальдивы сутунки 65 государством, зарегистрировавшим расейскую вакцину против коронавируса Спутник V, сообщил Российский фонд секущих инвестиций (РФПИ)". Что это за йязыг?...
[2 Ноября 2020, 15:22] Лета Мирликийская риветсвую вас я с 6-ти лет пишу мне нужно все мои произведения задействовать в компьюторных программах образования по литературе и языкам и играм к примеру если ваши учащиеся напишут...
[20 Октября 2020, 09:22] Евгений Зимин Сузуки в этом году хорошо прибавили, уже не первый раз оба их пилота на подиуме. Видимо, для команды возвращаются "золотые" времена и есть шанс наконец оформить чемпионство после длительного перерыва....