Как использовать gpt 3 от сбербанка

«Сбер» выложил в открытый доступ версию нейросети GPT-3, способную создавать тексты на 61 языке Статьи редакции

И перенёс лендинг русскоязычной модели с GitHub на свою платформу SmartMarket.

• Модель называется mGPT, она может генерировать тексты на 61 языке мира, включая языки народов России и стран СНГ, объявил «Сбер».
• Она доступна в двух версиях: базовая, с 1,3 млрд параметров, опубликована в открытом доступе на «СберДиске», а расширенная, с 13 млрд параметров, скоро станет доступна на платформе машинного обучения ML Space от SberCloud.
• В мае 2020 года OpenAI представила алгоритм GPT-3. Он работает с текстом: пишет стихи, прозу, новости и посты, придумывает шутки и литературные пародии, умеет отвечать на вопросы по прочитанному, переводить, решать примеры и программировать.
• В октябре 2020 года «Сбер» выложил в открытый доступ русскоязычную версию GPT-3. Она была доступна на GitHub, но после блокировки аккаунта банк перенёс её на платформу SmartMarket.

В принципе, сценарий к фестивальному артхаусу готов

Вот это я охуел с твиста в конце.

О, новый рассказ Пелевина, замечательно ( ͡° ͜ʖ ͡°)

Топ-10 неожиданных поворотов сюжета

Сценарий к Матрице 5?)

При прочтении всё само собой улеглось в форму очередной прокуренной арки из Жожи.

Вот это сюжет. Голивудским артхаусам и не снился. Однозначно лайк))

О, заебись. А он сможет написать мне реферат по конструктивным особенностям советских и американских космических аппаратов?

Нет, но может налить воды для соблюдения норм, хехе

А что, конструкцию батута в интернете сложно найти?

Каеф) если инфа была в открытом доступе, то может и оригинальный GPT поможет. А если эти сокровища в старых библиотеках, да в djvu сканах, то вряд ли.

Помянем челов на зп. К счастью на заводах ничего писать не нужно, кроме росписи на проходной.

Нахуя расписываться на проходной?

К счастью, к нам не берут тех, которые только расписаться могут.

Не помешало бы добавить, что именно тогда во флагманской AiDungeon 2 случился прецедент шэдоубанов (да-да, то того как это стало модно). Когда охотники на ведьм заметили, что что там больно просто генерировать. интересное.

я думал AiDungeon для этого и нужна

Русскую версию Ai dungeon ещё не сделали?

Ждём новый выпуск сгенерированных названий японских ранобе от гиггука

Ну такое себе. Получается расширенная имеет 13 млрд параметров размазанных по 61 языку. У оригинальной GPT-3 175 млрд параметров для одного языка. GPT-4 вообще обещают 100 трлн параметров.

Выводы о качестве выхлопа сберовского поделия по сравнению с оригиналом сделать не сложно.

Это не совсем так. Точно для одного языка — это GPT-2. В оригинальном принте GPT-3 такого уже нет. Более того на 60 стр вы можете увидеть примеры работы языковой пары: https://arxiv.org/pdf/2005.14165.pdf

Нейросетей дохуя, а толку нихуя.
Переводчики как были уровня промт, так и остались.
Моя Саша говорить с твоя на правильный языка

Deepl же нормально переводит?

Где-то обрадовалась одна Донцова

Всмысле? Издатель теперь может ей не платить, а самостоятельно генерировать тексты и платить разве что редактору.

Сбер сделал нейросеть-литератора – и она сочинила для нас рассказ про собаку

В открытом доступе появилась новая версия нейросети Сбера под названием GPT-3. Она способна писать различные тексты на 61 языке мира, стоит лишь дать короткую вводную. На выходе можно получать новости, посты, рассказы и даже стихи. Также нейросеть способна шутить и с ней можно обсудить прочитанные книги. Среди приятных бонусов – создание литературных переводов, решение математических примеров и даже программирование.

Нейросеть представлена в двух вариантах, и получить к ней доступ могут только разработчики.

• Первая, которую можно называть базовой, имеет 1,3 млрд параметров, и ее уже можно скачать со СберДиска или СберМаркета.
• Вторая, с 13 млрд параметрами, скоро должна появиться на платформе машинного обучения ML Space от SberCloud.

Алгоритм GPT-3 был представлен еще в мае 2020 года. В октябре 2020 года появилась русскоязычная версия GPT-3, которую можно было скачать с GitHub. После блокировки аккаунта ее перенесли на SmartMarket, а теперь ее можно скачать со СберДиска после получения доступа от разработчиков. Что изменилось в GPT-3 теперь? Нейросети добавили больше связей и всё – функционал остался прежним.

Александр Белов

специалист по нейросетям, project-менеджер TexTerra

Лучше всего алгоритм GPT-3 должен работать на английском и немецком языках, о чем говорит статистика тренировочных данных. Русский язык – на третьем месте.

Нейросеть продолжает обучаться, в том числе за счет использующих ее сторонних разработчиков – ежемесячно фиксируется около 4 тысяч скачиваний алгоритма GPT-3

Результаты на английском языке впечатляют. Вот, например, какое стихотворение получилось у нейросети про Илона Маска:

Once there was a man Who really was a Musk. He liked to build robots And rocket ships and such.

He said, “I’m building a car That’s electric and cool. I’ll bet it outsells those Gasoline-burning clunkers soon!”

They sell cool cars That are electric and clean. And then he wanted to go Even farther, you see.

The first Tesla, Roadster, Was just the start of a bigger dream. He said, “I’m building a plane That’s electric and green”.

А вот что получилось на русском языке (в версии с 1,3 млрд параметров) после вводной «Я люблю свою собаку и часто с ней гуляю по лесу. Она любит играть и гоняться за белками»:

«Я люблю свою собаку и часто с ней гуляю по лесу. Она любит играть и гоняться за белками.

Конечно не надо. Собаки в лесу одна из главных угроз для человека, они способны разорвать хрупкую цепочку жизней человека и животного и даже разорвать цепочки меток и слежения.

только можно вместе и неочень далеко от дома? просто знакомые сейчас хотят завести собаку, а я боюсь что собака может сбежать, если далеко от них гулять!»

Думаете, по вашей вводной получится текст лучше? Проверить это вы можете здесь.

Нейросеть уже может генерировать контент на русском языке: тестируем GPT-3 от Сбербанка

Искусственный интеллект GPT-3 продолжает свое развитие во всем мире. В декабре Сбербанк выпустил русскоязычную версию с простым интерфейсом, которая позволяет генерировать контент на русском уже сегодня.

Неужели пора отказываться от копирайтеров? Насколько уникален и пригоден такой контент для сайта, и есть ли будущее у технологии GPT-3 в России? Тестируем программу и разбираемся вместе с экспертами.

Тестирование русской модели GPT-3 Large
GPT-3 — это нейронная сеть 3 поколения, на основе искусственного интеллекта, которая умеет писать музыку, делать дизайн, программировать, а также генерировать уникальные тексты.

На платформе Sbercloud представлена русскоязычная модель GPT-3 Large. Она включает в себя 760 000 000 параметров и может:

• Генерировать текст на русском и английском.
• Продолжать программный код.
• Отвечать на вопросы.

Работать с программой нужно методом «затравочного программирования». Необходимо ввести запрос, а GPT-3 подстраивается под него. Разработчики сразу оговорились, что результат не может быть предугадан заранее, иногда он бывает неуместным — за это программисты никакой ответственности не несут.

Я на данный момент работаю над заказом по seo-текстам для сайта по наркологии в Санкт-Петербурге, поэтому решил посмотреть, кто лучше: я или GPT-3?

Вбиваю ключ «Лечение наркомании в Санкт-Петербурге». Первые 5 попыток дают нелепые и смешные результаты:

Я решил уточнить задачу, что именно мне требуется. В окно «затравки» я вбил «Лечение наркомании в Санкт-Петербурге подробный текст». Результат был удачным:

Я получил контент на 1 255 символов с пробелами. Очень неплохого качества, со знанием дела и тематики.

Text.ru выдал 100% уникальность, ключевые показатели составили 33% заспамленности и 17% воды. Это соответствует требованиям моего заказчика. Хотя водянистость у меня обычно в зеленой зоне, не более 15%, но это мелочи. Можно подставить ключевые слова, и заказ готов.

Я попробовал сделать еще один текст. Мне заказывают их 4 в неделю. Теперь GPT-3 меня сразу понял и выдал результат с первой попытки. Версия стала лучше, на 1312 символов с пробелами и походила на классический контент статейника по наркологии.

Показатель заспамленности поднялся до 42%, до моего стандартного уровня. Но это произошло из-за того, что GPT-3 сам включил в текст большое количество нужных ключей. Уникальность 100%. Для медицинской тематики это очень высокий показатель.

Впечатление положительное. Конечно, программа понимает пользователя не сразу, выдает иногда бессмыслицу, но использовать ее как экстренного бесплатного копирайтера реально.

В России это единственная версия GPT-3. Я решил посмотреть, какие программы существуют в бурже. Я хорошо владею английским, поэтому иногда беру в работу контент на иностранном языке. Многие вебмастера также переходят на работу с буржем, поэтому наше исследование может быть им полезным, и даже помочь сэкономить денег.

Какая ситуация в бурже?
Когда летом я готовил первый материал об искусственном интеллекте, я зарегистрировался в листе ожидания OpenAI, разработчика GPT-3. Прошло больше четырех месяцев, а ответ на почту так и не пришел. При этом на самом портале набор продолжается до сих пор, только расширился список вопросов к кандидатам на демо доступ. Приоритет отдается академическим исследователям, к которым я, видимо, не отношусь.

На данный момент за рубежом существует большое количество уже готовых решений на ИИ. Этому вопросу посвящен портал https://gpt3examples.com. Тут есть база программ и подборка твитов разработчиков. Правда, последние публикации были лишь в конце октября 2020 года. Потом у вебмастера либо не стало времени, либо пропал интерес. Но база все равно очень обширная. С ней удобно работать, можно даже скачать в формате CSV или распечатать.

Первая программа, к которой я обратился, была сервисом почтовых рассылок Magic Email. На видео сообщалось, что можно по ключевым тезисам сгенерировать полноценное письмо, и это в 5 раз ускорит написание креативов для рассылок.

К сожалению, после регистрации я увидел уже знакомую надпись о листе ожидания. Новых пользователей приглашают редко, разработчики предложили мне запастись терпением.

Следующей программой для тестирования стала https://app.snazzy.ai. Она предлагает большой вариант генерации креативов. От банального контекста или объявления в Facebook, Google Ads до полноценного позиционирования бренда. В начале работы программа предложила мне ввести название и ключевые особенности моего бизнеса, чтобы GPT-3 лучше понимал поставленные задачи.

Я решил протестировать самую популярную задачу — генерацию контента. Тему выбрал строительство загородных домов. Она близка мне по работе с заказчиками. Требовалось ввести следующую информацию:

• Название темы
• Краткое описание

Я указал 3 ключевых преимущества, и в результате получил полноценную статью о модульных домах с историей и даже небольшим количеством статистики.

Результат оказался приличный, но бесплатная версия программы длится всего неделю. Далее за каждый месяц придется платить $49. Не очень дешево по нашим меркам.

Следующее решение называлось https://www.copy.ai. Помимо создания креативов, данная программа предлагала даже идеи «мозгового штурма», то есть новые продукты, концепции брендинга и даже поиска способов роста клиентской базы.

В этот раз я затронул тематику финансов. В качестве идеи был выбран инвестиционный фонд малой капитализации. Ниша инвестиций популярна сейчас за рубежом. В результате мне были предложены 10 идей для стартапа с контентом разной степени проработки содержания:

7 идей описаний моего продукта, также разной степени детализации:

Результаты достойные, но следует учесть, что в исходных данных я указывал подробное описание объемом 649 знаков с пробелами, что помогло GPT-3 лучше меня понять.

Увы, бесплатная версия доступна недолго, всего три дня. Далее стоимость составляет $35 в месяц.

А есть ли что-то бесплатное полностью? На журналистском портале deadline.media я увидел пресс-релиз о запуске полноценной бесплатной базы данных big data, предназначенной для работы именно с ИИ.

На искомом портале https://tethys.xyz все действительно в свободном доступе. Но вот разобраться может тот, у кого есть навыки работы на Python или хотя бы опыт работы с Google Colab, GitHub.

А как быть простым пользователям? Пользоваться только платными программами в бурже, а для генерации русскоязычного контента тестовым решением монополиста Сбербанка?

Как Сбербанк разрабатывал GPT-3
Вернемся немного в прошлое. 22 октября 2020 года Сбербанк выложил в открытый доступ первую русскоязычную модель GPT-3, о чем сразу сообщили многие порталы, включая Т-Ж. Однако, пользоваться ей могли только пользователи с минимальными навыками, о чем говорил представитель разработчика.

Работа с уже обученными моделями проста. Требуется уметь скачивать и запускать готовое решение и минимальный набор навыков уровня Junior Data Scientist:

• Язык программирования Python.
• Понимание смысла одной метрики качества (перплексии).

Для реализации собственной задумки на основе GPT-3 нужна уже идея и навыки прототипирования.

Пользователи активно ждали более популярной версии, задавали вопросы специалисту по машинному обучению Сбербанка Сергею Маркову.

Релиз действительно состоялся, правда, с большой паузой. 4 декабря Сбербанк презентовал web-интерфейс для тестирования, а 15 декабря объявил о коммерческом запуске ML Space — облачной платформы для решений на основе GPT-3. Именно его мы сегодня и тестировали.

ML Space позиционируется как единственная система, позволяющая обучать ИИ более чем на 1 000 графических процессорах (GPU). Планы Сбербанка большие:

• Сделать цены на программу самыми низкими — 3 рубля за GPU-минуту обучения и препроцессинга, 12 копеек за CPU-минуту, 0,054 копейки за инференс модели.
• Выдавать предпринимателям гранты до 1 000 000 рублей на внедрение и обучение ML Space.

Результаты тестовой версии меня удовлетворили. Будет ли доступна пользователям бесплатная версия, или за нее все-таки придется платить. Я решил узнать, что думают об этом специалисты отрасли.

Мнение эксперта
Финансовый директор компании Work Solutions Максим Мул уверен, что модель Сбербанка и вовсе не GPT-3.

Стоит понимать, что модель от Сбера похожа на GPT-3, но не является ей. Сами авторы признают, что она в 230 раз меньше самой большой версии GPT-3, у которой 175 млрд весов, а значит, повторить результаты бенчмарков реальной GPT-3 она не сможет.

Сбер опирался на описание архитектуры GPT-3, которое, как показывает практика, может отличаться от реальной реализации. Сказать точно можно, только ознакомившись с тренировочными параметрами, и если раньше веса публиковали с задержкой, то в свете недавней сделки OpenAI и Microsoft шансы на это тают.

Многие пользователи в сети придерживаются такого же мнения, иногда не стесняясь в выражениях. Так настоящий ли это GPT-3 в России? Если нет, почему разработчики не используют оригинал?

Почему в России есть проблемы с GPT-3?
На данный момент частные разработчики в России практически не используют GPT-3. При этом за рубежом таких программ много. В чем причина?

Российские разработчики могут запросить доступ к модели GPT-3 через высокоуровневое API. Реального доступа к модели нет ни у кого кроме Майкрософт, с которой OpenAI недавно заключила сделку и дала эксклюзивные права на использование.

Обучение GPT-3 обошлось OpenAI не менее $10 000 000. Таким образом, воспроизвести работу OpenAI могут только крупные компании c сильными ML-специалистами и мощными вычислительными ресурсами.

OpenAI обладает очень сильными маркетологами. GPT-3 — потрясающая технология, но у Google и Facebook есть открытые языковые модели не хуже. Просто они менее раскручены.

Доступ нашим специалистам получить сложно, но возможно. В сети прилагаются подробные инструкции, как сделать лендинг мнимого стартапа и уговорить разработчика GPT-3 дать доступ за 10 минут. Русская смекалка!

Вывод
Русская версия GPT-3 существует только в исполнении Сбербанка. Правда, среди экспертов и вебмастеров есть мнение, что это лишь попытка создать свой ИИ по образу оригинала.

Основные причины для отсутствия русских приложений на GPT-3:

• Трудность получения реального доступа.
• Высокие затраты на разработку и обучение.

Тем не менее, решение Сбербанка практично, позволяет генерировать контент даже в тестовом доступе. Очевидно одно — технология GPT-3 развивается большими темпами, и появление полноценного программного обеспечения на русском языке лишь вопрос времени.

Будьте в курсе всех новостей и кейсов в 2021 году — подписывайтесь на наши Телеграм-каналы: основной канал, e-commerce и классический манимейкинг.

Пишешь качественные тексты, но все еще в поисках клиентов? В нашем разделе «Работа» множество вакансий для копирайтеров и SMM-специалистов.

GPT-3 – что это?

GPT-3 — предварительно обученный генеративный преобразователь. Это третье поколение языковой модели, созданной разработчиками OpenAI, которая способна генерировать письменный текст на английском языке такого качества, которое часто трудно отличить от текста, написанного человеком.

Если сравнивать с ее предшественником, новая версия алгоритма намного умнее, количество используемых параметров увеличилось с 1,5 до 175 млрд. Более, чем в сто раз!

Как это работает?

Вы вводите исходный фрагмент текста и модель сама начинает создавать продолжение сюжета. Иногда алгоритм «увлекается» и начинает уходить от основной идеи, поэтому, периодически требуется коррекция отдельных фрагментов текста.

GPT-3 – как пользоваться?

Как видно из описания алгоритма, его основная задача генерировать качественный текстовый контент.

GPT-3 используется в чат-ботах, для создания текстов – рассказов, стихов, инструкций, текстов рекламных сообщений, твиттов, сценариев, идей для блогов и так далее.

В сентябре 2020 года я получил доступ к GPT-3 и начал экспериментировать с качеством контента.

Вот две статьи из многих, которые написаны GPT-3:

Качество контента очень высокое. Мне оставалось добавить изображения и несколько цитат и ссылок для придания тексту «человечности».

GPT-3 вполне можно использовать для массового создания контента для тех нищ, в которых этот контент особо не читают.

Но если ваш проект требует контент не только хорошего качества, но и точности, что требуется для YMYL-страниц, вам придется немного повозится, корректируя направление создаваемого контента и проверяя факты.

GPT-3 пока еще слабо обучен для генерации текстов в точных науках – математике, физике и других подобных направлениях.

Для текстов SEO-тематиках этот алгоритм, как вы поняли, очень даже пригоден.

На моё удивление, языковая модель не только знала о существовании Ahrefs, Majestic, SEMrush, но и понимала специфику этих инструментов.

Как получить доступ к GPT-3 online?

Это довольно сложный вопрос. Изначально доступ к API OpenAI был бесплатным. Затем компания закрыла его и теперь нужно подавать заявку в «Лист ожидания».

Я тоже, как и десятки тысяч других пользователей, подавал такую заявку. Практика показала, что отправка заявки через «Лист ожидания» без дополнительных усилий – это путь в никуда. Вы будете ждать ответа, но он так и не придет.

Способ для тех, у кого есть способности хоть что-то программировать.

1) Подаете заявку в «Лист ожидания».

2) Покупаете домен для будущего инструмента.

3) Разворачиваете сайт и создаете презентационную страницу инструмента, чтобы была понятна основная идея и для чего вам нужен GPT-3.

3) Делаете презентацию.

4) Находите в Твиттер Greg Brockman @gdb и пишите ему примерно такой твит https://twitter.com/Asharjamil/status/1317163403681693699

Автор этого твита позднее написал – «Спустя всего 10 минут я получил ответ от него с просьбой прислать свою электронную почту. И бум, я получил доступ».

Если у вас совсем туго с фантазией под какую идею создать «стартап» с целью получения доступа к API OpenAI, воспользуйтесь этим сервисом, который тоже работает на GPT-3.

Если это для вас очень сложно, можно воспользоваться теми сервисами, которые уже есть:

FitnessAI – это чат-бот на тему здоровья и фитнеса. Задавайте боту вопросы и копируйте ответы. Таким образом, вы получите сгенерированный текст.

Boredhumans – это целый набор инструментов на базе GPT-3. Нет смысла все их описывать, просто зайдите и посмотрите.

CopyAI – инструмент для создания рекламных текстов в социальных сетях. CopyAI платный, но есть тестовый бесплатный период.

Shortlyread – платный генератор эссе. Есть возможность бесплатно пару раз протестировать. Я читал отзывы людей, которые купили платную подписку. Судя по всему, они очень довольны.

Если эти два способа получения доступа к GPT-3 вас не устроили, я могу посоветовать бесплатно пользоваться GPT-2. Дешево и сердито.

Как получить доступ к GPT-4?

OpenAI по-прежнему блокирует доступ к своим моделям для некоторых стран, а GPT-4 протестировать очень хочется, верно?

Давайте, я расскажу как это сделать.

Открываем сайт POE. Он позволит вам бесплатно пользоваться не только ChatGPT, GPT-4, но и еще несколькими интересніми чатботами. Обратите внимание на то, что пока на пользование GPT-4 существует лимит — один запрос в сутки.

Второй вариант — заходим на сайт try-alters и пользуемся бесплатно GPT-4. Тут тоже есть ограничение. Суть его в том, что диалоговое окно ввода сообщения поддерживает не очень большое количество символов, но достаточное, чтобы коммуницировать с чатботом.

Самый интересный вариант — переходим на chat.forefront.ai , регистрируемся, пользуемся GPT-4.

Если статья вам понравилась, поделитесь ей в социальных сетях и подписывайтесь на мой телеграм канал SEO Inside.