11 октября 2023 554

Обзор сервиса GPT-J и его возможностей

GPT-J — это искусственный интеллект с открытым исходным кодом, который характеризуется особенно своей моделью на 6 миллиардов ступеней. Можно сказать, что это предок более известной GPT-3, которая в своей основе обладает 175 миллиардами внутренних сценариев.

Но такая разница в цифрах не должна пугать или отторгать — наоборот, у более старшей модели лучше налажены алгоритмы обработки общего естественного языка, да и в целом имеется пара-тройка преимуществ.


Как можно использовать GPT-J

В силу того, что в мире ежедневно появляется огромное количество программного обеспечения на основе искусственного интеллекта, стоит рассмотреть, какие именно задачи выполняет GPT-J и как именно он с этим справляется:

  1. Генерация кода. GPT-J получил базу в виде Pile на 835 GB архивов, разделенных на 22 набора данных. В их число вошли фундаментальные источники (например, Arxiv, PubMed), различные специализированные сообщества (StackExchange, Wikipedia), а также хранилища для готового кода (GitHub, как вариант). Благодаря такому набору можно заставить программу написать практически любой код, в отличие от GPT-3.

  1. Чат-бот. Самый простой способ использовать искусственный интеллект — сделать его своим собеседником. Ровно до тех пор, пока робот не научится абсолютно подражать человеческой манере общения, будут вводиться постоянные улучшения и создаваться новые версии GPT. Конкретно GPT-J не так сложно интегрировать внутрь центра технической поддержки для автоматизированного ответа на вопросы пользователей.

  1. Сторителлинг. Мало кого сейчас можно удивить тем, что искусственный интеллект спешит занять места художников и писателей, но с помощью GPT-J от этого процесса можно даже получить удовольствие. Например, если его правильно настроить на стиль одного из любимых авторов — таким образом можно абсолютно легально получить продолжение для «Гарри Поттера» или «Игры престолов».

  1. Выделение основной мысли. Основная проблема огромных текстов заключается в том, что необходимо одновременно держать в памяти множество мелких моментов и уметь их правильно складывать в цельную картинку. Машинам типа GPT-J в этом плане проще: на них не давят внешние факторы, да и они могут одновременно производить кучу анализов:

  • Анализ финансового рынка. Извлечь основные показатели по финансам, проанализировать соответствующую отчетность и предоставить сигнал по торговле, либо выполнить некоторые действия самостоятельно.
  • Оптимизация папки «Входящие» электронной почты. Как вариант, это неплохо помогает сосредоточиться на по-настоящему важных вещах, к примеру, времени будущего полета, списаниях по кредитной карте или месте проведения рабочего собрания.
  • Рекомендации по содержанию. Правильно извлечь информацию из статьи — значит, понять ее основную мысль и проникнуться идеей автора, чего он и добивался.
  1. Перефразирование. Не стоит путать это с суммированием информации, что GPT-J тоже делает достаточно качественно. Перефразировать — значит, представить всю ту же информацию, но немного в другом свете, сохранив при этом основную идею отрывка. Лучше всего это просматривается на примере.

Как можно понять, данный искусственный интеллект умеет делать практически все, что может так или иначе потребоваться простому интернет-обывателю, либо профильному копирайтеру. Единственное, что не формирует уникальные изображения и обладает минималистичным интерфейсом. Также проблемой может стать работа только на иностранном языке — часть сервисов, которые дают «поиграться» с этой системой, поддерживают русский язык, но иногда он крайне некачественный, к примеру:

С учетом того, что система поставляется абсолютно бесплатно и самостоятельно развивается, не требуя от пользователя ввода каких-либо дополнительных данных — это приятное знакомство с искусственным интеллектом. Иногда, конечно, не обходится и без перлов (надо будет запомнить на случай вопросов от родственников):


Вывод

GPT-J — это пример того, что языковые модели постоянно развиваются, и при этом помощь пользователей неоценимо велика за счет проведения экспериментов и подобных знакомств с новой технологией (банально задать вопрос о погоде = новый сценарий поведения). Конечно, для более удобной работы с искусственным интеллектом необходимо производить более точечную настройку каждого из параметров, чем обладает, например, GPT-4, но у GPT-J уже есть ползунки «температуры» и «тона» для переключения между разговором и официальной беседой.

Официальный адрес сайта — https://www.eleuther.ai/

14 января
  • Саппорт 6
  • Технологии 7
  • Эффективность 8
  • Надежность 8
Результат зависит от вас

Вы можете использовать некоторые бесплатные онлайн-игровые площадки для GPT-J и GPT-NeoX от Eleuther, чтобы протестировать различные устройства. Чем длиннее и нагляднее ваше начальное приглашение, тем медленнее будет продвигаться рассказ, в то время как чем короче ваше приглашение, тем быстрее будет продвигаться рассказ. Если вы пишете предложения хорошего качества с отличными прилагательными и грамматикой, результат часто будет более реалистичным и похожим на реальный

Этот отзыв отражает субъективное мнение пользователя, а не официальную позицию редакции.

14 января
  • Саппорт 8
  • Технологии 7
  • Эффективность 8
  • Надежность 8
Вполне рабочее решение

Я добился успеха с GPT-J (6B) [0] и GPT-NeoX (20B), но они, вероятно, не совсем того уровня качества, который вы хотели бы иметь. С другой стороны, Facebook недавно опубликовал веса для нескольких размеров своей модели OPT [1]. Я не пробовал, но, возможно, на это стоит обратить внимание, потому что они утверждают, что их модель сопоставима с Davinci Обратите внимание, что для вывода процессора вы не сможете использовать float16

Этот отзыв отражает субъективное мнение пользователя, а не официальную позицию редакции.

14 января
  • Саппорт 6
  • Технологии 8
  • Эффективность 7
  • Надежность 8
Сервис стал лучше

GPT-J улучшилась несколько недель назад. Конечная точка модели изменилась; старая конечная точка начала давать односложные ответы. Новая конечная точка имеет улучшенный диалог. Я также согласен с тем, что Fairseq кажется более глубоким, но с точки зрения обеспечения последовательного разговора он повсюду. Будем надеяться, что с новой моделью с поддержкой рекламы команда Chai добавит новые и улучшенные языковые модели, которые не защищены платным доступом.

Этот отзыв отражает субъективное мнение пользователя, а не официальную позицию редакции.

14 января
  • Саппорт 6
  • Технологии 8
  • Эффективность 8
  • Надежность 7
Хорошее решение

Я переключался между Fairseq 13B и стандартным GPT-J Lit 6B на своих ботах, и среди всех семи ботов я могу честно сказать, что на самом деле считаю, что GPT-J Lit 6B лучше. ... он показывает эмоции и придерживается темы, даже если вам приходится постоянно напоминать ему факты.

Этот отзыв отражает субъективное мнение пользователя, а не официальную позицию редакции.

Оставить отзыв

22 декабря 2024
Саппорт
Технологии
Эффективность
Надежность

*Все отзывы проходят модерацию, это занимает до трех дней.
*Отзыв может быть отклонен или перенесен в сомнительные по решению модераторов.
*Поменять статус отзыва после модерации невозможно.


Новейший Linken Sphere 2 бесплатно