Вы можете использовать некоторые бесплатные онлайн-игровые площадки для GPT-J и GPT-NeoX от Eleuther, чтобы протестировать различные устройства. Чем длиннее и нагляднее ваше начальное приглашение, тем медленнее будет продвигаться рассказ, в то время как чем короче ваше приглашение, тем быстрее будет продвигаться рассказ. Если вы пишете предложения хорошего качества с отличными прилагательными и грамматикой, результат часто будет более реалистичным и похожим на реальный

Я добился успеха с GPT-J (6B) [0] и GPT-NeoX (20B), но они, вероятно, не совсем того уровня качества, который вы хотели бы иметь. С другой стороны, Facebook недавно опубликовал веса для нескольких размеров своей модели OPT [1]. Я не пробовал, но, возможно, на это стоит обратить внимание, потому что они утверждают, что их модель сопоставима с Davinci Обратите внимание, что для вывода процессора вы не сможете использовать float16

GPT-J улучшилась несколько недель назад. Конечная точка модели изменилась; старая конечная точка начала давать односложные ответы. Новая конечная точка имеет улучшенный диалог. Я также согласен с тем, что Fairseq кажется более глубоким, но с точки зрения обеспечения последовательного разговора он повсюду. Будем надеяться, что с новой моделью с поддержкой рекламы команда Chai добавит новые и улучшенные языковые модели, которые не защищены платным доступом.

Я переключался между Fairseq 13B и стандартным GPT-J Lit 6B на своих ботах, и среди всех семи ботов я могу честно сказать, что на самом деле считаю, что GPT-J Lit 6B лучше. ... он показывает эмоции и придерживается темы, даже если вам приходится постоянно напоминать ему факты.