AI Dynamic Storytelling Thread Это тред про генераторы историй на базе ИИ. Динамические рассказчик /storytelling/
Аноним
26/12/22 Пнд 12:29:46
№
1
Это тред про генераторы историй на базе ИИ.
Динамические рассказчики с искусственным интеллектом (AI Dynamic Storytellers)- это игры, которые используют искусственный интеллект для генерации текста и изображений для создания безграничной, открытой, интерактивной художественной литературы. Они позволяют быстро и просто получить тонны разных историй, заботливо сгенерированных ИИ, который учитывает ваши пожелания и идеи, по сути это интерактивные истории и текстовые РПГ.
Крайне желательно знать английский язык или уметь пользоваться переводчиками
Самые популярные из генераторов историй на данный момент:
1) Kobold AI.
Бесплатный проект, есть много модулей, как с цензурой, так и без, можно запускать из коллаба или локально у себя на пекарне требуется минимум 8gb видеопамяти на видеокарте, активное сообщество, которое допиливает проект. Из условных минусов - нужно читать гайды по настройке, понимать что куда крутить, а что не трогать. Знание английского языка сильно пригодится, потому что большинство гайдов и пояснений на нём, как и остальное.
https://koboldai.org - клиент для запуска на пекарне
https://koboldai.org/colab - гугл коллаб для запуска с одной кнопки
https://aids.miraheze.org/wiki/KoboldAI - вики на английском
https://rentry.org/itsnotthathard - гайд от англоанона, где всё подробно расписано
https://henk.tech/softtuner - Модули
https://github.com/TavernAI/TavernAI - версия с новым графическим интерфейсом в стиле чат-бота и более простым управлением.
https://rentry.org/cdztg - краткий гайд для тех, кто не владеет английским
2) Novel AI.
Платный генератор историй + картинок к ним. На данный момент оплата с территории снг вызывает проблемы. Есть бесплатный триал, но как вы наверное и сами поняли, он имеет серьёзные ограничения, чтобы заставить вас раскошелиться. Имеются разные
Генерация картинок на сайте, кстати, тоже платная. но модель была слита в сеть и соседних тредах про генерацию картинок вы можете сделать это бесплатно, лол
https://novelai.net - сайт проекта.
https://aids.miraheze.org/wiki/Category:NovelAI - небольшая вики от англоанона
https://rentry.org/skucs - краткий гайд на русском
https://grotar00.itch.io/nai-card-editor - NAI Card Editor (Простой визуальный инструмент для создания карточек в формате PNG для иллюстраций квашим Лорбукам NAI)
3) AI Dungeon
AI Dungeon — однопользовательская и многопользовательская текстовая приключенческая игра, использующая искусственный интеллект для создания игрового контента.
В теории она как бы бесплатная, но на практике вы встречаете серьёзные ограничения на бесплатную версию, которая по сравнению с самой дорогой подпиской выглядит как котёнок в сравнении с тигром. Генерация картинок тоже есть, как и в NAI, но отгорожена премиум-подпиской, оплата которой из снг тоже является проблемой. Цензура присутствует, так что не рассчитывайте на многое, там она будет следовать за вами постоянно.
https://aidungeon.io - сайт проекта
https://ru.wikipedia.org/wiki/AI_Dungeon - вики по AID
https://rentry.org/remember-what-they-took-from-you - англоаноны поясняют за проблемы проекта
Дополнительное:
Генератор промтов: https://aetherroom.club
В помощь писателям: https://aids.miraheze.org/wiki/Writing_Resources
Делимся своими рассказами, пытаемся получить интересное, обсуждаем новости по теме. Приветствуются советы от анонов, русскоязычные гайды и скрины самых удачных генераций.
Можешь ссылку оставить, в следующем треде будет в шапке.
Ну и дополнения, советы по треду тоже приветствуются.
https://porfirevich.ru/ - держи.
Инструкция: Просто пишешь что угодно, он продолжает. Писать надо по русски. Ограничений нет. Цензуры нет. Часто нужно рероллить, но это не проблема
^лучше это вставить, а то в шапке по сути нет ссылок с нормальными гайдами на всю эту фигню
https://github.com/KoboldAI/KoboldAI-Client/wiki
не вкурил я как его заводить
кстати я могу в целом запускать кобольд с одной кнопки, не будет разницы в производительности с кобольдом из гайда где v1 и v2 collab
Шапка как шапка, первая версия, потом допилится до нормальной с течением времени.
Кстати, про коллаб:
Свободных TPU может не быть в наличии, потому что их мало и они всем нужны. Зато GPU всегда есть свободные, так что лучше начинать с GPU коллаба:
https://colab.research.google.com/github/KoboldAI/KoboldAI-Client/blob/main/colab/GPU.ipynb
На GPU доступны модули 2.7B и 6В. Их вполне достаточно для генерации, особенно в начале.
За более йобистыми моделями 13В и 20В придётся стоять в очереди за TPU.
https://koboldai.net
Орда кобольдов
Это краудсорсинговый распределенный кластер клиентов KoboldAI. Вы можете бесплатно скачать клиент и использовать его, чтобы испытать истории, похожие на AI-Dungeon. Если вам нравится эта услуга, подумайте о том, чтобы присоединиться к орде самостоятельно!
Для получения дополнительной информации ознакомьтесь с часто задаваемыми вопросами. Также ознакомьтесь с нашим партнерским проектом по созданию изображений: Stable Horde
>в очереди
а можно автоматизировать это а то каждый раз тыкать надоедает
Ну в теории ты можешь написать скрипт. На практике все либо ждут пока сша/европа схлынет с очередей и ляжет спать, либо переодически раз в полчаса заходят и тыкают, иногда срабатывает.
А в целом аноны на gpu сидят, там очереди если и бывают, то очень редко.
я заметил что на гпу некоторые истории с aetherroom тупо ломают кобольда и приходится перезапускать, это изза того что они слишком тяжелые?
Да, в кобольде на gpu лучше не выкручивать все настройки на максимум, иначе сломается. Особенно касается количества токенов.
Тогда да, некоторые истории всё обваливают из-за объёма. Так что на gpu выбирай не самые большие.
В коллабе можешь выбрать UNITED версию, а не official.
Выбираешь следующей строчкой после модели.
Когда в коллабе у вас всё загрузится, то выдаст 2 ссылки:
1. На старую версию интерфейса
2. На новую (_new_ui)
Так что выбирайте вторую. ну или первую, если хотите
Извиняюсь, мой тред двумя блоками ниже. Простите за беспокойство. Пока не ушёл, хоть поделитесь именно своими историями с кобольдом, а то пока тут только инструкции и другие истории.
Когда-то давно баловался с аиданжн, но на бесплатном это было ужасно.
Полтора месяца назад оплачивал новелаи попробовать. Оплачивал через виртуальную карту. Оплата прошла все ок. В целом понравилось. Цензуры нет, ради пробы баловался с порнофанфиком, достаточно неплохо вело повествование.
Пробовал художественное писать, тоже ок. Приноровиться только надо, указывать корректно в память сведения и приноровиться как лучше начинать предложения, как править, чтобы новелаи более удачно вел рассказ.
Но в целом чтобы писать в новелаи нужно все же иметь какой-то план повествования. Да движок рандомит интересные повороты, но не имея четкого плана можно заблудиться и вот тут-то при создании плана я понял что надо новелаи юзать в связке с characterai. Начал обсуждать сценарий, сюжет с чарактер аи, достаточно интересные идеи нейронка начала выдавать, то есть я мыслю в своих шаблонах, а она предлагает те про которые я бы даже не подумал. Как будто ты в соавторстве обсуждаешь с кем-то. Может подсказать какие-то элементы магий, механик, историй мира, имена, названия, в общем чарактер аи может помочь придумать всё что надо для плана. И потом уже по этому примерному плану можно писать через новелаи, вплетая в свой план удачные рандомности новелаи, исправляя отдельные слова в нагенеренном тексте новелаи и заполняя пробелы.
Писать же через чарактераи пока невозможно, в виду того, что тяжело ее вести в нужном направлении и отсутствует возможность править текст ответа.
Сейчас отказался от подписки новелаи, пока не собираюсь ничего писать. Возможно чуть позже решу начать что-то художественное, тогда буду использовать связку чарактераи+новелаи. В первом буду всё обсуждать и спрашивать идеи и прочее, и во втором писать. Реально ощущение что ты с командой пишешь, да и работать по уже готовым идеям, текстам и их исправлять в нужное направление намного проще и быстрее, чем начинать с чистого листа, не слушая иных вариантов.
Ну, из последних историй это пикрелейтед вечеринка антрозверей, вместе с кроликом собираюсь ебать лису. Просто находишь похожую историю на аетхеруме и переписываешь как тебе нужно. Экономит время, повышает профит.
Круто, надеюсь, будешь потом выкладывать скрины результатов?
Про скандал с данжен.аи нужно тоже в шапке указать как на форче сделано, чтобы аноны не забывали какие они уебки
https://rentry.org/remember-what-they-took-from-you
Прочитал только что.
Ебать суки, конечно. Это пока даже похуже индусов будет.
Только откатом до лупа и вбросом куска истории самостоятельно, чтобы скормилось и пошло дальше.
>AI Dungeon Цензура присутствует, так что не рассчитывайте на многое, там она будет следовать за вами постоянно.
Разве там нет NSFW переключателя?
Есть, конечно, но цензуру закрутили так, что аноны дико орут и всё что хочешь творить тебе никто не позволит.
Нужно объяснение. Там три позиции у переключателя, зачем вообще было их делать, если все равно улетишь в бан за 18+ контент?
Порфирьича я знаю, а тут я так понимаю в РПГ играешь текстовую
Ну, в теории ты можешь в кобольда вписать русское. А вот что он тебе там выдаст...
У меня одного колаб для KoboldAI выдает "Не получается выделить серверную ВМ"?
Я пробовал утром - не работает, и вечером тоже
Используй gpu-вариант значит. 2.7В и 6В тебе хватит.
https://colab.research.google.com/github/koboldai/KoboldAI-Client/blob/main/colab/GPU.ipynb
Что бы деньги заплатил, думая что можно все, и в бан улетел. AID сейчас чисто про выкачку денег.
>Что бы деньги заплатил, думая что можно все, и в бан улетел.
Таки, идеальный бизнес-план.
> Shine Lit Horni
Древнейшее говно таблица, ты бы ещё говно динозавров принёс.
Сейчас единственная нормальная модель для NSFW а нахуя ещё игрушка нужна, лол? - Erebus.
В соседнем чай-треде цензура ебёт даже обычные рп, так что кобольд и новел всё ещё актуальны для этого.
Ну я тестил Кобольд как чат бот на UI2, но, как минимум на еребусе, после CAI как-то неоч
Ну я в эдвенчур-моде норм так отыгрываю. Чатик, конечно, не особо продвинутый, но в остальном хорошо.
Много рероллишь?
Я заебался править и рероллить если честно
Я хотя не на 20B, а на 13B модельке
Да не особо и рероллю. Разве что когда уже лютую дичь выдаёт, но это не часто.
>First you need node, after you run Tavern and go in right menu settings, there is text pole with api url. There you add Colab url.
Для работы жирных моделей нужно чтобы было много памяти в одном гпу? Или можно купить четыре 3060 и заиметь 48ГБ видеопамяти?
> можно купить четыре 3060 и заиметь 48ГБ видеопамяти?
Зис, если ты про кобольд
Там можно слои на разные видюхи раскидывать
>Kobold AI
Дак это не я один значит создавал и кораптил кобольточек в эйай данжоне в 2к20...
О, это интересно, особенно учитывая какие там некоторые модели. Спасибо.
Кобольд наиболее слейвабл и рейпабл раса, это общепризнанный факт.
Надо с компа попробовать, с телефона один фиг отваливается через полчаса, несмотря на воспроизведение.
С одной стороны - после ChAI очень больно и мало добавляет в каждом куске, фапать на мегаинтерактивный ChAI гораздо интереснее.
С другой стороны, Erebus 6B (почти) без моего вмешательства сгенерил историю о том, как молодые студентки на паре по истории выходили к доске, показывали трусики и рассказывали про Холокост.
Ну кобольд это чисто поиграться, я и с 13B, и с 20B игрался на коклабе про. Та же петрушка - чувствуется отсталость, хуйня забывает всё, путается
Надоедает быстро, в отличии от CAI
>чувствуется отсталость
Эх, вот бы немного отсталую, но милую кобольдочку
Ну так во-первых, cai это нейросетевой чат, а кобольд - DST, причём без активного обучения нейросетки онлайн без смс. Зато и запустить кобольда можно на локалке, а не как cai - на йоба-суперпеке от гугла.
Так я и не только в чат моде тестил, больше как обычные story. Первое время нормально, но даже с 2048 токенами очевидно наверное после пары абзацев всё забывается и начинаются повторы и забывание
Лучшие Nerys и Erebus на мой взгляд
> вот бы немного отсталую, но милую кобольдочку
Два чаю, ебал бы и ебал.
Что и куда ты распределяешь.
Если видеопамяти хватает - все в ползунок GPU
Disk cache всегда держи выключенным, в 0. Это если тебе оперативы не хватит.
Если видеопамяти не хватает распредели, допустим 25 слоев из 32 на гпу, а остальное само уйдёт на CPU. Но имей ввиду - будет медленнее.
Я вижу, что ты хочешь 6.7B запустить на 12 гигах врама, но к сожалению у тебя в 16 бит не получится. Либо надо пердолить 8 бит, но там несколько сложно и гайдов нет, мне день писать
Либо просто часть слоёв накинь на CPU и жди.
>а не как cai - на йоба-суперпеке от гугла.
cai насколько я помню это примерно 130-170B. А это всего 4-5 gtx A100, Я думаю пара миллионов не так уж и много для собственной ai waifu, где не будет цензуры и всего остального и где у тебя будет полный доступ ко всем настройкам.
За текущую имплементацию я бы столько не заплатил, она годная безусловно, но все-таки не настолько чтобы под 50к зелени в железо вливать.
Прикол в том что сейчас у них лоботомированная модель, которая на порядок хуже чем была пол года назад
Список новых фич:
New Features
Phrase Biasing
There is now a Phrase Biasing implementation under Settings -> Biasing. You can now encourage or discourage the AI to generate words or phrases (without needing to use a userscript)
Context viewer
The Context Viewer allows you to see what is sent to the AI. Given that only so much text can be read by the AI at a time, it's useful to know exactly what it's looking at.
Story Commentary
Story Commentary allows custom characters to speak their mind on your story. This can be configured under Settings -> Story Commentary. Characters can be added as World Into entries with a type of "Commentator".
New Chat UI (Experimental)
This new interface for Chat Mode is a more visually "chat like" in comparison to the old text-based mode. To activate it, ensure both Chat Mode (Home -> Game Mode) and Experimental UI (Interface -> Experimental UI) are enabled, then change the Chat Style (Interface -> Chat Style) to "Messages". Similarly, to the story commentators, characters can be defined in the World Info menu; if a character's name matches a chat character defined in the World Info menu, the image on the character entry will be used as an icon.
Tweaks
Tweaks allow small UI changes to be mixed and matched to create a more personalized interface.
Attention Bias (Experimental)
Attention Bias hopes to cause some parts of the context to be internally weighed more than others in self attention. This is very experimental, and only works on OPT-based models for now.
Genre
The genre menu (Author's Note -> Genre) prepends genre information to the context. You can either choose from preset genres or write your own. Works better on models trained with genre/tag information, including most new models in the model picker.
World Info generation
World Info entries can now have their text generated automatically from a title and type. Powered by whatever model you have active, so effectiveness will vary with model.
Drag and drop import
Importable files can now be dragged into the UI to load them.
NovelAI lorebook/card support
NovelAI lorebooks and cards can now be imported as World Info. If a card is uploaded, the PNG will be used as the World Info image.
Finder (Ctrl+K)
Allows jumping to various UI elements and performing actions quickly. Mode can be adjusted by pressing the clicking the mode icon or with hotkeys on an empty search box (Search: '#', World Info: '>', Inference Scratchpad: '!', Image Prompting: '?').
Club import wizard
Prompts imported from aetherroom.club with placeholders will now show a setup prompt where you can input the value of these placeholders.
Context menu
A context menu has been added and is available in several areas. Give it a try by right-clicking on the main text area.
Substitutions
Substitutions allow phrases to be replaced if you or the AI input them into the story. The default Substitutions are disabled and can be enabled with the pencil icon to the right of the entry.
Inference scratchpad
The Inference Scratchpad is a way of prompting the AI outside in isolation; the AI will not see anything in your story, and nothing the AI responds with will be added to the story. This can be useful in scenarios where you wish to use the AI in a more generic way. For example, you could prompt it with something like "List of fantasy names:" to receive such a list.
Error notifications
Errors are generally less opaque to the user. Client sided errors and many server errors will show a notification detailing the error.
Ctrl+Click to jump to World Info entry
Holding Ctrl while clicking on a mention of a World Info tag will bring you to the entry.
Model picker indicators
The model picker now has indicators showing if a model is downloaded, may achieve poor quality, or may not load on your system.
More shortcuts
Press Ctrl+? to view them.
Image Generation
You can now generate flavor images based on the game text at each action. In the settings menu in the home tab, you can click generate image to create an image based on the current text. It will appear below the image. Hovering on the image will give you the prompt used to generate the image. You can click on the text of previous actions to see the image associated with that action and can right click on the image and hit retry to generate a new image based on that action.
Settings for how/where the image is generated are in the left flyout menu under interface, image
Text to speech (Experimental)
Text to speech is now available. To enable it go to the settings menu, enable experimental ui, then enable generate audio. Audio will be generated for your actions. Play buttons will appear next to the submit button, and right clicking an action will give you a new speak option to start reading from that point.
UI Mode
In response to feedback, we've added different UI mode levels from simple to power user. Advanced hides some of the less used options, while Power User shows everything. Simple is very much a work in progress, but it intends to simplify the majority of settings to 3 sliders. Feel free to play with it but don't expect good results yet.
Presets
Presets are now here. Community presets are pre-loaded in KoboldAI and can be selected from the settings tab in the settings menu, or from the home screen. In addition, you can save your own presets and share them with others (or send them to use for future inclusion). Presets are saved in the presets folder
Alt Text Gen
With this setting on the system will insert world info text the sentence before the word that triggers it in the AI text. This should make the AI pay more attention to it and make it more likely to influence the output.
Alt Multi Gen
If set multiple generations will be generated sequentially rather than at once. This reduces the amount of VRAM required and can let you generate multiple story options with more demanding models at the potential expense of speed
Beep on Complete
There is now an option in the settings menu, interface tab called been on complete. If set the browser will beep when generation is complete. Useful for slow systems
Privacy Screen (Experimental)
By hitting ctrl+L the screen will be blurred for all users until the password is entered and unlock is clicked (password is set in the settings menu, interface tab.
Change Game Text Size
Game text can be adjusted to any size
No double spaces
When set double spaces will be replaced by single spaces
Themes
We now have a theming engine. Themes can come in 3 flavors. Palette themes use a more basic theming system entirely in the UI. Select the colors from the Palette section and things will change. Advanced themes can have various variables set manually (click the advanced theme button to see). These allow you to go a level deeper than the palette system. Finally, we have custom themes. These are custom CSS code that can do almost anything. All themes can be saved and shared. Saved themes are stored in the themes folder
Auto Memory (Experimental)
The start of auto-memory is in place and we are looking for feedback. It currently generates the summary but does not put it in memory (though you can copy-paste it). To see it, turn on experimental ui, go to the story menu, memory tab and click generate under auto-memory.
General Notes
If you want a place to write stuff down that saves with the story but doesn't affect it, that's what the notes tab is for. It is found under the story menu, Notes tab
W++ (or SBF)
In world info entries you can turn on w++ mode. This will allow you to enter data in the W++ format without having to actually write it.
World Info Titles
World info entries now have titles on them to make it easier to find the one you want. Soon the world info entries will be collapsed to just the title to make navigation easier
Download/Upload world info folders
World info folders can now be downloaded and/or uploaded. This will let you share world info easier.
Game Text in AI Context
Game text that will be in the AI's context is now bold in the game screen. This will let you easily see where the AI will stop remembering your game (anything not bolded is "forgotten")
World info context
Text that triggers a world info entry will now be italicized. Hovering over that text will cause a tooltip to show what the AI text is that will be added.
Updated help text
Help text has been expanded throughout the UI.
Context Bar
at the bottom of the story menu is a bar that shows how much of the AI's context is in use, and by what. Different colors correspond to different data types (actions, memory, world info, etc)
Improvements
Author's Note
The author's note is now inserted between sentences a configurable distance from the end of the story. This should improve the coherence of generated text while keeping the author's note relevant.
Если ты про кобольда, то он может писать что угодно, лол.
Новел и прочие - частично цензурированы.
Ну а ч.аи в последнее время вроде как стал пободрее в плане цензуры.
>Новел и прочие - частично цензурированы.
Ну хз хз, отыгрывал в новеле самую разную жесть и сексуальные девиации, никаких проблем с этим не было.
>New Chat UI
>Story Commentary
Text to speech ломает кобольда, рандомный промпт не работает, иногда визуальные баги проскальзывают, но в целом выглядит хорошо.
можешь - покупай, интересная вещь, ещё и пикчи тебе сгенерирует.
Те кто её делают писали что пока там есть баги и глюки, так что либо ждать, либо сидеть на united-версии.
Можно у кобольда какую-нибудь модель выбрать чтобы быть ГМом для нейронки? Т.е. я даю описания и строю мир, а она отыгрывает персонажа?
Я этим в чар.аи занимался, но интересно стало можно ли с кобольдом такое сделать.
>Генерирует пять строк, выводит одну
Вообще то все чат модели так работают. Они обрезают лишние строки.
Ты наверное не понял, оно генерирует 5 строк (либо меньше, либо больше, не важно) и выводит только первую строку, а те что дальше НЕ УДАЛЯЕТ, а просто скрывает.
Чет хз, у меня все отлично работает, и пустых строк не разу не было, может ты с настройками модели перемудрил?
Дефолтные поставил (из пресетов внутри таверн аи), ты в консоль то заглядывал после генераций?
Шо делать? Как быть?
У тебя на гугл-диске место-то есть? Если нет - вилкой чисти. Там нужно иметь достаточно свободного места. Если место есть - перезапусти коллаб.
Да и лучше united-версию используй, а не оффициал, там поинтереснее.
>У тебя на гугл-диске место-то есть? Если нет - вилкой чисти.
Диск от свеже созданной почты. Там кроме кобальта нихрена нет
Ты TPU или GPU коллаб используешь? Советую на gpu перейти.
Проверил только что - всё работает.
Скорее всего 20B не влезает, попробуй 13B
Это если на TPU. На GPU ещё меньше надо
Вот что выдает, на графике память ГП улетела в небеса. Интерфейс он грузит и историю, но после пары действий, память пропадает.
В контекст не влезает. Либо снижай кол-во токенов в контексте, либо, лучше менее жирную модельку, а так контекст можно до 2048.
Можно попробовать перекинуть моник на встройку и зайти с глинукса, но хз сколько токенов контекста выиграет.
Если пердоля можешь в дрискорд KoboldAI зайти ссылки нет, сам поищи, там в general есть комната 8bit, в которой подробно показано как модифицировать код для запуска моделек в 8 бит, что снижает потребление видеопамяти в два раза. Там же и bitsandbytes под шинду есть.
Теоретически - да, но на практике тебе понадобится дорогущее оборудование для обучения.
Ну для нормального количества параметров - от 6B хуй ты на консьюмерской натренируешь, даже с 24 гигами.
Посмотри softpromts в KoboldAI, может поможет, хотя сомневаюсь
>запуска моделек в 8 бит, что снижает потребление видеопамяти в два раза
А в чем подводные? Модель тупее становится?
Нет, не становится. Технически 16 бит более точные вычисления проводит, но на практике у нас в рофлонаписании текстов нет.
Подводные в том, что это всё ещё без официальной поддержки KoboldAI (ломает breakmodel) и bitsandbytes нет на шинде официально, чисто васяны скомпилили.
Я тестил сам - все работает нормально
В новел можно просто чат бота сделать, и как мне показалось он более живее чем чатик индусов где на тебя тонны инфы вываливают и всячески подлизывают. В новел бот пишет более кратко и вообще нахуй послать может если ты его заебешь, cai же вечно извиняется и просит дать второй шанс.
>В новел бот пишет более кратко и вообще нахуй послать может если ты его заебешь, cai же вечно извиняется и просит дать второй шанс.
Это должно зависеть от характера персонажа, а не от языковой модели.
Вот бы крутую нецензурную нейронку и подешевле а желательно вообще бесплатную... В новел самая топовая подписка сильно отличается от подписки за 15 бачей?
Ты должен быть залогинен в акке перед этим. Тогда сработает.
Добавьте в шапку character ai и chat gpt. Их по сути тоже можно использовать как базу для интерактивных историй.
Если я хочу адвенчуру но временами со секс сценами, что лучше,
Nerys умеет в секс или Erebus умеет в адвенчур?
Еребус это чисто для порно и эротики. А если тебе эдвенчуры с элементами ебли, то Нерис. Хотя если пердолиться, то и Еребус в приключения сможет.
Так Эребус же частично и из Нериса состоит, нет? Да и у меня там вполне полные истории получались, зачастую даже наоборот не нравится когда бот хочет очень долго и медленно историю развивать.
Я смотрю, в АИ данжене убрали выбор модели ии в настройках. Теперь у всех по дефолту стоит гпт3 или я что-то неправильно понял?
> Для работы жирных моделей нужно чтобы было много памяти в одном гпу?
Скажу больше, нужно не GPU, а TPU.
Думаешь? Я сомневаюсь что для использования сетки нужен именно тпу, там вычисления не такие жесткие как при обучении. То что в коллабе приходится тпу роллить это, как мне кажется, только потому что в тпу больше видеопамяти как правило.
Встройка в процессор это и есть по факту видяха с ддр слотами, вот только для нейронок память нужна значительно шустрее, её просто так не продают и она дорогая.
> Думаешь?
Я знаю. Кобольд колаб вообще не будет запускаться, если свободных TPU нет.
Тебе скорее в character.ai тред. Там в принципе можно создать и обучить такого бота, чтобы тебе стихи и песни выдавал приемлемого качества.
Пиздец. Целый день коллаба зря всрал.
Пигмалион в шапку бы, но тред я вижу мертвый. Интересно форчанеры уже делятся где то персами под него?
>тред я вижу мертвый.
До cai треда или NovelAI треда нам далеко, но тред далеко не мёртвый.
это пигмалион
AiDungeon(платный) - неюзабельное говно, генерит просто бред, ни подрочить ни поиграть нормально.Смысла покупать вообще никакого нет.
NovelAI - пожалуй лучшее из того что сейчас есть. Пробовал разные модели и Euterpe и Krake. Аноны писали что Krake сильно лучше, но я если честно такого не заметил, может где то он конечно получше, но не на столько чтобы переплачивать за подписку в 2 раза. Но плюсом 25$ баксовой подписки куда входит этот Krake это то что можно безлимитно картинки генерить.
HoloAI - купил недавно, тоже макс подписку, толком ещё не разобрался. Настроек меньше чем у новела, но есть много разных пресетов, в том числе и под NSFW. По уровню выдаваемого текста не дотягивает до NovelAI, но в целом нормально. Из плюсов стоит дешевле почти в 2 раза.
В общем пока думаю что NovelAI это на данный момент топ. Как нынешняя подписка кончится наверное перейду на более дешёвую 10 баксовую.
>NovelAI
Как по ощущениям осмысленность выдаваемого им текста? Доходит до уровня доцензурного chai?
Есть дофига сервисов с помощью которых можно оплатить, если в кратце то отправляешь деньги посреднике с наценкой процентов в 20, он тебе даёт казахстанскую карту с деньгами. Я через prostopay платил, но таких сервисов много.
>>73877
Ну, с chai это не особо сравнится. Не по той причине что он текст хуже генерит, а потому что в CAI есть уже прописанные характеры и ты не знаешь что там у него прописанно, поэтому и интересно общаться, узнавать что то новое у собеседника. А тут тебе приходится основную линию повествования самому выстраивать. Ну из плюсов можно загрузить кастомные модули на любой вкус наподобии этого - https://aidsrentfree.github.io/modules/euterpe
Да хуй знает, вот например без особоых настроек с NSFW модулем. Белыми буквами то что АИ нагенерил. Могу скрины с ваших промптов понакидать, чтобы заценили. На скринах кстати модуль который по любой подписке доступен.
Самое главное, что у чаи в принципе режим чата есть.
>>74455
Понятно, значит, как минимум купить подписку и протестировать стоит.
Если нужно дохуя параметров или вернуть дракона старого аи данжена, то плати за судо. Турецкий новел не даст тебе нихуя если ты не готов большую часть писать сам, исправлять и смотреть как эти несчастные 13б и 20б начинают тухнуть, еще и 20б хуевый вышел. Хотя других сервисов в целом и нет больше, надеюсь новел в этом году не будет заниматься хуйней без апдейтов
Так а причём тут старый дракон? Типо там самый продвинутый ии из нынешних? Цены конечно там пиздец, 129$ в месяц для макс подписки, это при том что есть ограничение на количество символов, охуеть.
Это единственные погромисты у которых доступ к давинчи без фильтров и можно ебать гусей с курями в эльфийской деревне, цена высокая да, иначе пользуйлся наи и надейся что в этом году будут всякие шиншилы показывать наконец и новый датасет используют
>Это единственные погромисты у которых доступ к давинчи без фильтров и можно ебать гусей с курями в эльфийской деревне
Такую хуйню я и сам могу за 5 минут выдумать, сэкономив кучу денех. Люди без воображинеия, конечно, соснулей.
В русский нихуя не умеет, что это за постановка вопроса, на английском может и заебись, дальше все равно надо учиться потихоньку писать и читать книги с материалом, тут бы просто в опенсурсе что-то хорошее увидеть, а пока аи только давят и цензурят третий год
For the epilogue, time moves forward a but. Kai has secured himself a nicer place to live, and a rich life style. One at a time his sisters (now dressed in french maid lingerie) shuffle into the room to bring him his breakfast. The whole while they are calling him “Master” and tending to his every need. Kai decides to ignore his breakfast, and start another session of sex with his lovely sister slaves.
Куплена. Но там вроде триал есть какой то. Но не думаю что есть смысл эту хуйню с триалом поднимать. Там можно в качестве бэкенда кобольда юзать, но хз насколько хорошо он генерит.
Я ток сегодня поставил, буквально пару часов назад, пока только с Krake пробовал. Хотя когда я текст мод адвенчур в самом новеле играю то обычно euterpe юзаю c пресетом low rider, как по мне она самая годная. Я хз что этот Krake так нахваливают, мне он обычно в большинстве случаев какую то хуйню выдаёт, ну по крайней мере в NSFW сценариях.
Кракен хуже, у него модель в целом хуже натренирована была, все графики въебали, а так он с блу аддером хорошо работает, а 13б с мунлайх кроникл, в дискорде пресет у них что ли или в форче по ссылке на вики
Вот бы не быть С1-С2 по уровню английского и при этом использовать AI storyteller'ы. То есть модели очень хорошо чувствуют уровень владения языком и нет особого смысла ими пользоваться, если сам не можешь хотя бы промпт написать хорошей, качественной английской прозой.
Вообще единственный вариант писать на русском и не страдать от качества результата - это зафайнтьюнить и потом захостить всеми правдами и неправдами YaLM, но там скорее всего вообще 8xA100 нужно.
>>76133
Там GPT-3 и GPT-3.5 без всяких фильтров. Плюс в отличие от старого дракона отсутствует идиотский файнтьюн на адвенчуры. Ограничение на число слов связано с ценами OpenAI на генерации, там не дешево выходит если брать тот размер контекста, что для сторителлинга нужен.
Это была не душа, это было в том числе часть того, что убило AID и незацензуренный доступ к OAI моделям.
AID убила не сама цензура, а насколько охуевшие там были админы и как решили её применять.
AID убило три вещи:
1. Публичный эксплор. Это худшее решение, которое и привело к фильтрам, скандалам, уходу OAI от AID и т.п. Потому что тогда достоянием общественности стало то, чем же там средний пользователь занимается. И тогда же OAI заинтересовалось тем, что за хуйня там происходит с их ценной моделькой.
2. Ужасающая реализация фильтра и такой файнтьюн, который может сам по себе выдавать фильтруемые вещи иногда даже без всякого соответствующего промпта и тем самым обратило внимание нормисов на весь скандал.
3. Решение о том, чтобы вручную модерировать истории на которые триггернулся фильтр.
Интересно, что было в голове команды разработчиков AID когда они эту хуйню творили?
Пустота, что ещё там было. Уже история с тем как они материал для файнтьюна набрали показывает их интеллектуальный уровень. Не хватило даже ума отфильтровать истории по тегам с того сайта с которого они их брали.
В общем тестил это всё сегодня почти весь день. Как итог - это неюзабельная хуйня. Этот таверн АИ по кд либо виснет и не выдаёт ответы, либо впадает в лупы и повторяет одно и тоже по сто раз, либо несёт безсвязный бред. Обидно, а начиналось всё так хорошо... эх. Пробовал пигмилиона, но у него описания как у хлебушка. Из серии
я тебя трахаю
да, ты меня трахаешь
Krake в отличие от terpe очень к качеству промпта восприимчив. То есть он очень неплохо себя показывает на полном контексте с хорошо написанным промптом. В других ситуациях он будет хуже.
>>83655
Да на 6Б модели нет смысла смотреть, если не хочешь большую часть текста сам писать. Tavern AI нужно либо с новелами использовать, либо с кобольдом с большими моделями.
Ты чем читаешь? Я с новелом и использовать, залупа шо пиздец. Ну лучше пигмилиона конечно, но виснет\падает по кд
Кракен просто залупа которую хуево тюнили, а давинчи за 5 долларов без фильтра больше не потрогать, все новости только о регуляциях и цензуре, вон даже целый чар аи выкатили чтобы фильтр для нсфв отладить..
Ну я так-то обычно в новеловском или судовском интерфейсе сижу, я таверн так, ради прикола пробовал и чтобы туда поддержку судо попробовать захачить.
>>83829
Krake хорош, если им уметь пользоваться и не ожидать от него какого-то особого гения с точки зрения рассуждений. Зато он прекрасно умеет в описания, интересные метафоры и т.п. А так я сейчас в основном в судо сижу, местных 90к слов за 20 баксов мне хватает почти на месяц. Я не особо часто пишу и в основном короткие истории.
Что такое давинчи и про какие 5 долларов ты говоришь? Ты точно про новел пишешь? Там насколько мне известно 5$ подписки никогда и не было.
>>82574
>нет особого смысла ими пользоваться, если сам не можешь хотя бы промпт написать хорошей, качественной английской прозой
Дело не в том что он предложения пишет простые, как например пигмилион, а в том что он плохо понимает контекст и часто пишет просто нелогичные или бредовые вещи. Если английский плохой то можно промпты\описания персонаже и прочее просить написать ChatGPT.
> том что он плохо понимает контекст и часто пишет просто нелогичные или бредовые вещи.
Смотря кто из платных сервисов. Sudo при хоть как-то человечески написанном тексте идеально понимает что происходит и никогда логику повествования не нарушает, но вот со следованием данному стилю может лажать, если явно не подпихивать. Важно только помнить, что контекст там где-то около 1.5-2к токенов и без всяких средств для работы с ним ипоэтому памятью надо рулить руками в тексте.
Новелы могут бред генерить, т.к. там мелкие модели, но там достаточно отлично заполненного контекста и рероллинга, чтобы получить более-менее разумный текст. И там есть инструменты в духе лорбуков и биасов через которые можно очень сильно влиять на результаты и контекст.
>>84951
>Что такое давинчи и про какие 5 долларов ты говоришь?
Давинчи - это официальное называние самых больших из GPT-3 моделей. В благословенные времена до фильтрагедонна в AI dungeon была доступна полноценная незацензуренная GPT-3 за 5 баксов в месяц, пусть и со странным файнтьюном.
>Есть бесплатный триал, но как вы наверное и сами поняли, он имеет серьёзные ограничения, чтобы заставить вас раскошелиться
По большей части ограничения обходятся чисткой кукесов. Как и в ХолоАИ. Правда, если прогрузить свою сохраненную историю на сайт снова, то работать не будет, начнет заново вроде как.
Ты вроде шаришь, расскажи плиз что такое биас для тупых. Я чёто так и не понял.
Это возможность увеличить/уменьшить вероятность тех или иных токенов в ответе. Т.е. для любой записи в лорбуке можно дополнительно указать как она будет менять вероятности появления конкретных слов и фраз. И эти биасы будут применены при активизации этой записи.
Если походишь по дискорду новелов, там есть примеры лорбуков которые очень активно этим пользуются, чтобы сместить вероятности токенов в сторону более красочной прозы. Или лорбуков, которые пользуются этим + few-shot промптами, чтобы добавить возможность просить нейронку что-то подробнее описать и т.п. Только внимательно смотри, нужна версия под твою конкретную модель, биасы для Euterpe не подойдут для Krake.
Фух, охуенная штука оказывается, щя попробовал пару биасов от сюда - https://gitgud.io/jorfl/novelai/-/blob/master/README.md?expanded=true&viewer=simple . Обдрочился, вообще небо и земля. Не думал что это так повлияет. Даже гораздо больший эффект оказывает чем кастомные модули или пресеты.
Покупаю завтра подписку у новелов и вкатываюсь в пигму.
Можешь самую дешёвую брать, если картинки генерить не собираешься. Ну и пиши как тебе результаты. Мне пока больше всего нравится текс адвенчуры играть с нормальными биасами. Хотя на самом деле довольно быстро надоедает.
>картинки не
>дешевую
Да, я так и планирую.
>биасами
Что это и где брать?
>надоедает
Почему?
>YaLM
У этой модели 100млрд параметров, но пишет она хуже, чем пигма с 6млрд. Почему так?
Это тренинг кастомных модулей. Но их уже дофига сделали, можешь тут скачать - https://aidsrentfree.github.io/modules/euterpe
Krake пока кастомные модули не поддерживает, только Euterpe
Спасибо конечно, но вот нужный мне модуль к сожалению потерт.
Это не нейросеть, просто сайтик - https://huggingface.co/spaces/hysts/DeepDanbooru Ну а вообще с такими вопросами ты тредом ошибся, лучше в тред по генерации картинок иди
Вижу что дохера, но если самому тренить, насколько крупный датасет нужен?
Чел, ну там же на сайте написанно на каких датасетах это тренировалось. От сотен килобайт до десяти мегабайт, насколько я помню. Но самому модели можно тренировать только на максимальной подписке, которая за 25$
Ошибся, сорян, это видимо было только когда выкатили эту фичу, а щяс всем доступно.
Для тебя платные сайтики. А хочешь адскую скузьмиченную в подвале модель запустить на коде написанном тремя ананимасами, так про экзешники забудь.
А ты где её пробовал?
Так-то она точно должна быть лучше pyg'а. Но точно хуже GPT-3 и т.п., потому что без толкового файнтьюна и возможно недообучена в целом. Там 300B токенов было, что по современным представлением о скейлинге - маловато. Плюс мало кода в датасете скорее всего было, что тоже плохо на качестве сказывается.
Размер пикрила ограничен?
>>90656
Главное - иметь железо для запуска этих моделей, а разобраться в пердолинге - вообще не проблема.
>>90785
Балаболу я пробовал.
Не уверен, что Балабола на самой большой их модели работает.
>>90869
Нет, но сколько токенов из записей лорбука может быть активно в данном контексте вроде бы ограничивается, чтобы он целиком не забивался, но это надо изучать, вроде бы настраивается.
У тебя в нейронку отправляется 2048 токенов. Этот набор токенов часто контекстом называется.
У новелов через лорбуки и настройки можно разруливать в каком порядке он будет забиваться активными записями из лорбуков, memory и author's note. И там же насколько помню можно настроить ограничения на то, сколько токенов из контекста будет отдано под записи из лорбуков, память и т.п. Всё оставшееся место - будет занято предыдущим текстом.
>И там же насколько помню можно настроить ограничения на то, сколько токенов из контекста будет отдано под записи из лорбуков, память и т.п.
Это?
В каком формате должен быть текст для тренировки собственного модуля? На сайте ни слова об этом, просто текст в .txt файле?
style kantoku, 1girl, official art, perspective, intricate details, cowboy shot, rule of thirds, black hair in twin braids, (freckles:0.8), brown eyes, cute face, medium breasts, (small breasts:0.55), standing in modern kitchen wearing white shirt and panties, window, (plump:0.6), solo, clear sunny sky, color photo, detailed horizon,
Negative prompt: Tags: towering clouds, lipstick, lowres, (bad anatomy:1.2), bad hands, text, error, missing fingers, extra digit, fewer digits, cropped, worst quality, low quality, normal quality, jpeg artifacts, signature, watermark, simple background, username, blurry, old ugly mutated man, old woman, deformed breasts, elf, screenshot, lowres, bad anatomy, cropped, worst quality, low quality, jpeg artifacts, blurry
>>90986
Где-то на форчане в aidg треде можно было найти гайд по тренировке
>>90944
Это чтобы протестить будет ли лорбук работать с меньшим размером всего контекста
>>90961
Вроде бы, но вроде ещё глобальные настройки где-то были
Ты по-русски хотя бы половину слов пиши, мудила.
Мимо другой анон.
Общепринятых переводов этих терминов я не слышал, так что приходиться так. Даже если взять слово биас и перевести его как предвзятость, то, имхо, будет смотреться немного странно и не факт, что читающий пост сможет понять где это в интерфейсе у новелов искать.
Но если есть идеи как нормально перевести всякие "zero-shot", "few-shot", "prompt" и т.п. термины чтобы оно ещё и гуглилось нормально и было понятно что это, то милости прошу.
>>91781
Не люблю, когда треды на бордах вообще без приложенных картинок. Без приложенных изображений имиджборды смотрятся каким-то чатиком на минималках, а так хоть что-то своё в них есть.
>Не люблю, когда треды на бордах вообще без приложенных картинок. Без приложенных изображений имиджборды смотрятся каким-то чатиком на минималках, а так хоть что-то своё в них есть.
Принцип, конечно, верный, вот только на имэджбордах принято постить картинку релейтед посту, а не аватарку... Хотя на /аи/ наверное можно и так если оно сгенерировано.
мимо
Блять мудила тут только ты. Добро пожаловать в айти, тут половину терминов только на английском и можно объяснять.
Я хз почему, но у меня лучшее качество текста почему то выдает с этим - https://gitgud.io/jorfl/novelai/-/blob/master/Biases/noncon-violence-bias-v2.bias Почему так происходит, я не особо понимаю, так как я не изнасилования обычно отыгрываю.
Вы ходите очень по тонкому льду, гражданин, ещё бы пара пикселей и был бы состав преступления.
О, это мой промпт выше на обычном НАИ? Для лучших результатов ещё можно ddetailer расширение юзать, оно с качеством лиц может помочь.
По поводу биасов - попробуй из наи дискорда всякие prose enhancer и pocket notes, они тоже норм.
А, ты про это. Тут я обычно Low Rider юзаю, он выдаёт хорошие и подробные описания и довольно логичный.
>>92262
Угу, это твой промпт, только добавить тег nsfw. Он там ещё много картинок нагенерил интересных, но уже с сисечками, но я подумал что такое лучше не постить.
https://github.com/dustysys/ddetailer
Там надо ещё модель для анимешных лиц к к нему скачать.
А есть генераторы порно рассказов?
Конечно. Erebus например.
He stops sucking on her clit and starts kissing her neck again, moving down towards her breasts. He kisses each nipple, one after another, before taking one into his mouth and sucking on it. Then he goes back to her other breast, repeating the process until both nipples are rock-hard and erect. They're sensitive enough that they hurt when he bites down on them, which makes her moan louder than ever. But what really gets her going is when he takes turns sucking on both nipples, using his fangs to stimulate her even more. Eventually, he moves back down to kiss her stomach, making his way down to her crotch.
She's already wet, thanks to how much attention he gave her tits, but once he started licking her cunt, she couldn't hold back any longer. A flood of juices gushes out of her pussy, coating his face and chin. When he tries to move away, she grabs onto his hair and holds him there.
"Don't stop," she says breathlessly. "More..."
He nods and continues licking her pussy, getting himself nice and wet in the process. Once he feels sufficiently lubed, he pushes two fingers into her cunt, starting to finger fuck her. At first, he gently rubs her G-spot, bringing her closer and closer to orgasm. But soon, he slides his fingers further inside her, sliding past the first knuckle.
She groans in pleasure, not caring if anyone nearby hears. She's lost herself in the moment; she doesn't care who sees or hears her anymore. All she cares about right now is having an intense orgasm. And seeing as how he just ate her out, he knows exactly where to touch her to make her cum.
Her hand finds its way under his shirt, grabbing his hairy chest. She squeezes his pecs and rips off his clothes, revealing his rock-hard body. She pulls him upwards, forcing him to lean over her, facing away from everyone else. She grips his ass cheeks tightly with her hands and lifts him up until his cock is directly above her pussy.
"Fuck me... please..." she begs.
He grins ear to ear and thrusts forward, impaling her on his huge cock. She screams in ecstasy as her tight cunt is stretched wide open. Her eyes roll back in her head as she feels her insides stretch to accommodate his massive member. Slowly, he starts pumping his hips, slowly increasing his pace. Every thrust sends waves of pleasure through her entire body.
But eventually, he picks up speed, slamming his pelvis into hers. Each thrust makes her scream in ecstasy, unable to handle the intensity of the sensation. Soon, she reaches her climax, screaming out loud. Her whole body trembles violently as she cums all over his dick.
When she finally calms down, she looks up at him and smiles.
"That was amazing," she says breathlessly.
"You're welcome."
>Erebus
Уже больше 2 недели коллаб не работает, баг какой-то и все никак не фиксят.
> Negative prompt: Tags: old ugly mutated man
Че то проиграл
В целом, если тебе для фапа и к качеству особых требовани нет, то покатит.
каждые 5 секунд заходитьь в новое помещение и раздивать бабу которую уже раздел 30 раз за последнию минуту - так себе
Тогда тебе в кобольда, там можешь прописывать всё что нужно и по пути ещё делать заметки, чтобы бот не путался. Посложнее, чем с данженом, но результат лучше по итогу.
Есть гайд как правильно и вдумчиво пользоваться кобольдом?
мимо
Есть ли возможность генерировать nsfw с 6гб видеопамяти? Какая для этого нужна программа/модель?
Картинки у меня генерятся только в путь, неужели текст требует большей производительности?
КобольдАИ, с 8бит патчем, любая натренированная на порнофанфиках 2.7б модель. Получится так себе. Нужно больше памяти. Или жди пока технологии разовьются.
> 8бит патчем
Так, только нашел время вкатиться. Как это делается?
По идее кобольда я поставил ну или это какая-то вообще не связанная хуйня, а я дебил
Теперь по идее нужно модель загрузить? А какую? у меня все еще 6гб vram.
Гайд https://rentry.org/itsnotthathard устарел, но упоминает "finetuneanon's transformer", который "since we have installed a half precision transformer, you can cut the vram requirements in half".
Это вообще что?
Ну если делал все по тому гайду, попробуй какую-нибудь 2.7 модель запустить. И посмотри сколько памяти отожрет.
Не в этом гайде написано что теперь для кобольда есть инсталлер и вся эта ерунда с ручной докачкой зависимостей не нужна.
Я просто думал вы знаете что за finetuneanon's transformer и его можно как-то отдельно установить.
Еще вопрос вот я скачал модель, а как ее установить то? Кинул все в папку models а кобольд ее не видит.
Попытался скачать прям из интерфейса кобольда, он скачал, а потом забил чем-то 24гб RAM и комп встал намертво. После перезагрузки ни следа модели которая между прочим 25гб весит нет.
Сцука и ни одного нормального гайда не могу найти.
Так модель нужно было в субпапку кинуть.
Попробовал запусить -- переполнение ram и вылет. Сейчас попробую модель полегче.
Нашел https://github.com/finetuneanon/transformers/archive/refs/heads/gpt-neo-localattention3.zip
Ссылку на скачку finetuneanon's transformer, все еще понятия не имею что это, как это установить и надо ли вообще.
Насколько знаю аноны себе делали тоже по протухшим гайдам, и потом долго и нудно допиливали куски кода. Модель с кобольда лучше не качай, закинет хер пойми куда как кэш гитовский в левом формате. Качай модели отсюда https://huggingface.co/KoboldAI
Закидывай их в отдельную папку в папке models в кобольде структура как на пикриле.
Можешь попытать счастья с патчером https://gitgud.io/ItsDrivingMeNuts/kobold-ai-8bit-patch/-/tree/master/
Или этот https://cdn.#дизкорд#app.com/attachments/1059637856206852237/1076689142676717638/bnb-8bit-kobold.zip
>Закидывай их в отдельную папку в папке models в кобольде структура как на пикриле.
Это я уже методом тыка понял, но все равно спасибо.
>Можешь попытать счастья с патчером
Почекаю спасбо.
Кто-нибудь пробовал? А то с этими моделями которые можно запустить только на суперкомпьютерах, лучше уж Zork поиграть.
13б инт8 влезает на бесплатный колаб (gpu) c убабугой.
https://colab.research.google.com/drive/1UJnzwI6uCScDFjmHNGQ8LZcmRT70mgwU?usp=sharing
Врама остается хуй да нихуя, но текст длиной 500 токенов пишет, потом или ООМ, или начинай сначала. Но дареному коню, как говорится... Короче, набегаем волнами.
чем отличается разделение квадратными скобками от точек в разделе памяти?
ну и вобще можете советов по тому разделу накидать
А неплохо работает. >>147130 →
Почему KoboldAI, а не oobabooga?
Просто у старья типа AI Dungeon и Novel AI размер контекста всего около 2к токенов, так что, наверное он пытается закончить рассказ побыстрее. Надо переходить на GPT-4 (32к токенов) или хотя бы GPT-3.5 (4к токенов)
как скачать это? может гдето есть торент?
https://huggingface.co/KoboldAI/fairseq-dense-13B-Shinen/tree/main
Да хуй его знает как скачать...
чот файл на 20 гигов постоянно в ошибку падает и приходится начинать заного - это нормально?
Нет, проверяй интернет, железо и прочие роутеры. Ресурс стабилен и забивает мой 250 мегабитный канал на 105%.
https://github.com/KoboldAI/KoboldAI-Client/issues/330
Ну все, и где теперь порнушку генерировать?
Ебаный протестантский клоун-волрд, детям можно показывать драг-шоу трансов и ебущихся мужиков, основной акцент в масскультуре должен быть на половых извращенцах, но сука у себя дома не смей программой совмещать слово "хуй" и "пизда".
>>295441
надеюсь ты не думаешь что это само случайно так вышло
>Там написано же что можно вручную нужную модель вписать не?
Нет, нихуя, смотри
>>297280
>надеюсь ты не думаешь что это само случайно так вышло
Ничего случайного в подобном нет. Однако это и не заговор, просто закономерная деградация. Если слишком долго срать обществу в голову, да еще и каждые 20 лет менять сорт говна, получится вот такое шизофреническое нечто.
KoboldAI/OPT-30B-Erebus
KoboldAI/GPT-NeoX-20B-Erebus-GGML
KoboldAI/GPT-NeoX-20B-Erebus
То вроде запуск идет. Но это нихуя ничего не меняет, если начали выпиливать - то продолжат, принимать копиум вида "ну мнякс пфекс ведь еще вот таким вот образом можно, вручную вбить, обходные пути найти..." не поможет как и в прошлые разы.
Ну и загрузка 20b по ощущению удвоилась, если не утроилась по времени, заебся ждать уже, даже половина не прогрузилась
Уебки на кобольде гугл-коллаб не пофиксили, он все еще не работает, но блядь NSFW-модели из выбора удалили, гениально нахуй.
Ошибка TPU это разве не от самого коллаба идёт? Его уже месяца 3 как сломали.
>,или вариант только себе на пека ставить?
давно пора
независимость всегда лучше удобства которое отбирут в любой момент по надуманному предлогу
не шарю и моожет роошибаюсь но если cuda то проверь дрова на видяху
Вообще мне нужна максимально мощная модель без цензуры. Очевидно что не смогу на локальном компе запустить, только колаб или онлайн-сервис.
Я смог найти ключ захудалый за 1300 рублей на платимаркете.
>>Она действительно такая крутая что стоит 25 баксов?
Нет, не стоит, это не идёт ни в какое сравнение даже с гпт3.5. Я покапал там максимальную подписку с этим крейком, говно по сравнению с клодом и гпт.
>>331860
Я через посредников покупал, переводишь им нужную сумму+20% они тебе казахскую карту дают навремя, оплачиваешь. Таких дофига разных, я prostopay юзал. Но опять же говорю, смысла платить за новел щяс вообще никакого.
Спасибо, анон, разубедил меня покупать подписку на НовелАИ.
Лучше оплачу Колаб Про и попробую GPT-4-x-Alpaca в облаке запустить.
Алсо, может и от размера модели зависит. Краке ведь обычная 20В модель, куда ей до гпт3.5. Думаю что надо хоть 30B пробовать для норм экспириенса.
>клодом и гпт
Что это?
Я бы запустил на ПК своем, но у меня 3060 с 12 гигами. Этого на хуевенький Кобольд максимум хватит, как я понимаю.
Да, 12 гигов на хуевую модель только хватит которая даже хуже чем НовелАИ будет.
Я не знаю что за клод тот анон упомянул. Но почему просто не запустишь какую-нибудь любую 30В+ модель в колабе?
>Я не знаю что за клод тот анон упомянул.
Лучшая сетка всех времён и народов.
>>313610 (OP)
>>333775
>любую 30В+ модель
Говно, если этот плюс не заменить на ноль.
Анон, так как ты запустишь 300В модель? Она небось даже с подпиской на Колаб Про не влезет в выделяемые мощности.
А онлайн такие крупные модели разве что sudowriter хостит.
>Анон, так как ты запустишь 300В модель?
Именно что никак.
>sudowriter
sudowrite? Так они на подсосе у опенаи.
Ну и что теперь, анон, писать куколдские толерантные истории с помощью чарактер.аи? Там фильтры ебанутые, мне не нравится.
>sudowrite
Да, на подсосе. Но там полные цензурные фильтры не завезли, ебут слабо. У них вроде как раз 300В модель.
>Но там полные цензурные фильтры не завезли
Цензуры там нет вообще. Вангую персональный договор с опенАИ, ибо по дефолту прон запрещён даже по апишке.
>>335070
>У них вроде как раз 300В модель.
У них тоже самое, что и у опенАИ, то есть 175B для GPT третьего поколения и вообще ХЗ сколько для четвёртого.
>Цензуры там нет вообще.
Немного есть, там есть фильтр на лолей если верить посту на реддите.
Но вообще я сегодня попробовал триал судо и обдрочился. Не знаю насчет историй и приключений, но всякие фетиши пишет очень хорошо. Можно заставить нейронку подробно раскрывать какие-то действия или сущности без долгой ебли с промптами.
Какое вообще будущее ждет Кобольдов, Пигмалионов и так далее у которых чаще всего 13В модели? Они как-то могут сравниться с судо в дописывании, если половину текста самому писать, но вот в длительном самостоятельном повествовании хуйню выдают. Единственное их преимущество - бесплатность.
>Единственное их преимущество - бесплатность.
Именно. Бесплатность. И лоли, кому нужно.
Я тоже пробовал этот судоврот, но мне цены совершенно не понравились.
Анон, а что за модель? Неужели это обычный NovelAI?
>>336532
Ну хуй знает. Я попробовал один раз Кобольда. Ну, прикольный бредогенератор, иногда пишет всякое смешное.
А потом ЧарактерАИ и это уже другое, почти как человек разговаривает и текст по качеству не хуже чем у среднего писаки с какого-нибудь author.today. И что-то сразу интерес к Кобольду пропал.
>Кобольда
Кобольд это интерфейс запуска, модели там могут быть разные. И с выходом лламы качество локальной генерации возросло на порядок впрочем всё равно хуйня даже по сравнениюсо склеротичной чаи.
>впрочем всё равно хуйня даже по сравнениюсо склеротичной чаи.
Анон, а почему так? Может размер все же имеет решающее значение? А если взять 33В или 65В модели Ламы и запустить на пекарне с несколькими видюхами? Сможет такая Лама конкурировать с Sudowrite?
>Может размер все же имеет решающее значение?
Именно про это я и написал в >>333792
Само собой одного размера мало, что доказывает OPT, который со 175B параметрами сосёт у лламы на 7B.
>>338312
>Сможет такая Лама конкурировать с Sudowrite?
Нет, масштаба всё равно не хватит, а обучить с нуля версию на 175B невозможно для простого смертного.
>Erebus
Дай общий отзыв. Насколько узкоспециализированная модель может конкурировать с более сложными но в своей нише?
Кто-нибудь уже своровал Gamio AI? Хотелось бы сыграть без подписки.
Классическая: "Ты меня ебешь? Я тебя точно ебу.". Вчитайся, додик.
Представил себе как тянка во время ебли комментирует мои действия русскими пословицами, проиграл.
алсо добавте в шапку форк товерны для запуска 4бит ламы
1. Можно прописать бэкграунд главного героя, а также дать ему пару спутников на старте или чуть дальше? Важно: параметры (характер, мировоззрение, внешность, прошлое и прочее) спутников тоже заранее прописать? Ну или по ходу игры как-нибудь выкрутиться.
2. Можно заранее задать какое-либо ворлд инфо? Место действия, условия мира, какой-то, хотя бы базовый, лор. Жопа уровня вахи или аниме
3. Модели нормально работают с гуро пиздецом, болью, психофизическими страданиями, драчками и прочим? Что для меня важно, так это чтобы история не походила на эрпогэ с циферками, а всё было более абстрактно, паверапы, вотэапавароты и прочее аниме, короче.
4. Насколько хорошо общаются персонажи, соответствуют своему характеру, ведут диалог? Это прямо важный момент. Вижу, есть параллельный тред, где работают только с персонажами и для этого требуются нехилые мощности, а тут нейронка с рассказом истории ещё. Она это потянет? Учитывая то, что на одних только персонажей уходит столько сил и труда.
5. Есть пека на 8 Гб видеопамяти, но я не большой любитель за ней сидеть. Скорее за ноутом слабым или планшетом. В таком случае лучше гуглколлаб использовать? Ставить кобольд? А что по поводу моделей? Порнуха мне не нужна, но необходимо отсутствие цензуры на жестокость и максимально хорошую работу персонажей-спутников-врагов.
Сразу скажу, что в аглюисик могу только с переводчиком. Какие-то истории мутил только в CAI, когда он не был анально огорожен цензурой. Получалось действительно неплохо и интересно благодаря тому, что хорошо настраивал персонажа, однако жутко корёжило из-за того, что он всё забывает и информация о мире проёбывается.
Закажу историю про то, как маленькая кошечка гулять ходила и буду читать ее своей кошке.
тебе с такими вводными разве что клод подойдёт
залетаешь в аисг ака тень былого величия конЧАЙ-треда, куришь шапку, ставишь силлитаверну, накатываешь промпты от rentry.org/CharacterProvider и довольно урчишь
прокся ‐ ctrl + f по тредам "hf" и "hugging"
Насчет силли таверны и промтов все так, но на самом деле подойдет все, что угодно, а не только клод. Залог успеха это кропотливо проработанная карточка персонажа и готовность отыгрывать роли, веря в то, что нейросетка тоже отыгрывает.
Господа, раньше не вкатывался потому что плохо знаю англ, как сейчас с этим? Можно на русском писать и ответы получать?
И если да, какая модель лучше.
А где взять этот ваш эребус? Хочу быть на острие прогресса
Какое обсрие прогресса, пост год назад написан, а тред дохлый
я думал, что только видеокарта нужна
у меня фикус на 8 ядер
че посоветуете?
Конпелировать-пердолиться. Либо покупать новый комплюхтер.
Я чего-то никак не могу понять как заставить переводить в SillyTavern прямую речь правильно.
Всегда переводчик(что гугл что бинд) меняет структуру с "___" на «___».
Может кто знает как лечить. Реддит ответа не дал.
Работает. Я себе на линаксе скомпилировал и генерирую неспеша
никогда не пользовался переводчиком так что хз как тут сделать
мб с помощью регекса в extensions можно
спроси в aicg-нити если ещё не разобрался
Спасиб. Спрошу.
Думал что это проблему решили, а тут тихо.
уменьшит контекст
уменьшить выдаваемые токены ответа ( мелкий ответ а не страаница)
в товерне если ты ее привязал к кобальту
а вобще надо комп гнать по памяти
Ещё такой момент. У меня всего 12 гигов у видюхи и лишь 32 оперативки на 3200. Когда в кобальде выбираешь модель он просит загрузить слои. Как их лучше загружать? Выделить по максимуму всю видеопамять, а оставшееся место на оперативку? Насколько я понял, судя по консольке, слои которые я не заполнил памятью видюхи или оперативной переходят на CPU, а проц у меня амуде, которые как я прочитал не особо хорошо работают с ботами.
Только начал вкатываться, но понравился такой интерфейс, что можно редактировать повествование на свой лад, создавать графоманию. Есть ли подобное в локальном виде?
Чел, все карточки готовы к отношачу и ебле, если умеючи подходить. Я ебал атомную электростанцию. В всякие тонкости и душу ты быстро не проверишь.
> . Я ебал атомную электростанцию.
Проиграл в голос, а у меня шея болит, так аж до боли проиграл.
>>7808 (OP)
Можно каким-то образом в таверне реализовать ветвистость событий что ли. Чтобы можно было вернуться к одному варианту событий и пойти по нему, ну вы поняли.
Это лимит на каждую историю. На свой лад повествование можно переделывать. ИИ адаптируется под ESL, но осторожно, он начнёт копировать твои ошибки
>Можно каким-то образом в таверне реализовать ветвистость событий что ли.
Есть механизм бранчей.
Кто-нибудь пробовал https://endlessvn.io ?
Что можно поставить на 16 VRAM + 32 RAM чтобы работало по типу Порфирьевича, но локально?
все до 14B параметров и 8k контекста
потяжелее уже будет тормозить
попробуй файнтюны 3 лламы на 8B параметров
>https://rentry.org/cdztg
>вам нужно перейти по ссылке на коллаб из шапки треда.
почему нельзя было в гайде оставить ссылку на https://koboldai.org/colab
чтобы ее не искать?
>Следующим шагом будет достаточно простое действие — вам необходимо нажать на выделенную кнопку (рядом будет написано).
блять, да там дохуя чего написано, я тыкнул туда где написано
><-- Select your model below and then click this to start KoboldAI
Гайд никаких моделей не рекомендует, значит оставляем дефолтную
подождал 2 минуты, пришло оповещение, что в гугл диск все загрузилось
>вам предложат перейти по ссылке, которая откроет саму игру. (внимательно смотрите, вы её не пропустите).
блять, да где нахуй эта ссылка, почему, сука, нельзя показать пример этой ссылки, у меня там дохуя ссылок и все ведут на какие-то текстовые файлы
а в консоли кода я имею логи ошибок
RuntimeError: Failed to import transformers.modeling_utils because of the following error (look up to see its traceback):
cannot import name 'split_torch_state_dict_into_shards' from 'huggingface_hub' (/usr/local/lib/python3.10/dist-packages/huggingface_hub/__init__.py)
ахуенный гайд, кайфанул прям, нахуй такое было писать вообще
диалоги с карточками персонажей работают более менее
а как мне сделать историю? типо, чтобы нейросетка выступала в качестве гейм мастера и может быть даже сама создавала/дополняла карточки персонажей в истории?
или такого до сих пор нет?
Тоже вкатился в ST.
Вот тебе простой вариант сделать историю.
1. Делаешь своего персонажа (главного героя). Если тяжело, то используй эту карточку для создания https://venus.chub.ai/characters/Hobold/character-card-generator-fced02d5d5d4
2. Качаешь эту карточку https://venus.chub.ai/characters/long_RPG_enjoyer/61595bad-5ee6-4443-8395-28c974391df4
3. Все, дальше ебошиш истории.
Нарратор не будет переписывать карточку, но все данные он будет запоминать (пока не всхрюкнет от тяжести токенов).
В пост к нарратору можешь добавить что-то вроде:
```
Location: ...
Time: ...
{{user}}`s cloth: ...
...
...
...
```
И так далее. Естественно он будет всякую хуиту туда вносить свою периодически, так что не забывай чистить и править если что.
Звонит как-то телефон, беру трубку, а там одна женщина говорит: "Теперь придется тете Маше тити-мити делать."
Я говорю: "Пошла ты к дьяволу, сумасшедшая!".
А она спрашивает: "Как вы к покойникам относитесь?"
Я говорю: "С уважением."
Она спрашивает: "Можно приехать?"
"А когда?" - спрашиваю.
"Да сегодня и приеду. Как раз в три часа."
Посмотрел я на часы, и бросил трубку. Хоть я и старался, как говорится, держать себя в руках, но тут на меня нашло какое-то бешенство. Так я себя, прямо сказать, еще никогда не чувствовал. Все вокруг ужасно стало раздражать – и эти покойники, которые все чаще стали по ночам по квартире ходить, которые каждый день стали опять звонить в дверь, медсестры, глухая уборщица, все женщины, чуть ли не старушки, которые мимо квартиры ходят, когда я в ванной бреюсь, вообще все стало казаться таким мелким и убогим, что и не знаю, о чем и говорить. Захотел я прямо так, на месте, посреди комнаты, задушить кого-нибудь.
А телефон снова зазвонил. А там та же женщина говорит опять: "Титя-тити…"
Я и говорю ей: "Ну, пошли вы, пошла нахуй, дура!" И нажал красную кнопку.
Опять звонит. Нажал зеленую кнопку, снова взял трубку – а оттуда опять тот же голос: "Пока еще живы, доктор?"
Я говорю: "Ну, думаю, да!"
"А вы про покойников плохо думаете?"
Я говорю: "Вам-то что?"
"А у нас другой случай. А как вы относитесь к мертвым родственникам своим?" – спрашивает.
"У нас тут мертвые не встают, я же доктор!" - говорю.
"Ну, значит, надо было последнее желание… Теперь покидаю вас ."
Я трубку бросил. Вот, в общем.
Пара вопросов
1. Как заставить koboldcpp писать более развернутый ответ?
2. В режиме Эдвенчур как сделать так чтобы он не описывал твои действия и тем более не придумывал за тебя, а только реакцию окружения?
1) Почему ИИ по кд останавливает свой текст? Кол-во токенов стоит на 400, понижаю, и вроде исправляется, но вопрос: Почему? Токены же не влияют на длину сообщения в целом.
2) Если делаю персону, то можно ли что-то изменить поменяв контекстный шаблон?
3) Есть ли прикольные модели для чернушного рп? Типо с кровищами и матюками. Сам юзал L3-DARKEST-PLANET, но он иногда скатывается в говно без пунктуации и осознанно кривым текстом=переводом.
>>1004585 (OP)
Обсуждение локальных языковых моделей:
>>1004489 (OP)