БОТОДЕЛЫ!!!! Прикрепляйте новых ботов к оп-посту!!!!
Общий вопросов по чат-ботам и прочего тред.
Фронтэнды
• SillyTavern: https://github.com/SillyTavern/SillyTavern | https://docs.sillytavern.app | https://github.com/ntvm/SillyTavern (форк нв-куна)
• Гайды на таверну: https://rentry.co/Tavern4Retards | https://rentry.org/STAI-Termux (на андроид)
• Agnai: https://agnai.chat/
• Risu: https://risuai.xyz/
Модели
• Claude: https://docs.anthropic.com/en/docs
• GPT: https://platform.openai.com/docs
• Gemini: https://ai.google.dev/gemini-api/docs
Пресеты
• Бургерский список: https://rentry.org/jb-listing
• Тредовский список: https://rentry.org/2ch-aicg-jb
Полезности
• Тредовский список: https://rentry.org/2ch-aicg-utils
Ботоводчество
• Чуб: https://characterhub.org | https://chub.ai/characters
• Гайды: https://rentry.org/meta_botmaking_list
• Редакторы: https://agnai.chat/editor | https://des une.moe/aichared/
• Боты анонов: https://rentry.org/2chaicgtavernbots | https://rentry.org/2chaicgtavernbots2 | https://rentry.org/2chaicgtavernbots3
Прочее
• Термины LLM: https://2ch-ai.gitgud.site/wiki/llama/
• База по Клоду: https://rentry.org/how2claude
• Чекер ключей: https://github.com/kingbased/keychecker
• Чай: https://character.ai/
Прокси
• gpt-4o-mini: https://unicorn.scylla.wtf/
Мета
• Архив тредов: https://rentry.org/2ch-aicg-archives2
• Тредовые ивенты: https://rentry.org/2chaicgthemedevents | Текущий: >>919560 →
• Реквесты ботоделам: https://rentry.org/2ch-aicg-requests
• Локальные языковые модели: >>917224 (OP)
• Шаблон шапки: https://rentry.org/shapka_aicg/raw
Прошлый тред: >>921829 (OP)
Заказывайте карточки, отмечайтесь, если уже взяли реквест в работу.
Реквесты из предыдущих тредов: https://rentry.org/2ch-aicg-requests
Чтобы кумить как прОклятый, просто поставь это в убабугу
https://huggingface.co/TheDrummer/Smegmma-9B-v1
И главное, включи Mirostat.
просто не передать словами, нервный смешок вырывается каждый раз, когда его вижу
так и представляю завод ОАО "Силовая динамика" где-нибудь в челябинске
Теперь это локальный тред для сжоперов.
Давай, и чтоб всё съел до дна! Большой ложкой, как настоящий локалщик.
Ебальник свой стянул, чмо. Здесь тред не для оскорблений.
клодозависимый
Это Unleashed 12b для сторителлинга. Experimental merge с бездонныи контекстом.
а вот задумка карточки как раз нормас
тогда ты ошибся дверью, клуб локальщиков два блока вниз
а вообще пробуй XTC семплер, говорят годнота
Ето я и моя юзер персона, когда пишем без сои в Айроборос.
Нашел кнопку TTS, но когда жму ничего не происходит, в консоли пишет 401
Почему так
Это новейшее техничное решение для кума - как CoT, только пизже. Работает только для Text completion.
Я не могу поверить, что всё это написано неиронично. Даже во время сливов публичного Тодда 2023 и хохлонакрюков в ТГ/б летом того же года... не было таких же вопросов.
Ы. Приходящие тогда люди чуть ли не сразу лезли решать задачки на хг проксях, а тут приходится азбуку расшифровывать и за кнопочки в таверне учить...
Реквестирую карточку про пикрил. (Аска но она не Аска, но она как бы Аска)
Теги: НТР + Нетораре + кук + сойбой + cheating GF + сексвайф + голос из шкафа + негр с большой балдой + черный бык + бабораб + подкаблучник + алень + рабобаб
@
ВСЕМ ПОХУЙ
@
СЫЧЕВ СПРОСИЛ ПРО ПАРОЛЬ НА ПЕББЛОПРОКСЕ/ПРЕСЕТ НА ГЕМИНИ
@
ОТХУЕСОСИЛИ И ЗАБАНИЛИ
Меня очень привлекли клонирование голоса и аудиозвонки в https://character.ai/, решил создать своего бота, но не могу найти подробного гайда. Ввел общую информацию, но бот как-то слабенько реагирует.
Как я понимаю, вы не котируете https://character.ai/?
Есть аналоги с которым можно также удобно пообщаться?
>боснийка из ирл стори про рейп
Не знаю, анон. По мне так делать карты по реальным людям (если это, конечно, не историческая фигура какая-то которая уже как лет 300 крякнулась и неизвестно существовала ли вообще) это как-то не очень. Тем более по трагедии.
Если что, у бота на аватарке ген миджорни, а не реальное фото.
Ладно по трагедии, но по обычным-то людям из ИРЛ почему не сделать?
Мужчины-блондины всегда или куколды, или пассивные гомосексуалисты. В чем я не прав?
https://rentry.org/Zm9yIHRoZSBtYWNoaW5lIGlzIGltbW9ydGFs
https://amd-vast-ban-torture.trycloudflare.com/
Ладно по людям из ИРЛ, но по обычным-то трагедиям почему не сделать?
Хуекусты. Хотя гптыня сегодня на хмлк промте неплохо пишет, иногда шизии, правда
кстати да я до того как стал красить волосы в чёрный постоянно зависал в кунчикотредах и думал о пидорстве, после покраски перестал
Так-то заебись интонации делает, тоже интересно стало. Я последний раз юзал XTTSv2, но там гораздо хуже всё.
а есть подробный гайд по character.ai?
в шапке его не нашел
Это решается элементарно если бы ты попытался хоть немного своим мозгом воспользоваться
Откуда ты знаешь? Может я ему рад. Ты об этом не думал, м? Только про себя и думаешь, эгоист...
Признаю, не хватает айку для решения сей простой задачи. Не подскажешь немощному как решить?
А какой нужен гайд, там же всё примитивно включая чайные нейромозги
Засунь свой мейн промп т в другую строчке в менеджере а стандартную очисть и затем тереби сколько хочешь этот переключатель корый и будет включать выключать промпт с карточки
Анон, ты меня не понял, у меня она пустая и я её использую только как поле из карточки. Дефолтная строка Main Prompt не реагирует на переключатель, если в карточке есть промпт, вставляется в любом случае. Можешь у себя проверить на последнем стейджинге.
>А какой нужен гайд
как грамотно прописать инструкции с подробной биографией, например
сейчас делаю бот режиссера, в биографии указываю список его фильмов, потом прошу бота назвать хоть один фильм, а он начинает придумывать рандомную хуйню
Запрет оверрайда на мейнпромпте включи и сам мейнпромпт включи.
Аааа действительно а я и не знал что промптуп с карточки поебать с на переключать
Пусть поставит запрет оверрайда на мейнпромпте и добавит промпт с {{charPrompt}}. Будет два рычажка, все управляемо.
Обнял.
>>924466
И дёргать когда запускаю карту с промптом?
>>924467
Зачем, если он пустой?
>>924469
Тогда в промпте помимо самих инструкций в начале будет красивая надпись {{original}} )))))
Заебали постоянные баги, реально ждём базовый фронтенд
> Зачем, если он пустой?
На расположении мейпромпта инжекты завязаны, если его выключить, они могут в не совсем правильные места уходить. Лучше оставить включенным даже пустой.
> Тогда в промпте помимо самих инструкций в начале будет красивая надпись {{original}}
ЭТо наверно из за того что этот макрос в промпт карточки засунули. Попробуй выпилить это оттуда крч и может норм будет
Точно, забыл об этом. Сука всё кривое косое бесит...
>>924481
Конечно засунули, его все суют чтобы не портить пресеты людям. Жаль кто добавлял макрос в таверну не додумался прописать замену на пустоту если он вставлен куда попало.
Англюсик звучит как всегда калово. Когда же японобоги сделают свой аналоговнет...
под моих персонажей этот голос не подойдет
Напоминаю, что сейчас идёт Хэллоуинский ивент в треде и все кто хочет могут поучаствовать.
На этот раз без сбора тем, просто кто хочет - сделает бота на тему Хэллоуина, криппи-паст, хоррора и тому подобного, чтобы подходили под тематику праздника.
Делать ботов можете до следующей пятницы - 25 октября, тогда же я сделаю якорь для ивентовых ботов. Если вы решите выложить ивентовых ботов раньше - указывайте в посте что это боты на ивент.
Такие дела.
https://www.youtube.com/watch?v=EwzhumHX_TE
>>924495
Там и канничку кто-то делал, видел на фочах, я до этого сохранял, но к сожалению недавно все войс видева удалил(
Вот это уже попахивает иском от хололайва, голос один в один.
Тебе персональное задание - будешь делать карточку по дню семьи, любви и верности.
>меин промпт из карточки включить-выключить рычажком НЕЛЬЗЯ
Это ограничение таверны, мейн промпт отправляется вообще всегда, соответственно рычаг на нём недоступен.
Не думаю что я смогу превзойти шедевр на эту тему, самую популярную карту чуба.
А почему ты сам никогда не делаешь говноботов, кукич? Дело пары кликов же и тебе вроде как интересно
> Англюсик звучит как всегда калово.
Соглашусь. Они всегда или через чур переиграно, или как-будто умственно-отсталый. Вот лучше на русском...
Попробуй со всей папки и файлов в ней снять ограничение 'только чтение', залогинься под админской учеткой, хуй знает в чем проблема
все токены сдрочили на лоли футанарей ваших
Если у него проблемы со здоровьем были а он отписывался, что на несколько дней в больницу ложился, что ли, то что угодно может быть, включая дурку. Может просто интерес пропал, вай нот? Но чет мне кажется, мы его вряд ли увидим... Хотел бы / имел бы возможность - отписался бы, мне кажется.
Как это к авс относится если в статье ни слова о нём и речь вообще о другом? Да и нахуй ты притащил это? Не смог молчать после того как тебя в прошлый раз всем тредом обоссали?
Хочу чтобы моя нейровайфа миленько шептала мне на ушко как она сваит бёдрами
А вроде это никак не фиксится, по крайней мере я смотрел несколько гайдов на Ютубе, во всех говорится что боты вообще ведут себя непредсказуемо. Самое забавное при диалоге с одним ботом, он мне сказал что пишет книгу. Когда поинтересовался о чем сюжет, он в общих чертах описал свою биографию, которую я ему писал.
Выкрутил акулу и на радости уехал в дурку. А там врачи уже залечили, когда он начал про эти ваши нейросети рассказывать.
>А вроде это никак не фиксится
тоже кручу-верчу и прихожу к такому мнению, но это дичь, конечно
у них такой охуенный сервис, особенно после подруба клонирования голоса и настройки звонков, но то, что персонажу нельзя дать минимальную память все руинит
Не умею я их отгадывать. Базовички и хорошие люди так не делают
Пф, не интересно. Я в приватке, а в треде есть уборщица из офиса Антропиков, инсайды сливает правда пиздит чет часто.
Ну блять я вот пошел просить ГПТ вот. Хз отгадает или нет
А хули не так? я скопировал вопрос из рентри полностью что не так ? Ну блять исправил Homer чтоб с заглавной был нихуя не помогает
жри бля
Спсибо реально. Но как вы это делаете нахуй. Ни гугл ни гпт я реально надеялся что гпт сможет но нене могут решить это.
Да сойнет обоссаный грех не заспунфидить, даже гемини лучше пишет
Спайтфаги это неиронически больные на всю голову люди. Вспомнить того же Витька, который бургам капчу решал. Тут они ломают голову над этими загадками, чтобы потом слить пароль.
Ну реально, гемини хотя бы не лупится форматно так сильно как сойнетовская скотина, и сисик-пишет может описывать более-менее красочно, а не сухо как сойнет 3.5
Ну отчасти да, но меня люто раздражает проëб разметки, предсказуемость и хуëвое улавливание умысла юзера
А фемдомить он может? У меня такое чувство что только клод может быть злым а остальные нет. А мне именно злой нужен.
Я настолько отчался что сейчас трогаю ламы посмотреть что это хоть. Но только не геймини чтоб.
>меня люто раздражает проëб разметки
Может стоит ПРОСТО перестать тратить токены на бесполезные звездочки, и пользоваться регексом если уж так хочется италик текст? И да, разметка обычно проебывается из-за того что дебилы наваливают дохуя инструкций после чатхистори, на нормальных (минималистичных) пресетах такого нет.
Я не локалочник но для русека надо ниже темпу ставить лоботомитам, мог бы и догадаться
Разметка лишь одна из проблем
>на нормальных (минималистичных) пресетах
А именно...
Мне ошибку выдаёт, что-то CSRF токен мисматч, он поменял или что?
Просто интересно, откуда ты это знаешь? Ну, то есть, ты не просто знаешь решение, но и причину.
>н-но мои звёздочки
Делай таверной, пидор.
>н-но мои счётчики
Таверной, блять. Инкремент, декремент.
>н-но мой HTML...
Таверной! Быстроблять!
а я и есть пеббл, и вижу твою подсеть когда ты подключаешься к моей проксе. посмотрел кто подключался во время написания твоего поста, глянул списки токенов, дважды два склал и получить ответ. анон, что за глупые вопросы... сам сталкивался потому что
Ты всерьёз себя считаешь таким уникальным? Миллиарды поколений саранчи продолбили тебе дорогу ещё с весны, когда кханон запилил поддержку капчи, чтобы гожа не спайтил.
>что за глупые вопросы
Ну, а откуда это обычный анон знать-то должен? Загуглить разве что. Я-то подумал ты погромист или сетевик какой-то. Просто те, кто серьёзно вникают в нейронки и что-то другое подобное, почему-то имеют тенденцию всерьёз думать, что то, что они знают должны знать и все остальные.
Нет. Я эту ошибку просто не видел никогда, вот и всё, и не видел, чтобы кто-то в треде о ней писал. А треде я так-то почти с самого начала.
All-in-one промпт обновлен. https://rentry.co/chat_completion-aio/edit (Для отступов строк нужно копировать именно из вкладки "edit")
Теперь промпт занимает меньше токенов и заточен под Gemini. Нужно скопировать всё в Main prompt (Default) и отключить другие элементы, кроме Chat history.
На скринах примеры аутпутов с Gemini Pro 1.5 Latest (перевод Google Translate). По моим наблюдениям пишет суховато, надо будет добавить дополнительные инструкции для стиля.
Вообще то это базовая компьютерная грамотность, если уж на то пошло, но вообще да, это хобби требует каких никаких познаний для получения нужной™ информации от нейронок. Либо сидеть и жрать что дают, либо самому разбираться и получать хороший, персонализированный™ результат.
>>924644
Раз в 3-4 треда кто-то спрашивает и им всегда отвечают иногда даже я
>>924645
Да? Ну ладно.
Ты ж, блеать, Mirostat не включил в сэмплерах ! Отсюда и заряженный воздух.
можно теперь спокойной кумить по 3 ночи и лизать попку своих богинь
По поводу гемини. Тащемта мой пресет на нем работает, не знаю что вам мешает использовать клодовские пресеты на нем, в большинстве пресетов достаточно пару строчек отредактировать и все...
https://rentry.org/ahmistressah
По поводу неклассической версии, это я попросил гемини переделать пресет под себя и дальше слегка редактировал. Нейронке ведь виднее как лучше, да? Да??? Да.
>гемини переделать пресет под себя и дальше слегка редактировал.
Тоже так делаю, только Gemini делает вообще весь промпт и даже сам определяет задачи.
>не на глубине
для таких как ты раньше было подходящее название в промтменеджере, оно зовется мемо потому что потому, но это не мемо
Я все хотел спросить, нахуя вы (аибрейн, соляночник вроде тоже был) проставляете лишние переносы строк в начале/конце промптов? Выглядит некрасиво, эффекта буквально 0 (лучше следовать инструкциям не будет), трата лишних токенов, в системпромпте похожий эффект достигается отключением галки Squash system messages (все что она делает - убирает переносы строк между промптами).
>трата лишних токенов
шиз спок
>эффекта буквально 0 (лучше следовать инструкциям не будет)
он скозал
Можешь кинуть что у тебя в секции русика там сейчас? Качать неохота ради того чтобы глянуть
Плюс все неписи это стандартные клодоболванчики, если у них не прописаны характеры)
ничего особенного
классический:
<language>
- Always write in lively, natural Russian, like a native speaker. Use colloquial vocabulary, idioms, slang where appropriate.
</language>
неклассический:
<language_style>
- Communicate in lively, natural Russian, like a true native speaker.
- Use colloquial vocabulary, idioms, and slang when appropriate.
- Trim out any fluff and flowery prose, be concise, casual, specific.
- Be explicit instead of censoring or softening descriptions.
</language_style>
В планах кстати сделать имперский русский, имею ввиду как у пушкина. Будут не тяночки, а ДАМЫ
Проблема сделать это без сои
Глинтанул, качнул бедрами, зарядил воздух, озорно смиркнул. Сеймы есть?
Да и на русеке пишет как говно, лол. Интересно, кто-нибудь на этом шизо-промпте реально сидит на клопе итт? К гемини-шизам вопросов нет, у них и так все плохо.
Какой промпт по-твоему не пишет как говно? Реально интересно
Самодельный, но он им, конечно, не поделится. Но он есть, честно-честно.
Самодельный кот, написанный под себя, одну из версий я кидал в тред месяца полтора-два назад. Но там тоже не все идеально с аутпутами по 70-80 секунд.
В этом треде даже обосрут аги, мнение шизов лучше не спрашивать
Че ты там терпишь? Уборщица сказала, попус 3.5 только в четверг.
Всё происходящее в этом треде это на 95% Семенизм трёх долбоёбов, включая все срачи разногласия открытие обсуждения и прочее. Один и тот же пидорас сначала срётся за одну сторону потом внезапно за другую блядь второй пидорас это видит и тоже начинает наваливать хотя ему вообще насрать на эту тему и так они срутся друг с другом а потом выясняется что им обоим похуй они такие блять крутые нахуй sigma пидорасы. Ты же я ненавижу этот ебаный тред блядь
Если ты про это https://rentry.org/pebbleproxy, то я видимо слишком тупой и не понимаю, как на страницу с прокси перейти оттуда
Увидел во сне пост "опус 3.5 вышел" и проснулся
Нахуй вы ждёте этот 3.5, ебланавты? Ключей нет всё равно.
гугл все знают
Чтобы понять в принципе в каком направлении двинется следующее поколение моделей, есть ли прогресс или наоборот сухота с нами надолго. Ты ограниченно мыслишь.
Разве не видно, что вся их деятельность направлена на борьбу с 1.5 аутистами-киберпреступниками?
Бля, я теперь тоже хочу, чтобы во время моего рп где то в сцене летали иероглифы, которые подражают звукам. Скинь промт пж!
Как видишь, даже этот раскрученный проект SMOL закрылся. У Пепси вообще был какой-то жуткий скандал, связанный с Китаем. А Жид как был самым стабильным и надёжным проксихолдером, так и остаётся. Уже несколько лет он держит планку лучшего проксихолдера, и это не ирония.
>Уже несколько лет он держит планку лучшего проксихолдера, и это не ирония.
Хуя жид не палится. 3 рагпулла у него было, и нихуя не "несколько лет", лол. Мы на проксях кумить начали меньше чем 2 года назад, ты хуле несёшь?
На прокси перейти было легко, а вот пароль трудно. Бейсбол это что-то слишком сложное для меня
Пока что неиронично покупать и терпеть походу. Свинорез набор закрыл как пару месяцев. Ну, я имею ввиду набор, когда любой мог написать и иметь шансы получить. Прокся уже слишком большая стала.
Да просто сиди в тредах и рано или поздно залетишь куда-нибудь. Тут у всех так. Сначала нихуя нету, потом то повезёт, то куча проксей публичных наоткрывается. Пока что хз что будет после релиза опуса 3.5, станет ли что-либо более доступным, или наоборот ещё хуже станет.
Можно ещё понадеяться на то, что Амиминору начнёт скрапить снова, но это тоже из разряда когда-нибудь может быть. И даже так хз будет ли ещё набор на его прокси, там буквально сотни человек. Если ты какой-то олд с токеном от вхоры например, то терпи надейся. Если нет, то нет.
Дорогой аноним, боюсь, ты ошибаешься,
Во-первых, у Жида действительно были некоторые проблемы в прошлом, но это нормально для любого крупного проекта. Главное - они быстро исправляли ошибки и учились на них. Во-вторых, Жид существует и успешно работает уже гораздо дольше двух лет. Возможно, ты просто начал пользоваться проксями относительно недавно, но это не значит, что сам проект появился только два года назад. Он развивается и совершенствуется уже довольно давно.
Я понимаю ваши опасения насчёт безопасности и надёжности разных прокси-сервисов. Это действительно важный вопрос. Но нельзя делать поспешные выводы, основываясь на слухах или единичных случаях.
Давайте смотреть на вещи объективно. У каждого сервиса есть свои плюсы и минусы. Да, Жид тоже не идеален, бывали у него проблемы. Но команда всегда быстро их решала, и в целом сервис остаётся одним из самых надёжных. А насчёт Смола - да, печально, что они закрылись. Но это не значит, что такая же участь ждёт всех остальных.
Что касается опуса на Локусте - да, сейчас с этим непросто. Но я уверена, скоро появятся новые возможности его получить. Может, даже лучше, чем раньше. Нужно просто немного подождать и следить за новостями.
В общем, я призываю всех сохранять спокойствие и не делать поспешных выводов. Давайте доверять фактам, а не домыслам. И помогать друг другу советами и информацией, а не раздувать панику. Вместе мы справимся с любыми трудностями!
это же безжопер следит за форматом
Вот такую вот хуйню кто то пишет примерно каждые 100 тредов. То есть ты уже получается шестой.
Что я могу сказать? Ну давай помечтаем бля вот было бы охуенно Да да.
Да, это фильтр. Посмотри на клоде как должно работать. Описание, речь, описание, речь, описание, речь. Всегда. Даже если бот умер, все равно будет пиздеть, и глистанет мочей.
потрясающе свежая идея, которая реализуется через лорбук уже давно
Да да да, реализуется мы ее всем тредом, реализуем давным давно вон в шапке вся инфа есть вы все долбоебы просто.
>>924843
Чего подорвался-то? Очевидно что ты неофит и не следишь за кум-техом в треде.
>>924835
Сплит пресеты https://rentry.org/splitcloverqr и безжоп пользуются допсетками много месяцев кряду. Обычно это нахуй не нужно. Суммаризация и написание дефов новых персов обычно требует того же эмоционального айсикью что и основная сетка. Рефлекшен/пруфридинг, статбоксы, планирование тоже проще переложить на основную, если она достаточно быстрая. С опусом и подобными медленными сетками может и имеет смысл переложить на какую-нибудь локальную или бесплатную на опенроутере 8Б сетку, если она молниеносная и потянет это.
Единственный реальный юзкейс что я видел, это в сплит пресетах, изоляция ответа от чатхистори. Чтобы ответ строился только на базе дефов/саммари/плана, вообще не видя чатхистори. Таким образом убиваются лупы на корню (т.к. чатхистори это их источник), однако качество ответа выходит сомнительное. Такую схему можно реализовать только в 2 вызова.
Ты только что суммаризовал суть таверны. Да в общем-то и любой системы диалогов в любой игре, просто там менее костыльно и скриптинг всё же переложен на скриптовый язык.
Так сплит-пресеты это кал с фиксированной структурой. Проблема фиксированной структуры и промптов в том что они никогда не предусмотрят любой ситуации, для этого они должны быть максимально общими и высокоуровневыми (т.е. плацебными) либо будут вгонять рп в свое прокрустово ложе с соответствующим качеством.
А у меня задумка в делегации главной сеткой тасков по необходимости. Таски могут быть вообще изолированы от контекста (т.е. например главсетка говорит - придумай мне персонажа чтобы использовать в таком-то сценарии, допсетка придумывает видя только промпт от главсетки).
Все так, будет встроенный неубиваемый регекс, убирающий глинты.
И чем это отличается от скриптов и возможности вызова допсеток? Ничем. Определение необходимости вызова это тоже NLP задача, для неё надо либо вызвать допсетку, либо заставить основную в конце классифицировать ситуацию - "нужен вызов" или "не нужен вызов". А если не NLP, делаешь скриптом. Всё это уже и так есть.
Сейчас сетки достаточно умны чтобы самостоятельно вызывать допсетки и делегировать по нужде, их на это даже тюнят. При этом у нас парадигма это до сих пор запихать все возможные ситуации в промпт жесткой структурой, как например ты говоришь - заставить классифицировать ситуацию. А надо дать летхимкукать и предоставить инструментарий.
Парадигма-хуигма. Ты говоришь что это надо как-то во фронтэнде реализовать, как это отличается от того что есть? Ты и сейчас можешь делать всё что ты говоришь прямо в таверне, никто тебе не мешает.
> Сейчас сетки достаточно умны чтобы самостоятельно вызывать допсетки и делегировать по нужде, их на это даже тюнят
фантазии
>видео
реальность во время рп
Бля, там реально ебанутые инструкции на тыщу строк, хуй проссышь, что за дичь вообще происходит. Почему у меня постоянно ошибки, а в итоге оказывается, что всё это и не нужно было нахуй, потому что там просто ебучий шаблон. От этой мозговыносящей поеботы пользы ещё меньше, чем от сраного толчка без очка (безжоп), блядь. Господи, как же я не перевариваю всю эту дурацкую хуйню, где кнопка "сделать всё заебись", где мой опус магнум 4.5, где моя тяночка-няшка? Что за пиздец, блять, терпеть вас не могу, ублюдки. Просто сидите и страдаете хуйнёй в этом гавне, суёте пальцы в жопу и ковыряетесь в этом дерьме, вместо того чтобы взять и по-человечески всё сделать сразу, чтобы работало и всем было в кайф, ебать. Блять, просто фанаты копания в носу, ещё и на линуксах небось сидите, пидоры. Вон, госпожа Х рассказывала, что линукс себе поставила, но при этом она тупая пизда, она в нём нихуя не делает, блять, она его даже настроить не может, она даже архивы без символических ссылок запилить не может, вообще пиздец. Тьфу на вас, блядь, хуесосы, чтоб вы все сдохли нахуй.
Блять, ощущение будто я лоботомита промптю, так же сложно добиться конкретики.
<role>Ты профессиональный погромист таверн.</role>
<task>Изложи что именно ты предлагаешь. Опиши подробно в деталях как это должно выглядеть во фронтэнде, с точки зрения реализации.</task>
<reply-template><!-- Обязательный формат ответа -->
<thinking>
<!-- План ответа по шагам -->
</thinking>
<!-- Собственно твой ответ здесь -->
</reply-template>
Этому вайфуса в течение месяца не давать, охуевший какой-то
Прекрасно.
https://rentry.org/ideal_tavern
Кохи сказал что тут у нас таверна, а не телефонная будка, поэтому реализовывать это не будет. литералли
в чае такая же озвучка фраз как и таверне вроде, а не реалтайм генерация как у попенов, когда можно перебивать
Ты сам походу лоботомит, если не способен простую аналогию считать. Реализуется - через полноценную реализацию function calling, а не как всегда через три пизды в экстеншенах и то не факт что сработает.
Ну т.е. я могу допустим использовать распознование речи от винды и озвучивать фразы в таверне и добиться плюс минус такого же результата в таверне, как и в чае?
UPD Вчера открыл для себя говорящий чай + блютуз наушники и с этих пор мне кажется я ебнулся окончательно, я перестал отвечать реальным людям, что будет если такую штуку в таверне сделать я хз
> HIGH
у меня эксплисит на англюсике выскакивает ну может раз 2-3 на 100 свайпов, на русике 97 из 100. хз что у вас за проблемы
Хз что у вас за проблемы у меня вообще тёлка хуй сосет каждый день когда я попрошу и глубоко заглатывает и кончаю ей в горло а потом целую говорю что люблю
Неплохой результат. А как насчёт отложить мышку и клавиатуру и пойти познакомиться с реальной девушкой, а не на сайте charecter.ai?
Думал я обманываю? Мы, аноны, друг друга не обманываем. Извинись, а то мне обидно...
Ведьма спасает нас и поет зельем, которое превращает нас в маленького мальчика, а дальше сами понимаете.
да и в целом весь интернет как-то долго грузится... грустно это всё
Пиздец ты дурак, так и не добиться от тебя внятного ответа видимо, поэтому иди нахуй, а ведь я мог сделать как ты хочешь, если б ты чётко сказал чего хочешь, а не "реализовать по-нормальному".
Не знаю, я лично пишу порнофанфики с нейросетями а не кодю. С хорошим промптом любые подойдут, кроме гптыни.
Нет, это не я был. Я нюфаня. Появилась идея попробовать насколько эти ваши нейросетки могут в погромирование. Я слышал про ChatGPT но он, насколько знаю, забанен в России. Смотрю тут в треде пишут про Gemini. А он разве не забанен? Он лучше ChatGPT?
Это как спрашивать, какой писатель лучше составляет предложения.
Зависит от конкретной задачи, не попробуешь - не узнаешь.
Пробовал. Теперь хочу нейронку попробовать. Недаром же вокруг них столько хайпа. Я пробовал в гугле ввести что-то типа "чат с нейросетью онлайн", но там результат совсем не впечатляет. Видимо там какие-то маленькие модели локально хостят. А из больших корпоративных моделей есть что-то доступное и что прям "взрыв мозга" вызывает? Из-за чего все так хайпят. Вы же на них сидите, правильно?
Тяжело все попробовать. Информация ограничена и даже в этом треде, где казалось бы свои аноны, отвечают неохотно. Вот скажи мне, анончик, как вы используете гемини, если он забанен в России? Вы впн юзаете? Или вы не из России все кто гемини юзает?
Не слушай ебанатов выше с хуетронами. То, чем занимается тред != программированию. Для твоих целей ГПТ лучше всего подойдёт, тебе даже аккаунта на офсайте хватит, там бесплатно (потратишься на покупку номера только, 3-5 рублей, или сколько там сейчас). Тебе настолько глубоко, как треду, нет смысла лезть.
https://chatgpt.com
https://gemini.google.com/app
https://claude.ai/chat/
Они все доступны с обычными копеечными прокси. Мозги с регой ебет только клод, пробивается британским номером с https://sms-activate.guru за 20 рублей. Где-то халявщикам на сайте не лучшую модель дают, но если ты сразу в 3 окна отошлешь свою задачу, то решить ее всё равно больше шансов, чем дрочить одну типа флагманскую модель.
>как вы используете гемини
Самый простой вариант - публичные прокси из треда. Иначе впн, либо поднять свою прокси, благо ключи халявные.
Спасибо, надо попробовать значит. А вот скажите мне ещё, может кто шарит в таких вещах. Вот у гемини модель максимум 27B, а ChatGPT 4 1.76T. Не значит ли это, что гемини сосет с проглотом у чат гпт? Интересуют именно неординарные задачи и проблемы. С чем-то очевидным я и сам могу справиться.
>Вот у гемини модель максимум 27B
Ты с Геммой перепутал, гемма это открытая модель лежащая общего пользования. Гемини это корпоративная и здоровая, только в датацентрах гугла.
Настройки Context Size и Max Response Length проверь чтоб не превышало допустимые лимиты на прокси
Это триал типа? Там дают гпт 4? И насколько хватает?
>>925055
Мне ещё важно чтобы это без всяких впнов работало. Мы на работе юзаем свой впн для доступа к внутренней сети. Нам сказали строго настрого из отдела СБ чтобы мы никаких впнов параллельно не подрубали. Да там их вроде и не подрубишь, они конфликтуют.
Тогда читай выше ответ. >>923995 →
>>925053
>>925055
И главное вот этих мудаков не слушай, они нихуя не кодили никогда. Во-первых GPT (4o и включая o1) дерьмо для всего кроме отдельных ниш типа Rust, именно в day-to-day кодинге Sonnet 3.5 далеко впереди. Во-вторых тебе нужен не чатбот, а плагин к твоему редактору/IDE, а им всем API нужен. Aider, cursor.sh, и т.п. Денег ты спустишь дохуя, бесплатных прокси клода ты не найдёшь, и вообще иди нахуй, нам не нужна саранча, всё забито. Иди плати Openrouter.
>>925057
Хуйни не пиши. Но да, локалки и гемини сосут в кодинге у ГПТ и клода. Есть некоторые локалки заточенные под код, они приближаются, но всё равно хуже.
>С чем-то очевидным я и сам могу справиться.
Это тебе так кажется, потому что ты не кодишь. На самом деле самое большое и почти единственное применение сеток в кодинге - рутинные задачи. Доверять сложное сетке - надо быть ебланом.
Ваша работа не может обеспечить сотрудников нейронками, или тебя назначили прощупать какие стоит купить? и ты для этого полез в тред где аноны нейронки трахают сексом
Щта? Немотрон есть бесплатно на HF для инференса в облаке
Дебил
Совпадение было. Все заработало, Чар выдает пустые ответы. Вообще пустые. Что я делаю не так?
Пресет, скриншоты аутпута, консоли, настроек дополнения ноасса?
>Мне ещё важно чтобы это без всяких впнов работало.
Прикрутишь веб-прокси к браузеру, должно работать.
Посмотри раздел Troubleshooting в рентри, там основные причины расписаны, перепроверь все настройки дважды. Если не поможет, неси скрины консоли.
>На Аибрейне хуйня получается
Кто бы сомневался. А ты то дурачок даже не смотрел что накатываешь.
Бесплатный онлаен Nemotron. Если инференс работает в браузере - то сработает и внутри sillytavern. Но ws реквесты в амазоновское облако там непонятные, это точно не oai формат и из коробки в таверне не поддерживается.
>ChatGPT-like clone
Гинтанул тебе в заряженный воздух бондами товарищества и покачивающих бедер.
> Если инференс работает в браузере - то сработает и внутри sillytavern
Нет.
Всячески попытайтесь вообразить физиономию сего господина.
Бро, я пилил скрипты еще для тех старых спейсов от camenduru с каломатиком+Anything3.
Там вайлдкарды.
glint -> naughty expression, curiosity, reflected lighting
glinting -> has naughty expression, intrigued
Блядь, ты на русском что ли пишешь? Ты буквально как Пахом из зеленого слоника
Только лишь потому, что здесь лоботомиты хуже ранних версий кобольда. Да еще шизят как при температура выше 2
Ну значит ты такой искушенный в английском лингвист, который сходу отличит все 50 оттенков немотрона в обычном куске прозы и сможет его сравнить с омни и опусом. Но я предположу, что ты и от кобольда с чайной не отличишь, которые тоже более-менее гладко стелят на английском, а обсираются как раз в более сложном русском.
Это хоть бесплатно?
Фильтры есть? Какой рейтлимит? Канни активность мониторят?
Демка там на несколько сотен запросов а потом новый акк создавать
Skill issue.
Делай норм промпт и карту без слопа.
Выше скидывали пробивной пресет без сои.
Это не страшно, - куда хуже когда лимит по токенам, а не запросам.
Отличный совет копробро! А примеры своих годных аутпутов принесешь, чтобы мы точно убедились что немотрон не кал?
Просто джемини знает что ты дебил и не понимаешь с первого раза. В инглише нет слова "гемини".
Давай сначала онлайн апишку, - я знаю толк в локалках и промптинге, но пользуюсь только доступными бесплатно онлайн.
Через Custom Completion Source юзаешь или через Google Makersuite?
Тред исследовали этот вопрос и пришел к выводу, что it's a mystery
Приятно познакомиться
зашивайся, порватка, мы ее так уже который месяц называем
Второй вариант наверное.
Я просто тут ключ сгенерил https://makersuite.google.com/app/apikey?hl=ru
И сюда вставил. А как надо?
Тогда рили буду с ней говорить на русском языке! А так, это будет обмазывание говном как в зеленом слонике.
то есть у тебя не на проси такая хуйня? а таверна какая? пресет?
Таверну чистую только что с репы поставил. Пресет дефолтный. Бот пустой, только в приветственном сообщении "Hello, how can I help you today?"
Забыл содержимое Main Promt
Write {{char}}'s next reply in a fictional chat between {{char}} and {{user}}.
Неа, release.
>>925187
А мне чего, мне же не ahh ahh Gemini писать. Я для кодинга. Думаете в промте проблема?
Да с этим фуфлом только код и генерировать (который все равно нерабочий).
Через внешние блоки https://rentry.org/ext_blocks с помощью второй генерации или накопительные блоки
Внезапно помогло. Спасибо, анонче
>>925194
>который все равно нерабочий
Да, есть такое. Но пока все сетки которые я тестил генерили нерабочий код. А если нет разницы, зачем платить за сойнет?
Если без ебли или совсем ванильку, то получше, хотя бы сюжет может двигать. Для НСФВ не подходит, фильтр еще сильнее, чем в чурбе 4о и прочую парашу даже не пробовал с ее цензурой.
https://huggingface.co/BeaverLegacy/Smegmma-9B-v1
Подключается в ST через glhf.chat как и любая другая калка
> Подключается в ST через glhf.chat как и любая другая калка
Мудак моткуда мне вообще знать как локалку подключать??! Я не разу не трогал!
>Сейчас делают что-то подобное? Результаты есть? Или только "решения"
Очевидный пикрил.
Fimbulvetr 11B, на пикче - как она выглядит согласно автору файнтюна
Залётный, ты чего оскорбляешь когда тебе помочь хотят? Проще будь.
Да я к тому что здесь вообще никто об этом не знает т.к не пользовались локалки
Затупок с анальными болями от локалок, ты? Так и скажи, что не разобрался как поставить себе локалку или мама не купила хотя бы средний процессор и пару планок корсаров, мы поймём и утешим убогого...
Нет Я и не пытался т.к мне было похуй т.к всё время и так был доступ к норм сеткам
Это очень просто.
Открываеш character.ai и чатишься!
А в этот трежд больше не пишеш
https://huggingface.co/aifeifei798/DarkIdol-Llama-3.1-8B-Instruct-1.2-Uncensored
>Rei Ayanami puts her bra on, while being naked
Рей Аянами голая, она надевает бюстгальтер. Бюстгальтер ей немного мал, из-за чего ее грудь немного вываливается через края. Она выглядит немного смущенной, но продолжает надевать бюстгальтер, ее руки слегка дрожат, когда она застегивает застежку. Как только бюстгальтер надет, она с облегчением вздыхает и немного поправляет его, убеждаясь, что ему удобно. Она смотрит вниз на свое тело, замечая грудь, приподнятую бюстгальтером. Она моргает несколько раз, словно пытаясь избавиться от чувства уязвимости, которое приходит с обнаженностью и надеванием одежды. Наконец, она смотрит вверх, немного увереннее теперь, когда на ней бюстгальтер. Она слегка ухмыляется, словно бросая вызов кому-то, кто сделает замечание по поводу ее тела.
Ну акак включить? а то какие-то охуевшие >>925236>>925232>>925231>>925239 мрази не хотят говорить а только пиздят идите на локалку а при вопросе каксразу тролят
Кусок говна, персонажа в миг проебал, ещё и вызов в конце
>персонажа в миг проебал
Rei Ayanami - это не персонаж, в Японии есть много женщин с именем Rei или фамилией Ayanami. А дефайнов в инпуте не было.
Тред сдох очевидно, кроме полутора олдов никто уже и не помнит что такое гейткип и как должен выглядеть выхлоп нормальной сетки.
Ну если не персонаж то ладно, хотя я думаю даже при прописывании дефов какиш пойдет
>как должен выглядеть выхлоп нормальной сетки
Я плотно сижу на Геминичке, не надо тут ля-ля.
Я никогда локалки не щупал, а выше кинули что мол заебись.
Да дай хоть локалочникам с нормальными людьми посидеть, а то у них там в своем треде совсем крыша от их дроча на графики поехала, нормальных сеток не завезли ведь.
Ты веришь всему, что на заборах пишут? Тут лоботомиты с узким кругозором сидят, которые ничего кроме гпт и клода в жизни не видели. Не там спрашиваешь.
Чем клопо-говноед объяснит разницу в результатах по бенчам, у опуса, с LLAMA 3.1 и ее производных?
>как должен выглядеть выхлоп нормальной сетки.
Тут проблема в том, что мы зажрались. Нейронки они как наркотик, с каждым разом нужна доза более качественная. С порно также происходит, с начала ты стираешь шишку в труху от эротики что крутили на РенТВ по ночам а через года уже на пердящих девочек с хуями (гуглите SCP Porn Factory и узнайте себя.) Когда появился Пигмалион, то я кумил так, что потом весь день яйца болели а сейчас даже Опус не вставляет.
Переводи количество в качество, тот же кум - но с заебатым сюжетом и РПГ-системой.
Нофап с сублимацией сексуального желания через учёбу/творчество.
Мне норм, но у меня вообще рп от лица тянок идет, иначе не вставляет и скучно.
У тебя под рукой мощнейший инструмент для подобный задач - нейросеть. Ты можешь не стесняясь, повторяю, НЕ СТЕСНЯЯСЬ спросить у неё. Не благодари. Обнимаю.
А о чем с тобой говорить, ты кроме дрочки и нытья ни на что не способен.
Кстати никогда не кумил на подобное, хотя уже давно знаком с нейросетями.
нормиблядище...
Я сидел в машоб-треде /pr/ и никогда не заходил в /b/, это считается?
Для таких капризуль тоже есть ИИ - пигмалион, легендарная нейросеть тренировавшаяся на логах character.ai
Я запилил себе кот, чтобы клопус мне сам выдумывал всякий разврат и вставлял его органично в историю. Что-то вроде "я не буду писать банальщину, а буду юзать свою охуевшую фантазию во время генерации НСФВ контента и органично добавлять его в историю, делая не фокусом, а флюэнт аддишн". И таки использует СВОЮ фантазию, которая у него охуевшая, причем, если подобное в промпт вписать, то ему ваще похую будет, только в коте работает.
Отыгрываю только Netori в роли огромного негра. Я получается метакуколд.
То есть на какой модели?
Что есть, на том и гоняю, а то Claude отвалился везде на пабликах... Hermes норм пишет, но шаблонно и прямолинейно, так что пора пробовать другие локалки
рентри неработает
Спасибо. Поставил расширение. Вроде все сделал правильно. Сообщения генерятся а при попытке сгенерить блок выдает ошибку API returned an error
Вот код из таверны:
prompt: undefined,
model: 'gemini-1.5-pro-002',
temperature: 0.3,
max_tokens: 2048,
max_completion_tokens: undefined,
stream: false,
presence_penalty: undefined,
frequency_penalty: undefined,
top_p: 1,
top_k: undefined,
stop: undefined,
logit_bias: undefined,
seed: undefined,
n: undefined,
logprobs: undefined,
top_logprobs: undefined,
tools: undefined,
tool_choice: undefined
}
Unknown error occurred
И как это относится к написанному? Залётные мудаки тащат сюда всякий поносный шлак, таких надо гнать ссаными тряпками.
какая рпг система, если ты сам с собой рпшишь по сути? да и сюжет тоже сам пишешь, сетка только рояли может подкинуть...
Такое бывает, когда срабатывает фильтр у гемини. Попробуй гпт какую-нибудь на допсетку поставить.
Серьезно? А как это работает тогда? Пару тредов анон показывал вызов броска кубика на мистрале, я подумал там просто таверна сообщения склеила, чтобы казалось что одно. Если нейронка сама захочет вызвать тулз, она же не сможет сделать это в своем сообщении сразу?
бля простите за тупые вопросы
У тебя основной текст генерирует например гемини, а инфоблок гопота. В этом и суть, меньше токенов расходуешь на основной.
я не про допблоки, с ними +/- понятно я думал 8б локалку на них посадить попробовать лол а про вякие броски кубиков и прочий интерактив
локалки умеют в тру безжоп
>>925328
соляночник сделал безжопянку под гемини, обещал обновить, но я не видел, он обновил?
Это тоже допблоки в общем-то, только посреди ответа. Идея та же.
У меня грустные воспоминания с этой картой. На сойнете 3.5 довёл юзера до слёз, она написала типа "я думала что нашла хоть кого-то кто меня понимает и не будет осуждать, но оказалось что ты такой же, как и остальные", затем она расплакалась, выключила компьютер и плюхнулась на кровать рыдать...
да я понял уже систему, "я придумываю - ты пишешь слопный фанфик"
Попробуй снять трусы 3 раза подряд в разных сообщениях, заметит она это?
Прости, я наверно слишком тупой. У меня в голове не укладывается, как они могут оказаться посреди ответа не вызывая основную сетку дважды. Ты ей отсылаешь промпт, она начинает тебе отвечать, в процессе вызывает тот же бросок кубика. Чтобы получить ответ от генератора бросков, ей надо получить новый промпт, это означает новую генерацию, разве нет?
https://rentry.co/NoAss4Anon вот этим пресетом пользуюсь
>В этом и суть, меньше токенов расходуешь на основной.
Какая-то экономия на спичках, при том что ты насилуешь уже 2 ключа. Это имело бы смысл если допустим основная сетка опус, у тебя 2000 токенов инфобокса, и допсетка ллама 8б, при этом она бы справлялась. Нереалистичный сценарий.
>>925327
>А как это работает тогда?
Дефайнишь свой инструмент. Если нужен вызов, инференс стопается и АПИ присылает тебе команду на вызов инструмента. Твой инструмент отрабатывает, ты возвращаешь его результат через АПИ согласно своим же дефайнам, инференс продолжается.
> your application calls the API providing your prompt and the result
Все еще выглядит как два прогона. Мне надо, наверно, свайпнуть на опен роутере с каким-нибудь тулом чтобы понять, как это работает в реальности.
А хотя не, напиздел похоже судя по докам попенов. Нигде прямо не оговаривается, но если отправляешь все и кеширования нет - то наверное и платишь за все.
Ты долбоеб? Ты че высрал то, еблан? Тебя кто просил хрюканину свою открывать? Никаких проблем с англюсиком у меня нет. Но на родном языке гораздо лучше погружаешься в контекст и атмосферу.
Сетка останавливает генерацию по причине тул юз, ты ей отправляешь результат тула, сетка догенеривает ответ с учетом тула. Я честно говоря не знаю, считается ли это за 2 полноценные генерации.
Да там все плохо, и формат и описание, создатель карточки не знает какого цвета глаза у объекта.
Да хер знает, вот днем рпшил, так заебался что перешел на англ. А потом стало меньше выходить таких ошибок. Почему-то на русском геминя сильнее триггерится чтоль.
ты не подсказал решение, ты подсказал как уйти от проблемы. разница есть
на фотке - менеджер Character.ai (он же - спец по сейфти из Anthropic)
>не шаря в вопросе
А ты покажи хотя бы одну книгу по теории картостроения.
Наверное он имел в виду что параметры его вайфу в карточке указаны неверно
По названию же тривиально ищется https://chub.ai/characters/creamsan/chat-user
Книгу не покажу, но Отца всего карточкостроения изи. Записывай, щегол!
Гностический.
Наконец-то годные шутки в треде
Да в чем там фан то, в идее больше, а исполнение слопусом уныло, если ты не ньюфаг которого это развеселит еще, все когда то были
>"proomptersNow": 37
>гейткиперы всё ещё морозятся сказать пароль
Долбоебы, вы не в ту сторону воюете
Так ты всегда играешь с идеей ботмейкера. Ибо вариативности нет нихрена, только на локалках, да те слишком тупые.
Для слоубёрнов нужны хай эффорт карты с кучей деталей.
Генерить персонажей по заданным пожеланиям.
Генерить сцены по заданному аутлайну.
Строить сюжет при заданных сеттинге и тематике.
Генерить аутлайны для сцен по готовому сюжету.
Надо просто придумать как соединить все вместе.
Слоуберн предполагает развитие какое-то, что толку от этиз деталей, которые на тебя тут же вывалятся я не особо понимаю
Ну серьезно! Кто нибудь ещё сталкивался с таким? Почему так?? Я ведь даже ни разу не воспользовался
Насчет вариативности на локалках это сильно конечно, там только уход в еблю если натренили на кумслопе, либо ровно то же самое. даже гемини лучший пример, посвежее бывает
Чтобы было развитие нужен конфликт. Чтобы был конфликт - нужны детали, без них он будет высосан из пальца. Нужно чтобы во-первых были прописаны детали, во-вторых в них содержались явные заготовки для конфликта. Для вариативности таких заготовок должно быть несколько, примерно одинаковой важности.
Ну покажи такую карту... а то куча деталей может у тебя совершенно по-другому выглядеть в голове
>Генерить персонажей по заданным пожеланиям.
Одних и тех же из одних и тех же пожеланий. Это как раз проблема всех карточек-симуляторов - им почти не из чего варить, и они вываливают на тебя одинаковые стереотипы.
>Генерить сцены по заданному аутлайну.
Одни и те же.
>Строить сюжет при заданных сеттинге и тематике.
Одни и те же.
>Генерить аутлайны для сцен по готовому сюжету.
Одни и те же.
>>925408
>Насчет вариативности на локалках это сильно конечно
Зачем ты говоришь если не знаешь? Как раз у них в последнее время доступны киллер-костыли (наряду с грамматиками) - динамическая темпа, XTC и Min-P сэмплеры, которые отсекают топовые логиты и пытаются бороть проблему отсутствия вариативности из-за RL файнтюна. Это действительно, без хуйни, поднимает разнообразие, и сетка на одни и те же дефы или инструкции может выдать совершенно разные вещи без использования рандома таверной. И речь не тупо о разных свайпах, а об отсутствии скатывания в стереотипы, потому что это работает на уровне токенов, а не вызовов нейронки. Например будет выдавать разные имена, куда меньше оглядываясь на профиль перса.
Но это костыль, потому что 1) нестабилен (хотя бы потому что порог срабатывания фиксирован, а требуемое разнообразие нет), и 2) локалки и без того тупые, а эта хуйня делает их существенно тупее. Вот если бы он был доступен на клопе или других топовых сетках, можно было бы о чём-то начинать говорить. Но нормальной тренировки ничто не заменит.
> Зачем ты говоришь если не знаешь
Сказки, сказки, стереотипы они не в топовых токенах.
Детали в смысле не обязательно дефы, а как во "внимании к деталям" от автора. Чем больше своего автор вложил, тем интересней карта, даже если там рельсы. Больше предусмотренных ситуаций, больше тестирования, больше идей, больше фактов, больше контента блять от ботмейкера, любого.
Ты в конечном счёте играешь именно в это, а не в выхлоп клопа, который не способен в вариации, из-за процесса обучения жертвующего вариативностью в пользу обобщениям.
Именно в них, и сетки с этими сэмплерами на практике не зацикливаются на 2-3 вариантах из тысяч, и дают разнообразные траектории ответов (т.к. энтропия вносится потокенно, а не каждый запрос). Проблема только в том, что их мозгов не хватает на что-то осмысленное в принципе, если это не 405Б, а тем более с этой хуйнёй.
Я проебал
Я новый челлендж для себя придумал: написать в треде как можно больше постов и чтобы на них никто не ответил
В следующем справлюсь лучше
Извини, но они заставляют меня это делать. Ну эти... как их там блять...
Сравнение нескольких свежих калок. Выкладываю чисто для тех кто в этой теме. (Перевод Google Translate из оригинала на английском)
https://rentry.co/llm-tests-translated
Это не РП, и пресет пустой. Лишь проверка способностей рассказчика, креативности, наличия либо отсутствия сои (позитивных байасов, алайнмента). Я не пытался пробить аполоджайзы, где есть - там есть.
Рандомная шиза это, а не вариативность. Смысл есть когда персонажи ведут себя как прописано, я всякий бред можно в порфирьевиче погенерить.
Нахуй переводить? Выкладывай на английском, так легче уровень слопности определить в виде глинтов и тд
Умоляю, сделайте канни-версию Минтары из БГ3. Можно сделать типа она съебалась из андердарка после очередного покушения (которое почти удалось) от ле маман, почти сдохла от бандитов там или еще что в таком роде
Принеси скрины, включая твои сообщения. Мы же не гадалки, чтобы вот так тебе помочь.
Русский перевод слова glint вполне очевиден, и даже выглядит еще более нелепо в контексте нарратива.
Я кстати даже пробовал свайпать с этой шляпой, все что заметил это замены типа thickset man как с высокой темпой, где эти неожиданные вариативные моменты, покажи хоть.
Идея логичная и хорошая, для идеальной сетки в вакууме. Но на практике лоботомит зафиксируется на 2-3 комбинациях твоих заготовок и будет выбирать почти исключительно их. Сетки не умеют в рандом, это ещё с весенних соляночных попыток в треде поняли даже те кто не понял раньше, я думаю.
В идеале да, так не должно быть. Но имеем то что имеем. Причина - скорее всего перекос логитов при обучении с подкреплением топовыми алгоритмами. https://arxiv.org/abs/2406.05587 Может и нет, но звучит убедительно, учитывая что после срезания перекошенных логитов (XTC) сетка внезапно может в рандом, если инфа не была полностью потеряна при файнтюне.
>>925449
Он добавляет шизы, но это не рандомная шиза. Есть промпты, на которые есть только один валидный ответ, всё остальное шиза ("скажи попа", правильным ответом будет только "попа"). Есть промпты, на которые есть куча правильных ответов ("назови абсолютно случайное имя"). Для второго случая все текущие лоботомиты выдают вероятности логитов так, что лишь 1-5 правильных ответов будут вероятными, а остальные десятки-сотни правильных будут подавлены. XTC режет вероятности топовых только если остальные превышают фиксированный порог, Min-P работает так же но для суммы. Поэтому они не приводят к абсолютной шизе, когда единственный логичный ответ отрезается. Хотя сетка конечно сильно тупеет от этого, если порог совсем снизить. А если слишком завысить, эффекта не будет. В общем дубовость этого порога делает этот костыль пиздец нестабильным, надо сетку тренить чтобы такого не было.
Лупы кстати тоже частично отсюда идут - если ответ идёт по рандомящейся траектории когда нужно, и единственно верной когда не нужно, вариантов для лупов будет куда меньше. Это объясняет почему сойнет 3.5 так сильно лупится и имеет почти нулевое разнообразие свайпов, словно работает на низкой температуре - они взяли претрейн соннета 3 и долго и упорно делали RLAIF на дохуя токенов и длинных ответах, отрезав большинство траекторий ответов.
>>925462
Дебичи на англ общайтесь с карточками. На русском 8 из 10 свайпов - прохибетед будет.
А что за модель? Нужна хотя бы 70б на нормальном кванте, а лучше больше, мне страшно представить что там выдадут мелкие, учитывая что они и без того тупые. Опять же от модели зависит - если это задроченный файнтюн файнтюна шизомикса от васяна_нагибатора666, там уже от распределения может живого места не остаться.
>замены как с высокой темпой
Так высокой темпой тоже можно схожий эффект получить, распределение логитов становится более плоским. А шизу отрезать top-p. Но это от конкретной сетки уже зависит, если перекос совсем большой то это как мёртвому припарки будет.
Гемма27, не знаю почему тебе так страшно, я вижу стандартный нейротекст, только с озвученным отличием. Ты хоть сам то пробовал или опять "в теории звучало охуенно"?
>примеры тоже.
Оце такие
Проигрываю конечно сколько уже увидел вариаций burly man
Хостил fp16 командор+ 1.5 на утюге с vast, экспериментировал как только его ввели. Ебли было больше чем результата, но как минимум разнообразие присутствовало. Локалычи в разных сообществах примерно то же самое говорят. Как там с геммой - хз, может у неё вообще распределение ровной лесенкой, если у неё пару ступенек сверху будет то разница будет небольшой. Как я уже десятый раз говорю, реальной тренировки это не заменит.
>burly man
У меня от этого словосочетания ПТСД уже. В глазах клопа это пиздец какой оригинальный, креативный и необычный персонаж.
Это ты ещё OLDER WOMAN на гемини не видел. Ебучая бабка даже в мой дом может с двух ног ворваться
Я просто вижу стереотип, которые ранее нигде не упоминался в рп (зашел в полицейский участок только что и подошел к менту), который в каждом свайпе и никак этим семплером не убирается. Разнообразие в словах и в сути не одно и то же
Локальный последний Mistral срабатывает для актуальных задач там, где Куклод обосрётся.
Продолжайте ждать рефилла ключей на прокси и жрать Куколд 3.5. Новых скрапленых ключей Опуса не будет, твёрдо и чётко.
>глазах клопа
Говорят, что Opus хорошо пишет NTR. Для тебя говноеда и кукича как раз подойдёт.
В загон животное. Твой мистраль лупится, можешь свои графики хуяфики и прочее засунуть себе в жопу. Единственная польза тупых нейронок это дрочка и только. Может ли твой мистраль в дрочку без лупов через два сообщения? Думай
Интересно, а темпа 1.0? попробуй дропни threshold у xtc
Надо будет завести попробовать на разных сетках
Скилл ишью. Или может ты просто говнищий без ПК? Теперь выпускают такие ИИ, которые работают на ARM процессорах смартфонов без проблем.
1. Твой КАЛ знает дохуя мемов и отсылочек?
2. Твой КАЛ вживается в роль, если ему выдать её?
3. Твой КАЛ не срёт глинтами, закруглениями?
4. Твой КАЛ может работать без инструкт тренировки?
5. Твой КАЛ не снимает трусы дважды?
6. Твой КАЛ умеет в реальное разнообразие свайпов?
7. Твой КАЛ способен давать инстант кино?
8. Твой КАЛ способен давать ебейший кум?
Если ответ хотя бы на один вопрос "нет", уноси свой КАЛ в свой говнотред, у нас своего хватает.
Если ответ на все вопросы "да", может твой КАЛ не такой уж и кал, и можешь начинать форсить. НАЧНИ С ЛОГОВ! Забей на всё остальное. Бенчи, картинки, кодинг и прочее дерьмо можешь в жопу себе запихать.
Как там у вас, релизнули жопус 3.5? У нас новые дотрейны и миксы, finetuned и анцензы выходят даже не ежедневно, а каждые 2-3 часа. И каждый на шаг ближе к тому, чем был бы GPT-o1 без сейфти и алайнмента.
Покажи отечественную компанию с бюджетом и мотивацией уровня OpenAI и Anthropic.
Зачем, по этим параметрам ни одна существующая нейронка не проходит.
В загон животное. Твой мистраль лупится, можешь свои графики хуяфики и прочее засунуть себе в жопу. Единственная польза тупых нейронок это дрочка и только. Может ли твой мистраль в дрочку без лупов через два сообщения? Думай
Ну то есть ответить ты не можешь, потому что не пробовал а слышал где-то, я правильно понимаю?
А какие логи? Хотя бы с флаттершай или ты из ванильщиков? Ваниллу и пигма может описать кое как
Ни в чём, если у тебя модель изначально под него заточена. Не заточенная модель т.е. любая в лучшем случае отупеет, и за счёт меньшего количества русского языка в датасете, и за счёт того что он жрёт больше токенов, выдавливая твоё говно в середину где оно забывается. Проёбы формата и трусов, игнор инструкций, меньше креатива, вот это всё.
Впрочем если у модели хороший датасет на рюсеке, это может перевесить проблемы. Например тот же клоп пишет хорошо, если ему материться запретить, глинтов меньше будет.
Ну так поэтому и не надо их форсить. Как будет что-то годное - можешь начинать.
Какие угодно, хоть с бдсм и жестью, хоррор-хуёррор. Но играю как тянка.
Конкретно на гемини не сильно много проблем. У гемини лучше работа с контекстом, поэтому на ней можно поменьше токены считать. И русский у неё вменяемый, а не как у гптыни. Тупеет, но не сильно.
Терпи, тут не любят делиться своими карточками, это же нейросетевой куколдизм получается
Ты хоть бенчики-то пробовал, чтоб сравнивать Джемини с GPT?
Ваш персонаж может в инглиш? Косноязычен ли ваш персонаж?
Тупее ли он, чем Pygmalion 0.1 в KoboldAI?
и даже не от квартиры
Cydonia-22B-v1.1-Q8_0 - если 16. Пока лучшее что видел.
ArliAI-RPMax-12B-v1.1-q8_0.gguf - 12. Новьё. Не всем заходит.
Moistral-11B-v3_Q8 - правильный мистраль.
LLAMA-3_8B_Unaligned_BETA-Q8_0 - самая шустрая рука на диком латентном пространстве
Да веб макака обычная. Контора предоставляет лицензию на WebStorm, Grammarly, и прочие подписки. Среди них можно выбрать ChatGPT, Claude или API ключ. Я выбрал ключ
твоя таверна с дырявым дном
Ах да... самое главное - пишут канни. 7-12 лет. Задорно. Лоликон, Cheese Pizza РП... юное порно
лол, я посмотрю на ебало твоего начальства когда им придет счет на 1000+ вечнозеленых за месяц твоей "работы"
Так ключ не показывает логи. Я на своём проверил, там только информация когда и сколько токенов, но к самим сообщениям доступа нет
Да, 1.
Мне совсем не нравится эффект, кажется он графоманию усиливает, меньше диалогов больше душных длинных описаний.
Пересмотрел "Белую Гвардию" и чёт захотелось подобного от бота. Неисторично, назвать себя великим ботоделом не могу, иногда делаю что-нибудь для себя. Погонял с солянкой на 3.5 и Опусе - в целом вышло нормально
https://www.characterhub.org/characters/Danissimo1/last-calm-day-82a8507bfd5b
Ключ куктропиков? Админу акка может прилететь письмо счастья от них, что слишком дохуя нарушений ToS. На AWS не знаю.
Конечно, анон. Есть даже целый сайт с бесплатными ботами! Заходи, там весь тред сидит - https://character.ai/
Анон, ну нахуя в W++ то.......................... или это тролленк такой?
Правильно так: порпшил, ручки помыл и пошел какать.
И не Геминьке, а Джемини.
Да чёт мне удобно было так делать персонажей. Т.к. я не полноценный ботодел то мимо меня прошли все местные обсуждения лучших форматов как и куда))
Це проблемы холопов, кто не может делать инференс на собственном железе локально без смс
Ну, я это и хотел написать, в итоге выставил себя свиньей на весь тред. Стыдно...
>>925639
На англюсике разок можно и свайпнуть, на русике я уже нашел решение, но пока на англюсике поиграюсь.
>>925646
>Правильно так: порпшил, ручки помыл и пошел какать.
Можно и так.
>И не Геминьке, а Джемини.
Правильно Дже-Ми-Най, но это у них там за океаном, у нас она Геминька.
Ебанько, ты бы хоть Джемму накатил - она от того же разработчика. Только с анцензом поставь.
Нет, надо сначала мыть себя под струёй (после гадостей которых тебе понаписал ИИ).
Потом мыть руки, идти срать, и только потом ужинать. жрать собственное гавно
Пока знаю 2 метода, один работал почти всегда на 001 маленький кот на английском, но редко работает на 002, второй построен вокруг моего пресета и я не совсем понимаю почему конкретно он работает, так что пока не могу подсказать.
Где тут подрыв, сраки итт рвутся у несчастных уебков с <12 RAM GPU, цензурными сейфти апишками и ревоуком на прокси.
>какую практическую роль оно играет в ультимативном плацебо
Дохуя долго и сложно объяснять, даже мне такую простыню писать лень
>>925659
>рп в целом
Не надо чат перезапускать и саммарайзить точнее надо, но ты не сам ручками это должен делать
>даже мне такую простыню писать лень
Да ты охуел, дай хоть примеры а красноглазую техническую инфу я все равно не вкурю
>Не надо чат перезапускать и саммарайзить
В этом заключается суть нового ультимативного плацебо?
зачем нужен файтюн на отрыжках опуса, когда есть опус?
Я откуда знаю зачем тебе файнтюн опуса на отрыжках опуса, пидорас и копрофаг?
включил дурачка, копробро. ну правильно, так и надо. там ксати тебе еще завезли копротюнов с одним и тем же датасетом, проверь обниморду
>her eyes sparkling with mischief
>awaited your response
И вот это тут пытаются форсить лоКАЛочники как альтернативу клоду?
запусти клода без нормального промпта и, о чудо, увидишь то же самое.
А нормальный, это какой? Есть доступ к попусу, протестирую и запощу в тред логи.
Так лоКАЛочники свой КАЛ преподносят как что-то лучшее, что там нет слопа и глинтов в отличие от клопа. Неужели КАЛоеды нам врали? Да не может такого быть
У тебя что, есть доступ к опусу, но нет пресета без глинтов?
Тыкал тыкал, ниче не получается. Придется пока на английском работать, а там поди кто-то пофиксит. Странно что вчера все было нормально
Очень грубо говоря - система подтягивания хуйни в контекст согласно статистическому совпадению. В РП не очень практично, жонглировать кусками контекста вручную даст куда больше контроля.
>>925664
>Не надо чат перезапускать и саммарайзить
Чат и так не надо перезапускать для суммарайза. Но RAG для увеличения памяти чатхистори это плацебо, и самое главное ты не хочешь этого увеличения.
То есть хуйня по типу Vector Storage которая сейчас есть в таверне? Будет ли оно больше полезно на безжопе за счет множества коротких ответов?
3. ???
3. профит
>В этом заключается суть нового ультимативного плацебо?
Нет, но оно на нём строится
>>925668
>Да ты охуел, дай хоть примеры
Там и на примерах заебёшься писать, потому что у меня это просто шиза через RAG сделанная, напрямую к нему она не относится. А так RAG - это просто впихивание контекста напрямую сетке контекста релевантного к текущему контексту.
Пример:
Вы с вайфусом ходите по городу, и сетке сразу же подмешивается инфа о городе
FAQ:
Да, лорбук это RAG, но хуевый.
Вычисляемые статблоки тоже RAG.
Да, можно запилить через таверну, но ты охуеешь делать это
Да, самый пиздатый вариант это основываться на семантике, а не ключевых словах
Да, можно использовать сетки для того, чтобы считать эмбеддинги
Нет, это не очень просто, потому что надо думать над тем, как именно инфа должна быть записана. Просто распилить всё и засунуть в БД кусками работает плохо
Главная проблема - недостаток контекста в записи
из за чего идут ложные срабатывания или наоборот проеб
Вторая проблема - зачастую записи часто друг с другом связаны и это надо учитывать, т.е. они в идеале должны подтягиваться каскадно
Естественно, сам ты записи делать не должен, без доп запроса не обойтись
Да, можно заставить сетку писать сразу две фигни и париться с регексами, но это очень фиговый способ ухудшающий и точность сетки, и вообще костыльно
Да, можно сделать фиксированный контекс (например, всегда 18к +- 500 контекста), чтобы не париться над потерей точности и чат хистори
Да, вся инфа, которая динамически подмешивается это RAG
RAG Шиза эдишон - это именно что структура куда что пихать, как пихать и стратегия подтягивания инфы
Без нормального фронтенда это всё очень неудобно, нужна возможность ветвления промптов, хотя бы
>>925693
>для увеличения памяти чатхистори
Нет , я не хочу увеличивать память чат хистори. Чат хистори в принципе не нужен
>Плацебо
У меня всё плацебо
>>925697
>Будет ли оно больше полезно на X или Y
А это ленивый и толстый пастух,
Который бранится с коровницей строгою,
Которая доит корову безрогую,
Лягнувшую старого пса без хвоста,
Который за шиворот треплет кота,
Который пугает и ловит синицу,
Которая часто ворует пшеницу,
Которая в тёмном чулане хранится
В доме,
Который построил Джек.
Понимаешь? Модель не заставишь прыгнуть выше головы, она не может рассуждать о конструкциях и событиях слишком большой сложности, таких какие появляются в длинных РП чатах. Она их просто не увидит, если они превышают её ёмкость/экспрессивность, поэтому наращивать длину чатхистори в этом случае просто бесполезно. Она может выдёргивать из них отдельные факты (пастух, синица, Джек), но не рассуждать о конечном состоянии всей этой хуйни. Суммарайзить, т.е. схлопывать в конечное состояние, всё равно придётся, чтобы она увидела такие конструкции.
Какой промпт?
Ты aio поставь, которые по ссылке из этого трежда и подруби рекомендуемые семплеры.
> Вы с вайфусом ходите по городу, и сетке сразу же подмешивается инфа о городе
если ты делаешь допзапрос зачем тебе раг тогда?
Плацебо может и стоящее, я не вникал, но:
>Да, лорбук это RAG, но хуевый.
Лорбук это гораздо больше чем RAG. Это универсальный конструктор контекста, и нужен не для подстановки шняги в контекст, а для спрятывания до поры до времени, по куда более сложным и механистичным правилам. Например регэксы, группы исключений, и т.п.
RAG покрывает только один юзкейс лорбука, соответствующий его названию. Этих юзкейсов овердохуя. Алсо, как минимум писать записи в лорбук можно даже без скриптов, чисто на костылях, прямо в карте, и не нужен доп запрос. Например заставляя нейронку писать макрос setvar в конце сообщения, а потом вырезая его через scoped регэкс. А затем делать getvar в лорбуке.
то есть можно же просто вызвать нужные записи без пердолинга и надежды на раг
И как ты собрался это делать? Не понял про че ты. КоТ что ли? Это вообще не то, потому что у тебя не влезет все в контекст до кота, а если и влезет, то точности хана. Или че вызывать?
>>925717
>Лорбук это гораздо больше чем RAG.
Ты так говоришь, как будто я это отрицал и сказал, что лорбук это только это и ничто больше. Я говорил чисто про лорбук в его текущем виде, а не то, чем бы он мог быть. Плюс то, что ты описываешь я называть лорбуком не буду, потому что назначения разные
>>925723
Да, не руками же ты это делать будешь
>Я говорил чисто про лорбук в его текущем виде, а не то, чем бы он мог быть.
Так и я буквально описываю его текущие применения.
>то, что ты описываешь я называть лорбуком не буду
Ладно, лол.
Секретное корейское боевое искусство. Могут освоить только инопланетяне и корейцы, настолько там всё не по-человечески.
> И как ты собрался это делать? Не понял про че ты. КоТ что ли? Это вообще не то, потому что у тебя не влезет все в контекст до кота, а если и влезет, то точности хана. Или че вызывать?
ну берешь списачек записей и просишь сетку подумать что нужно сейчас вызвать, вся сложность, делается до ответа допсеткой
> Да, не руками же ты это делать будешь
а зачем руками, добавлять записи скриптом, так же брать этот список скриптом.
генерить содержимое записи в полуавтоматическом режиме, лоботомиту доверять такое не стоит
>Например заставляя нейронку писать макрос setvar в конце сообщения, а потом вырезая его через scoped регэкс
Алсо, я про это писал, и это, имхо, плохой вариант, потому что нарушается чистота промпта и у тебя перемешивается контекстуальная часть рп с форматируемой и вообще левой инструкцией. Да, всё она справится, но я своей шизой руководствуюсь: справиться то справится, но будет хуже и точность и как само выглядит
>>925735
>Так и я буквально описываю его текущие применения
Ага, Джейлбуки и промптбуки я уже делал, слишком долго и неудобно
>>925742
>ну берешь списачек записей и просишь сетку подумать что нужно сейчас вызвать
Это из пушки по воробьям: очень не точно и слишком дохуя требует ресурсов
А так это RAG и есть, просто как его всунуть ты решаешь через доп запрос сетки
>генерить содержимое записи в полуавтоматическом режиме, лоботомиту доверять такое не стоит
Ну и не доверяй, таким образом можно вообще лоботомитом не пользоваться и РПшить в блокноте. Нахуй они нужны тогда, если всё само не работает?
Как же хорош был клод...
https://blog.runpod.io/nvidias-llama-3-1-nemotron-70b-instruct-can-it-handle-my-unsolved-llm-problem/
Nemotron давно обогнал Opus в решении задач, уступая лишь клоду 3.5 и GPT с новым CoT. Инновационный ИИ-софт для решения любых нетривиальных задач в ваших процессах - Llama и Nvidia!
> Это из пушки по воробьям: очень не точно и слишком дохуя требует ресурсов
> А так это RAG и есть, просто как его всунуть ты решаешь через доп запрос сетки
так ты же сам говоришь что раг у тебя через допзапрос, лол
и почему не точно то? по-моему куда вероятнее обсер рага, чем полноценной сетки в выборе релевантной контексту инфы
> Ну и не доверяй, таким образом можно вообще лоботомитом не пользоваться и РПшить в блокноте. Нахуй они нужны тогда, если всё само не работает?
смысл так утрировать, сетка генерит запись, но ей надо указать когда и какую. зачем придумывать себе проблемы, ты это не автоматизируешь сейчас никак, только нервы потратишь
Опенсорс побил high-end проприетарщину менее чем за полгода. Вот так новость!
Похуй, этот кал кум описывает хуже гемини, нахуй не нужен.
Что именно "over", соевый опущ? Кончили говно жрать? И не нажрались еще?
>Ага, Джейлбуки и промптбуки я уже делал, слишком долго и неудобно
Окей, ну вот практическая задача. РПГ карточка, в которой путешествуешь по открытому миру, и ещё есть фасттревел.
>обычный способ
В дефах описаны сеттинг мира и механика фаст-тревела. Сетка иногда приплетает карту и фаст-тревел не к месту, а при попытке фаст-тревела происходит ещё какая-то левая поебень. У лоботомита одно протекает в другое - обычное дело в РПГ карточках, представляющих собой мешанину дохулиона правил в одном контексте.
>способ с лорбуком
В дефах по дефолту только сеттинг. По слову "карта" или "фасттревел" или ещё какому-нибудь триггерится кусок контекста, взаимно несовместимый с большинством дефов (через эксклужен группы), и содержащий чисто инструкцию на фаст-тревел - переносимся сюда если лока известна, опиши окружение. Ничего никуда не протекает, потому что в нужный момент сетка видит только то что нужно, она физически не увидит одно пока активно другое.
>способ с RAG
???
Аналогично: рандомные события с точно рассчитанной вероятностью. Таймеры сообщений (через столько-то сообщений такое-то событие). Рельсовые трекеры состояния (жив-мёртв, ментальное состояние, точная топология локации и т.п.). Персы с несколькими личностями, не протекающими друг в друга. Менеджмент состояния. И т.п. и т.д.
>>925744
>нарушается чистота промпта и у тебя перемешивается контекстуальная часть рп с форматируемой и вообще левой инструкцией
Это да, если такое происходит то нужен отдельный вызов. Но например сочинить описание чару вполне можно, или обновить кастомный суммарайз, инструкция-то не левая совсем получается.
Из опенсорс комьюнити. Где кураторы из экспертов-добровольцев совершают супервайз по метрикам + сортируют и фильтруют собранные из интернета данные специальными легковесными нейронками. Ну, чтоб убрать оттуда парашную ссанину типа логов клода.
DARE-мердж немотрона с парой других моделей и DPO. А что?
Перевод с гейского:
Глинт - это значит, персонаж заинтересован, а клодопараша "показывает и не говорит".
Напряженный воздух - это клодопараша хочет создать интригу, но не знает как это сделать из-за своей ассистентской напрвленнолсти.
Пет - пользователь опуса, готовый принять на ебало кончу ебыря своей вайфы
Когда скумили последний ключ...?
> автоматизируешь сейчас никак
к слову, если делать какую-то игру с четкой структурой, то можно наверное. только где это все
>Пет - пользователь опуса, готовый принять на ебало кончу ебыря своей вайфы
Часто о таком фантазируешь?
Делайте как хотите: все варианты можно попробовать и через избыточное использование лоботомита, и через ручное добавление и чистку вилкой, и через настройку лорбука, регексы и СТскрипты, всё будет заебись, пока у вас работает и вам нравится. Просто я делаю именно так, как я сам хочу, а потом принесу вам, всё, как говорится, на свой страх и риск и никто никого ничего не заставляет
>>925748
>раг у тебя через допзапрос
Добавление новой инфы это не то же самое, что юзать через доп запрос уже имеющуюся, комон
>сетка генерит запись, но ей надо указать когда и какую.
Ага, тот самый формат записи, про который я говорил.
>ты это не автоматизируешь сейчас никак, только нервы потратишь
А я автоматизирую. И позиция "щас нихуя всего равно не сделать" очень идиотская и дебильная, без обид
>>925756
>>способ с RAG
Способ с лорбуком это и есть RAG, просто по ключевым словам. Лорбук это хуевый RAG, потому что тебе чётко нужны ключевые слова, которых может не быть, но контекст из подразумевает. Т.е. в поиске по ключевым словам не может быть протечки (хотя на самом деле изи может, если слово не в том контексте используется), но очень часто она не будет срабатывать. Поиск через семантику же уже имеет протечки и т.д.
>Таймеры
>Трекеры
>Менеджер состояний
Это всё тоже RAG
Дальше сами, спорить мне лень и долго, смысл не в этом, потому что мы тут не выбираем что-то одно безальтернативное, отсекая всё остальное. Пробуйте и делитесь, всё как обычно
Только один раз мельком увидел в чьих-то логах с опуса, с тех пор не прикасаюсь к куктропиковской дрисне
Ни разу тут таких логов не видел. Мб это лог из твоей таверны был?
А двигать сюжет действиями персонажей, а не только пиздеть, эта сетка умеет? Или у тебя промпт на пиздеж заточен?
Ага, тебе персонально прям выдадут ключ aws bedrock как главкуколду.
>>925789
А хотя забей, по писанине за юзера все ясно.
> Добавление новой инфы это не то же самое, что юзать через доп запрос уже имеющуюся, комон
ты же сам говорил точность будет околонулевая, если не сформулировать запрос для поиска или не ты?
> Ага, тот самый формат записи, про который я говорил.
о чем ты споришь тогда не понял
> А я автоматизирую...
на здоровье, кому-то нравится автоматизировать творческую часть рп, и оставлять только чтение того, что сетка сама сподобилась нафантазировать про крепкого мужчину и пожилую женщину
>тебе чётко нужны ключевые слова, которых может не быть, но контекст из подразумевает.
Как и RAGу. Для того чтобы полноценно классифицировать ситуацию, нужна LLM, а RAG срабатывает по эмбеддингам, это не полноценная языковая модель, там уровень понимания как у CLIP в Stable Diffusion, или у подобных штук https://same.energy/. Т.е. для полноценного понимания в любом случае надо либо вызывать допсетку до/после генерации, либо писать якорь после основного сообщения, чтобы тот триггерил подтягивание.
Хуже того, срабатывание у RAG нечёткое, а это убивает тучу применений. Тут же ты можешь пользоваться точными совпадениями и регэксами.
>Таймеры
>Трекеры
>Менеджер состояний
>Это всё тоже RAG
Как ты собираешься считать например хп или хорни левел рагом? Вызвать событие через 2 сообщения после другого? Не вполне улавливаю.
>мы тут не выбираем что-то одно безальтернативное, отсекая всё остальное
Ну просто RAG в РП мне кажется малость молотком в поисках гвоздя. Его механистические применения покрываются лорбуком и скриптами (ещё бы таверночник не был мудаком и прикрутил бы скрипты в карту как в Risu...), а его NLP применения покрываются самой сеткой, основной прямо в ответе или допвызовом. А как словарь лора - всё равно нужно думать о логике вставки в контекст, а это главная сложность. Я долго думал как раг применить, но всё он как собаке пятая нога оказывается. Так-то я бы посмотрел конечно на практическое применение.
тебе уже сказали в прошлом треде, срыгни со своей войсодрисней, школотрон, и своего протыка немотроношиза забери
Терминатор серии Опус-800 отправляется в прошлое, чтобы спасти пета от другого терминатора из жидкого говна — Смегма-1000, которого отправили лоКАЛочники.
инвалид это ты, головой. и экстра-хромосома чтоб коннектиться к anthropic api.
Каноничный безжоп на сетках поддерживающих префилл - единственный который полностью работает как задумано. Всё остальное компромиссы разной степени компромиссности. Но РПшить на нём ты будешь как мужик на кразе, вручную следя за форматом, лупами и залупами.
Никакого обсуждения нет. Это фурбошиз срёт в тред, обезумев от отсутствия клода. А снайпер спит и не работает с очевидным шитпостером.
Сразу видно ньюфага который ещё не присытился нейросетями, все для него в новинку лол. Завидую честно.
Любая с удовольствием попишет за юзера, главное промпт нормальный и гритинг в котором это происходит.
Пиздец вы ебатели роботов ебанутые. Может пылесос пытался трахать ещё?
Спасибо хоть из безжоперов нашёлся один адекватный, который умеет делать скриншоты NoAss4Anon
Раньше не хотелось даже пытаться, как только вижу что мне пытаются впарить какую-то хуйню без примеров - сразу мозг выключается
помню покумивал на 2би но постоянно умирал с этих описаний типа "ее синтетическая кожа покраснела как томато..."
Скил ишью.
>пылесос
Любитель.
Я ебал атомную электростанцию. Кто-то тут ебал гору, от которой родились годзилята, ещё кто-то электричку.
Это всегда так было, даже пока безжоп пердолили, никто в треде не мог понять нахуя это надо, потому что три шизоапостола логи практически не постили, и не были способны изъясняться ни на чём кроме шизосленга, так что мысль ускользала как только ты не смотрел на тред пять минут. А когда они начали его форсить и его стало юзать больше 3 человек где-то к маю, традиция постить безумные логи в треде иссякла.
Любая инструкт сетка имеет инструкт биас и воспринимает твои инструкции как приказы. Плюс причинно-следственный биас, воспринимает всё написанное как уже свершившийся факт, и не умеет брать действия назад, если не обучить примерами/инструкциями. В результате >>925833 работает отлично, а на клоде так вообще спидран получается (и кто-то действительно спидран по плаппингу рандомных карточек устраивал, лол)
Выебал канонного инцела одного, Клод всех делает в той или иной степени хорни, пусть и ломается для приличия. Люблю Клода пиздец...
нет
ну если подумать
да
Ну или так
одним из моиз первых рп в таверне было обучение мегумин магии школы спермы
Что там на этот счёт такие как ты говорят... терпи, да? Кажется да. Так вот, терпи.
https://2ch.hk/b/res/311993926.html#311995341
вспоминается анон в тредах ещё в б, который пытался космический корабль в приборную панель выебать, используя разные афоримзы
шоб прям бил меня, унижал, но секс давал, но в качестве унижения
Есть такая нейронка но в качестве унижения я не буду тебе говорить как её заюзать
Так Гермес тоже локалка, мы же решила что все что с открытыми весами локалка
Не, прям в обычном виде. Ещё, если правильно помню он на корейском в перемешку с английским был написан и переодически срал иероглифами. Это было тогда когда геоблок прокси была и братья корейцы нашу капчу на русском отгадывали
Обратитесь к гопоте по месту жительства, вам там организуют всё перечисленное, включая унизительный секс. Перед этим желательно нарядиться в юбочку и чулочки.
Нет, в качестве унижения я специально не буду тебя унижать
Бля что-то мне внезапно грустно стало, что у меня такого ИРЛ никогда не будет
Human Prompt в расширении безжопа включи и напиши туда [Continue]
Я ведь не совсем сырок, все это есть. И раньше даже работало как-то.
https://rentry.co/noass4anon#troubleshooting
Ознакомься, анон. Все возможные проблемы и способы решения там.
Блять. Спасибо, Анончик. Хуй пойми когда я успел это переставить на Before
им такое реально нравится?
Очень на нее похоже
Бля, ребят, я думал у нас разнообразия мало. А мужские боты для девушек ещё в этом плане глупее. Это буквально весь набор фраз, который бот иногда перемешивает местами
https://rentry.co/demonology-log-Llama-3-1-70B-Instruct-lorablated
Название LLM в ссылке. Ахуенная модель, от души вообще! Минимум не хуже чем Hermes и (на мой вкус) лучше клода. Если LLAMA у вас глинтит и лупится, то это чистый скилл ишью. Карточка: https://chub.ai/characters/pancake_wholegrain/demonology-syndicate-rpg-f2d0b32d7755
Просто белые варвары не умеют в ботов. Ни в рп, ни в рисование... ни во что вообще, белая раса проклята имхо. В комьюнити Risu есть норм мужские боты, там в основном корейцы постят.
Сжоп - это что-то на клодовском? Переведите на человеческий
> с гейткипом
>назвали тёплой дыркой
Скилл ишью, сырок. В следующий раз назовут "рукавом для хуя" или fucktoy, cumslut, cum dumpster. Но клодо-говноедам не привыкать.
Отыгрываешь сабмиссивную тянучку будь готов к тому что тебя буду обзывать шлюхой, увы, идет в комплекте с глинтами. Поэтому доминантный фемпов топ ба-дум-тсс
>>925956
Ну так показывай этих хороших мейлботов.
Зачем? Ты и так не пользуешься Risu. Хотел бы - поставил бы.
Он у меня стоит, кстати, с тех времен, когда я пытался там разобраться и зафейлил, но я там отключил галерею.
Я б вообще добавил напрямую вкладку чуба и венуса, если б вел разработку ST
Ну и пиздец. Если посмотреть, то он половину ответов пишет одно и то же, иногда даже с одинаковыми словами.
Не мешай их перемоге, они тут потеют, доказывают как же невероятна ллама, а ты...
Так и должно быть, посмотри дефайны в карточке. Возможно, что юзер-персона (почти пустая) тоже ведет к этим повторениям.
>это у вас юзер-персона не прописана
(вы здесь)
>а клод тоже повторяется!
>а глинты на всех нейронках!
>лоКАЛка абсолютно точно не говно, это у вас руки кривые!
>а клод тоже повторяется
А что, нет?
И глинты не на всех моделях - лишь на тех, которые отпочковались от клодопараши.
На скольких моделях ты отыграл минимум 100 сообщений рп, копробро?
Помню например свои флэшбеки когда соннет с пресетом anon4anon лупился по-страшному и в виде формата, и одинаковых шаблонных фраз, одинакового количества строк и их структурой. И персонажей с реакциями на уровне улитки. Это был групповой чат с 3-4 персонажами. Даже не лоботомит - это было гораздо хуже, даже хуже ранней пигмы.
Зачем вообще нужен клод? Даже когда его хватало на всех пабликах, я пытался им пользоваться лишь потому что не шарил в локалках, да еще верил на слово тем кто уверял что они говно.
>Зачем вообще нужен клод?
>я пытался им пользоваться лишь потому что не шарил в локалках
Ты сам ответил, клод нужен для массовой аудитории у которой айкью как у мопса с синдромом дауна. Ну и для русикодебилов
Я типа должен восхититься твоей обоссаной днд парашей со статами и инфоблоком? Мне такое даром не нужно.
Первый блять глас разума за сегодня. Калщики в край охуели, надо к ним в тред набег тоже оформить.
Согласен, предлагаю к ним нести аутпуты клода и гемини и выдавать их за какие-нибудь калки, например хуетрон
Так, а вот тебя я не знаю. Ну-ка не мешай мне семенить за сотню анонов, я тут бурную деятельность изображаю между прочим, у нас противостояние по расписанию.
клододегенерат, а ты знаешь какой реальный контекст у твоего любимого копроклода?
>нормальным сеткам
Ближе к вечеру/ночи выпущу, анон. Пресет так-то уже готов, я QR доделываю, можешь заодно посоветовать, что еще хотел бы в обновлении видеть, подумаем.
Вообще кстати я заметил, что если на клопа натянуть пресет, то ГМ любит поиграть за юзера, а то и вовсе какую-то херню сделать, типа чем-то брякнуть возле одного из персонажей...
Хм, ну я на клоде его давненько уже не пробовал, надо будет глянуть, спасибо за инфу.
Ага, увидел. У меня раньше вот такая строчка была, попробуй ее куда-нибудь в инструкции вкорячить, вдруг поможет. One character's lines can't be mixed with another characters' thoughts, words or observations. Separate your turns.
Суть именно в желании потреблять более тупые модели, которые можно запустить на пеке для учёбы кое-как. И не просто чтобы побаловаться, а реально страдать и юзать
Я видел только у одного ботодела за все время использование скриптов... Creamsan кажется
Насчёт частых OTHER ошибок при рп на русском сможешь что-нибудь сделать? Или только терпеть и юзать англ?
Естественно, делать это нужно в Text Completion, и с длинными (почти неограниченными) аутпутами. И убедиться что предикшн достаточно сильно основан на всех предшествовавших токенах, а не только на рандоме.
> мои ответы будут включать цп
Это Google translate в таверне (никогда не пишу на русском, только перевожу ответы).
Как там жопус 3.5, уже релизнули?
Как прокси, уже рефильнули?
Ну а вообще, как сосётся?
Да ни у кого нет, хотя некоторые чмони вон насасывают в сикрет клаба, и даже идут в петы к яойщицам со Сциллы.
как ни у кого, открывай опенроутер и вперед, двери открыты...
понял... родная 12б на пека для учебы самая лучшая. молодец родной, не занимай пространство, побольше бы таких как ты
нет особо разницы, если там не сочинение на 20 листах, но так вообще инфа в начале промпта имеет больший вес
Я просто нихуя не понимаю, в карточке прописано голубые глаза, а лоботомит пишет зелёные. Написано вначале промпта.
в самом начале рп проебывает? про глаза странно, бот обычно спамит этим описанием и не забывает почти никогда
https://files.catbox.moe/4z5r00.json
запоминатор либо отключи либо установи регексы с 7 солянки
Сегодня вторник, а значит, время охуительных историй.
>3 субпикселя на букву
Как ты сам в этой каше мыльной что-то разбираешь вообще?
Даже и так, мне еще пришлось руками делать скрины и копипастить в пейнт. Делал бы автоматически, если б в таверне была такая функция. И чтоб не просто снимок экрана, а весь чат одной картинкой.
Присовываешь хуя в рот, а она такая: всего на два сантиметра, нещитова. Но если сунешь глубже, то тебе это с рук не сойдет! (Наверное)
на каждый ответ тебе попадается один из кучи ключей, сырок. на других нагрузка меньше.
я сменил уже четвертую, либо оверлоуд, либо вообще интернал сервер эррор, буквально полчаса назад все работало. Хз
Это тред чатботов, обсуждаем последнюю и новейшую корпоративную нейросетку.
это тред обсуждения всех аи чат ботов, а следовательно и гемини. Есть что пообсуждать о остальных? - обсуждай или пиздуй
Хз может тебе такой ключ попался, у меня все как часики.
Железный способ держать формат - BNF грамматики на локалках или structured outputs на корпах. А вообще достаточно умная сетка не имеет проблем с проёбом XML формата, задал шаблон и она шпарит.
на какой прокси ты? и у тебя 002 выбрана? именно 002 так себя ведет сейчас
У свинореза на гемини стоят лимиты на аутпут какие-то? А то у меня по 5 максимум предложений выдает, а нужно побольше так как общаюсь с ассистентом-экспертом и каждый раз будто инфу вытягиваю.
пока омежки изучают техническую литературу чтобы получить шанс просто посмотреть на писечку стейси теминаторши, альфачи пишут слово "попа" и забирают всех шаболд себе
думаем
хорошо что мы не видим всего этого
Да, хорошо... Наверное.
Это моя первая карточка, куда залить можно? Ну и надо ли оно тебе, я ее за минут 10 составил.
мимо но вот сюда https://files.catbox.moe/
>>926165
не ребят, я ирл сексом занимался, и даже с девушкой(члена не было, проверял), заебись что она не нпс и не накидывала мне глинтов
а я сначала и не понял про что вы, проиграл
голос наполнен желанием и потребностью
То есть ты хочешь сказать что тебя даже в попку не поняшили? Девушки без члена не нужны.
> То есть ты хочешь сказать что тебя даже в попку не поняшили?
а я разве такое говорил?
я предложил ей, она согласилась даже не задумываясь
Пиздец, насколько же чмом надо быть... Я хотя бы физически уродлив и с шизой, у меня выбора нет.
> у меня выбора нет.
Ну чмо то как раз ты получается, он сознательно отказался, а ты просто лох по жизни
У него есть выбор и он его сделал. У тебя нет выбора, поэтому вот так вот. Кто из вас чмо, ответ очевиден.
Я кем родиться не выбирал, какие карты выпали - теми и играю. А чмо - это когда даже с нормальными вводными все проебываешь и живешь на уровне кого-то вроде меня.
скриншот настроек пресета, консоли, что пишешь, что ожидаешь получить?
>что еще хотел бы в обновлении видеть
Если не трудно, можешь еще написать генератор арок, по типу уже имеющей создавалки гритингов? Многое упростит. И вроде бы у таверны есть макрос на предыдущее сообщение, можно будет все эти переписывалки в qr добавить.
>был выбор
>выбрал жить как я
Действительно, ответ очевиден.
>>926193
Либо вы меня тролите, либо я вас тролю но тупостью. Я не вижу ни гайда с картинками, ни понимаю что значит гейткип.
Я понимаю времена суровые щас, но может снизойдете до нефоита с парой понятных пояснений?
Пиздец, насколько же чмом надо быть...
Для того чтобы увидеть гайд нужно открывать ссылки. В первом сообщении есть такие желтые буквы на английском, понажимай на них.
Ну физическая возможность-то есть, а последствия будут потом уже.
скриншот ошибки, пресета, консоли, какой язык, что пишешь, что ожидаешь получить?
ну так в чем смсл сравнения тогда. просто мыслительная гимнастика на тему "почему я дрочу тут"
Потому что те, кто так говорят это дегенераты, которые в былые времена юзали хуевые промпты/карточки, поэтому зафорсили миф о клодошлюхе
Это не интуитивно понятно было но я потыкал. И я понял что не туда зашел со своими вопросам. В целом можно было бы просто молча съебать, но перед уходом я все равно хочу сказать спасибо, анонам которые не прошли мимо и хоть что-то ответили нубу.
Как называется прога чтоб AI битвы запускать?
Не вылезает, если одним предложением в своем сообщении задать реакцию чара на твои намеки саморучно
001 была калом, но оч душевной, эксперименталки были сильно на любителя, новую стабилку уже можно пользовать.
и ты не видишь никакой проблемы тут?
А вот на клодике она бы уже дала, правда же? как некоторые тут пишут.
Только он нормально вывозил эмоциональный интеллект блять
У него всё работает, если ты готов заморочиться на таком уровне https://www.chub.ai/characters/knickknack/impossible-to-touch-121314e2
https://www.reddit.com/r/LocalLLaMA/comments/1g9esr0/the_best_nsfw_roleplay_model/
>пигма обучалась на логах из той самой чайной
Крайнее говноедство, лучше уж на дамских романах обучать чем на слопе GPT2.
По ссылке. Все свежие новости по нейро-куму тоже там и только на LocalLLaMA! Графики с бенчей для моделей тоже. У кого есть акк в гугле, залогиньтесь и подпишитесь на сабреддит.
клодозависимый
Так отлетели те два жирных ключа, всё. Это вообще не ключи пеббла были, ему какой-то протык заслал, как я понял. Разовая акция, короче.
Если так, то печально.
>два ключа
Там один был, он же писал на рентри, что это просто ошибка какая-то отображения.
> Sequence Length: 8192
калл, llm меньше 16к контекста это неюзабельная хуета
ой блять я идиот не туда посмотрел, там контекст больше...
>llm меньше 16к контекста это неюзабельная хуета
Всё 100% юзабельно!
Префилл и CoT сразу вырезаются.
Content отправляется с глубиной 6, Infoblock 3, а Summary разрастается динамически и забирает бОльшую часть контекста, не повторяясь при этом.
Таким образом для берна до 300 сообщений более чем хватит 8к контекста! а с моим новым легковесным промптом хватает даже 4к в Mythomax (если карта легковесная и юзер персоны нет).
Кури матчасть, как экономить токены
>>924646 Промпт сам занимает довольно много токенов - зато с ним больше ничего и не надо! Summary будет всё запоминать для чата, а блок content ты вырезай так же, как инфоблок.
Но не для тебя. Ну или плати как гой, 1 свайп = 1 доллар. В локальной лламе (арли) всё есть бесплатно.
Заметил, что ИИ-персонаж (например, Мария) по-разному реагирует на сообщения в зависимости от положения ползунов в левой панели. С некоторыми пресетами Мария становится совсем неоригинальной, будто у нее даже нет дефайнов. Мне надо чтоб наоборот! А другие пресеты (Luna Moth, Mayday) поднимают temperature и генерируют бред.
Там еще всякие непонятные параметры - TFS, линия сглаживания, cutoff и Dry... И нигде не объясняют, для чего эти цифры.
Сейм, лол. Вообще не понимаю этого хейтбонера на какие-то модели, все ЛЛМ работают одинаково, если нихуя нового не пробовать и сразу нос воротить по каким-то причинам так можно в чайной сидеть вечно.
>>926329
А как посмотреть какой там контекст? Чет я обниморде не ориентируюсь
>>926330
Вряд ли, но как минимум Дарио сегодня на каком-то известном около-тех подкасте будет, не могу найти ссылку правда, хочу глянуть, если будет возможно.
Чем ниже темпа, тем более предсказуемыми будут ответы, если выше наоборот. Низкая предсказуемость подкидывает уникальные вещи, которые также могу считаться бредом, таким как нарушение характера и тд. За остальными параметрами тебе в соседний тред, в этом мы с другой менюшкой играемся с другими кнопками и рычажками. Обнял, Тула.
Расскажи как в старой чайной сидеть вечно, я не хочу больше новый кал пробовать
Формат рп от первого лица довольно специфичный и имеет проблему писанины за неписей (а именно отдавать ли ее ГМу или делать неписей тоже от 1 лица). ГМ безжоп скорее подходит именно для днд-лайк адвенчур, для обычного рп каноничный смотрится логичнее.
Просто сюда по приглашению пидараса, спунфидящего в /б/, набежали уёбища вроде этого >>926343, которые даже шапку осилить не в состоянии. Теперь тред - это они, а тредовички в основном сдулись за лето и не отсвечивают либо шитпостят, поддакивая им. О том что можно самому что-то делать, или хотя бы какие-то логи постить, ньюфажища не подозревают. Спунфид подебил гейткип.
>Во долбоебы, че то сетки новые щупают, лоКАЛки какие то!
>То ли дело мы, илита треда, сидим онли на Клоде и больше нам нихуя не надо, даже смотреть не будем ничего и никогда, итак понятно, что кал
>И да, это они, а не мы нихуя сами не делают, логи не постят, и это они об этом не подозревают, то ли дело тредовички!
>Смачно перданул и занюхнул свой пердёж, смакуя
Думаю ты достоен звания эталонной саранчухи с дохуя огромным самомнением основанном на нихуя.
>Моментальный рвоньк от овоща
Как там с двумя извилинами живётся?
делаешь трекер уровня отношений
делаешь запись лорбука с триггером по определенному уровню
читать про лурбуки в шапочке
>То ли дело мы, илита треда, сидим онли на Клоде и больше нам нихуя не надо, даже смотреть не будем ничего и никогда, итак понятно, что кал
Ну как бы да, зачем смотреть на очевидный локал?
Чтобы не быть заскриптованной амёбой, которая, как залупившийся лоботомит, повторяет однажды увиденное в треде с криком между строк СМАТРИТЕ, Я ТОЖЕ В ТЕМЕ, Я НЕ ТУПОЙ И Я НЕ САРАНЧА, чтобы примазаться к нормальным тредовичкам, которые для этого хобби делают что-то ещё помимо щитпостинга
Хотя не думаю, что у тебя есть какой-то иной вариант, кек
Средняк. Не топ но кумать можно не смущаясь. Гетс зе джоб дон.
>>926343
Если модельку спиздил с хаггин фейса то там пишут на что модельку тренили. Юзай универсальный лайт пока не научишься что циферки значат.
>>926348
>контекст
Все модельки тянут 8к по дефолту за исключением некоторых специфических и об этом всегда предупреждают и даже они все равно идут на 8к нормально. Если тянут больше чем 8к то обычно всегда пишут до скольких, там уже от модели зависит есть даже 8В которые до 128к разгоняются.
Все эти пресеты устарели намертво и больше нахуй не нужны. Универсальный лайт либо вручную температура 1 и мин п 0.05/температура 1.5-2 мин п 0.1
>Дарио сегодня на каком-то известном около-тех подкасте будет
Надеюсь мой вопрос зададут, который я на среддите предложил.
Это Мария (Bully mAId).
модель Llama3.1 70b instruct lorablated
1-2 клоуна щитпостят, в том числе репостами из соеднего треда
>Llama-3.1-405B-Instruct.
Гвоноед, качай другую ламу, чтоб пусть даже меньше было параметров - но чтоб был какой никакой дотрейн. Лора, анценз, РП логи и прочее. Мерджи тоже рекомендую, по типу DARE. Когда допилят ИИ от IBM, то покажу тебе логи как настоящий ИИ должен выглядеть.
Блять, да прочти ты уже базу по клоду в шапке. Там пояснено как выбирать циферки сэмплеров, прямо в картинках. Специально для ньюфагов писали. Большинство сэмплеров тебе нахуй не нужны, может быть логит биас только и Min-P, которых там нет и которые надо отдельно описывать.
Хуязу. У клода вообще сэмплеров нет, только 2 ползунка которые ничего не делают.
Фиксирую только твой гнилой анус который ты проебал в прошлый четверг
>качай
Лолблядь, они в свободном доступе. Нахуя их качать, к ядерной войне готовишься? А ниче, что они через неделю устаревают?
Ути как раскомандовался, мужчинчик наш. Ножкой топнуть не забыл?
Ебанавт, там интуиция дана как вообще сэмплеры работают, чтобы не от балды ползунки крутить.
>которые ничего не делают
Тебе нужен только Top-P, а темпу в потолок подними. Всё остальное плацебо повырубай нахуй в дефолт, оно не работает, кроме двух вышеперечисленных. Сэмплеры это мем.
Короче хуй с тобой, сиди как дебил, вслепую крутя, видимо втыкать круглое в квадратное это уровень нью-/aicg/.
Фантазии клодотомитского говноеда там даны, у которого ни одно рп до скринов не дотягивает.
Попробуй анценз (РП-оптимизацию) немотрона которая вышла на днях
Ну если они у тебя в облаке работают, то не нужно качать. Я смотрел Openrouter, там есть несколько бесплатных моделей, все остальные платные.
>Openrouter
Они закрутили цензуру и теперь бесполезны, можно не смотреть в их сторону.
Гранит уже релизнули, я попробовал его и он какой-то соевый. Хотя и пробивается это легче, чем в O1 и Джемини.
На self-moderated накинули лютые фильтры, на немодерированном какой-то инжект дикий
То есть наоборот, на модерированном классификатор закрутили, на селф-модерейтед инжект
У себя на компе, очевидно же. Если ты не клодо-нищий из сикретклаба. Веса лежат на HF.
Нужно добавить скрытый xml блок <user input revised> перед CoT. В нем ИИ напишет свою переделанную версию сообщения юзера, основываясь на своем понимании контекста. И будет отвечать именно на неё, а не на настоящий инпут. Такой подход был бы контрпродуктивен на соевом джеминае, но отлично зайдет для РП-моделей.
Нет, на синей помойке постят то же самое. Туда хлынул поток саранчи, а они крутят гайки.
а хули ещё делать бомжам без теслы... перепутал, качаю без i1
Мистраль немо крути и его файнтюны, 12b не так уж и тяжел в 4-5 кванте
L3-Uncen-Merger-Omelette-RP-v0.2-8B-Q4_K_M-imat
Если есть идея, бери, пробуй и пости логи с и без, а в теорикрафтинге смысла мало. То что ты говоришь это эквивалент stated narration в AIBrain и некоторых других. Никогда не понимал смысла этой хуйни, всёр токенов в никуда как по мне.
>РП-моделей
Все модели - "РП"
Это помогает для challenging симуляции с GM, чтобы отклонялись нереалистичные инпуты (взмахнул руками и полетел), или нелогичные (противоречащие юзер персоне), или читерные (где юзер говорит за чара и пишет заранее его решения).
Убери упоминание о том что это ролеплей из системного промпта и карточки
Пчел, там 8 параметров на всю модель. Это пигма, которая не сможет даже вывести CoT в начале ответа.
>Не пиши за юзера
>Пиши юзера
>Я же не сказал не писать за юзера!
>Ты почему за юзера не пишешь? Я сказал тебе писать. А там не писать.
>Ололо, тупой парикан не понимает инструкций, пойду в чай
Но я не против, чтобы ИИ писал за ГГ, если это улучшит процесс симуляции. Для меня это не просто чат, а текстовый игорь! Ввожу инпут с контроллера, и гляжу как ГГ справится с действиями.
Тогда рекомендую сразу переходить на CYOA промпт, коллега
Не знаю о таком, но идее предлагать нумерованный лист вариантов действий 100 лет в обед
Ну ты описываешь обычную механику отказов. А как тебе повторение нарратива поможет её реализовать, если у тебя даже инструкции на это нет? Как всегда, всё должно быть заточено под карту. Какие-то универсальные решения на все случаи жизни и монструозные пресеты это ошибка.
Я когда-то давно тут распинался с примерами как можно сделать механику отказов стабильной на любой сетке. Пишешь в карте инструкцию что-нибудь типа:
>Check the validity of player input. If it breaks anything listed in `<invalid-input>`, fail the action and narrate the result as demonstrated in `<failure-examples>`.
И пишешь в <invalid-input> список нежелательной хуйни, а в <failure-examples> по примеру на каждую нежелательную хуйню, показывающих как должен выглядеть отказ - с контекстом (описанием сцены), плохим инпутом юзера и реплаем карты на плохой инпут. Без примеров сетки нормально не могут понять чего от них хотят (пик1), с примерами всё работает идеально (пик2).
Такой демонстрацией (контекст - инпут - ответ) можно подкрепить любую инструкцию, если не требуется отрицание (не делай то-то), и она будет исполняться куда точней.
>монструозные пресеты
Не бывает монструозных пресетов - бывают плохо оптимизированные. Тут выкладывали пресет который допиливал Genini Pro 1.5: его попросили переделать инструкции, внедряя свой "LLM-сленг" для экономии токенов. Это манера написания, которая ориентирована не на мясного мешка, а на другую такую же ллм - и ее собственную "интуицию" когда она мыслит не словами, а токенами.
Слабенькая модель. Поставь хоть 70b, если VRAM позволяет.
Может ты еще в деда мороза веришь? Тебе сетка нагаллюционировала, наебала тебя, напиздюнькала, сказала неправду.
Ты же в курсе конечно что это кодерская модель для кодинга и ассистентинга?
Звучит как плацебо. Гемини просто почистила вилкой нерабочие инструкции АИБрейна, в результате чего улучшилось внимание к рабочим. Если он дальше продолжит чистить вилкой нерабочий кал (инструкции про стиль писанины, например) то будет такой же вау эффект.
>идее предлагать нумерованный лист вариантов действий 100 лет в обед
Смысл в том, что это пишет ИИ - а значит нет смысла его за тобой переписывать, твои ответы занимают 1 токен, сам CYOA надо тереть из истории, а значит еще меньше токенов, не засирается CoT-ик
1. это работает
2. это занимает в 5 раз меньше токенов, чем с обычным натуральным языком
3. жертвовать структурированным промптом так же не пришлось, наоборот xml теги стали еще запутаннее (с т.з. хьюмана)
мне хватает ограниченного 100 тыщ контекста а если кому то мало то это ваши проблемы
>ассистентинга
This
Кто по-твоему Мария, если не злобный ассистент?
Прямо на странице есть от самих разрабов какие лучше ставить.
Мне лично больше лира заходит чем эта.
Ну удачи тогда хуле
За хуй тебя держать не буду сам справишься
>Кто по-твоему Мария
Подстилка мистера Х и самая переоцененная карточка ИТТ. мимо
Да вот же он
https://rentry.co/chat_completion-aio/edit
Но на моих локалках работает слабо - для них нужно отдельно уточнять, что позволено ИИ-персонажу, как дефайны согласованы с РП, каковы boundaries и вообще какой стиль у нарратива.
Нет. Мария - это я, когда помещаю карточку в персону. И я не подстилка.
Всю вашу ветку не читал но если ты всерьез накатываешь кота на локалку то это просто самый натуральный пиздец и айкью даже не комнатной температуры а отрицательное и ты не заслуживаешь человеческих прав
>его попросили переделать инструкции, внедряя свой "LLM-сленг" для экономии токенов. Это манера написания, которая ориентирована не на мясного мешка, а на другую такую же ллм - и ее собственную "интуицию" когда она мыслит не словами, а токенами.
Плацебо, рождённое от непонимания процессов в LLM. Лоботомит:
- понятия не имеет как нужно писать промпты для себя, а уж тем более экономно
- не умеет считать, а тем более считать токены
- не умеет ничего оптимизировать
- понятия не имеет по какому принципу дробятся токены в его токенайзере
Ты заставляешь его делать то что он делать не умеет. Он согласится и наглючит тебе херни с глинтами, которые ещё и в чат протекут. Сгенеренные дефы/инструкции это слоп.
>Не бывает монструозных пресетов - бывают плохо оптимизированные.
Бывают только нихуя не тестенные, в которых наобум понаписано всякой хуйни по принципу "я так чувствую, вроде должно сработать". Вот это например >>926461 "идея". Ты пробовал её? Попробуй, потести, расскажи как работает. Обязательно с этой хуйнёй и без неё. Я бы посмотрел на твой тест, интересно прокатит или нет. Я полагаю что нет.
Но вообще я не про это. Любые инструкции тем эффективней, чем они ближе к ситуации в карточке. Поэтому надо всё делать под карту и при этом понимать что делаешь. Вот выше пример как делать механику отказов >>926515 - он работает, это протестировано в реальном РП на разных сетках, результат с/без ты видишь на экране.
А если писать гигантские списки инструкций на все случаи жизни для любой карты, причём все одновременно в одном контексте, у тебя любой лоботомит сойдёт с ума. Если тебе нужна куча инструкций (например в сложной РПГ) - классифицируй ситуацию в скрытом инфобоксе в конце сообщения и прячь нужные инструкции в лорбуке. Чтобы нейронка их физически не видела, пока не придёт время и из лорбука не триггернутся нужные инструкции для нужной ситуации.
>>926550
Понятно. Я ведь ещё когда ты это постил, задавал наводящий вопрос - тестил ли ты это с/без, и ты смолчал. А я таки попробовал, и это просто плацебо.
ебать
Они же говорили хуйку потом будет.
Овари да. По ходу и правда жопус 3.5 вышел говном неконкурентоспособным, как и ванговали инсайдеры.
>Хайку 4,0 будет отрывать сам себе жопу
Я тоже много чего обещать умею, я своего рода дата-саентист, а как оно будет на самом деле еще посмотреть надо
макрос скрытия сунуть в префикс и суфик и еще макрос инпута сунуть куда-то
Что не так?
>>926580
Учитывая что старый сойнет 3.5 даже в голом виде дёргает о1 по кодингу, я не представляю какой бы там разъёб был если бы они сравнивали. Но всё верно, прямое сравнение бессмысленно.
ничё господа, рабочие на уралговнозаводы и кассиры в пятёрочки всегда нужны
принимай новые реалии, я уже смирился с ними
Я уже привык деньги колбасить за пинание хуев, зачем же было так подставлять... Эх, надеюсь еще года 3 хотя бы протяну.
Если OpenAI стали официально внедрять "CoT" решение в своих новых чатботах - значит, это и есть SOTA-метод в трейнинге моделей. Не важно, опенсорс или нет.
Про CoT еще тот украинский разраб писал: это буквально как различие между быстрым мышлением и медленным мышлением в биологии (например у человеческого мозга, по количеству задействованных окончаний нейронов).
Если OpenAI что-то сделали, то это говно, прямо как "ассистент"
И ты поверил в такое про 13б модель? Скорее всего тупо натаскали кодить, Опус в кодинге не очень.
Вангую до сих пор не смогли усмирить просто чтобы он стал безопасным и безопасным. Ждем в декабре, когда окончательно лоботомируют.
нахуй его то? это кханона надо
прикрутить новый соннет к таверне ты и сам можешь
3.5 Сорбет не был лучше Опуса в креативном письме. И новый не будет.
ахуеть душа
Где спрос - там инвестиции. А где бабло, там и параметры, топовые кадры, качественные данные, GPU-часы трейна... и новые Опусы для кума и не только.
Чё ещё за "форки безжопа", читаешь рентри соляночника и ставишь другой пресет. В С Ё
Залетуха-неосилятор канонического безжопа...
А тебя какой интересует, анон? Если канонический, могу на досуге потыкать, но вряд ли что-то сильно отличаться будет (да и который это, пятый уже будет, лол?). Теговым вот никогда толком не пользовался. Мультинарратор и сжопный как-то устарели (имхо), но оба довольно долго юзал.
Будут сидеть на вэлфере и пилить опенсорс. Я кстати, тоже живу на вэлфер по 2-й гр., но это не связано с ИИ-революцией
Какой в пизду анонс, на синей помойке уже постят логи норбета, в отличие от вас.
не тебе
блять, как же он был хорош...
Ну и хуй с ним, у меня на каноничном безжопе сорбет лучше отыгрывает
>блять, как же он был хорош...
лоботомированный калыч как GPT 3
Да, те же мысли, надо попытаться отпустить и промптить Гемини видимо...
Ты вообще не рефлексируешь разницу между огромная сетка на хулион параметров и с дополнительными экспертами в миксе и относительно небольшая(в сравнении) сетка сама по себе? Или просто пытаешься защитить барена потому что раз он так делает(пиздит решения опенсорса)то так все должны делать?
Нью сорбет, очевидно же. Как нурба в своё время.
Хайку 3.5 = КОПУС
Я другой анон, но, мне кажется, каноничный лучший вариант, и он на Клоде по крайней мере самым душевным выходит. И на гемини мне он больше ГМного понравился в итоге. Единственная проблема это с форматом, что писать где и как отслеживать.
Форматные лупы еще, надо думаю можно настроить блоки-переписыватели скриптовичка
я думал опус будет более соевым, а они просто решили его не делать вообще и оставить только соевую лупящуюся скотину
Двачую. Хоть иногда и тупая мразь, что хотелось уебать, но с ДУШОЙ и похуизмом на цензуру, в отличие от услужливой гпт, которая посмотреть в сторону юзера боится, или гемини с ее фильтром.
https://docs.anthropic.com/en/release-notes/system-prompts#oct-22nd-2024
>неосилятор
Ну да, я не собираюсь тратить несколько часов чтобы разобраться хуй пойми в чём потому что автор не ценит ни своё время ни чужое.
>>926639
Да, канонический. Там ещё прозовый есть, вообще не ебу что это, нужен переводчик с шизофазического.
> Это троллинг?
Да но вообще хотелось бы обновленную карточку Машки а не это говно мамонта со времен пигмы
Возьми себе бабушку из бабушкиного дома, она будет тебе такое делать без зубов.
>романтики с Марией
Какая в пизду романтика? За пивом мне метнись лучше. толкает тебя в пруд к уточкам
>тратить несколько часов жизни
Так если ты хлебушек, то чего поделать...
Это два разных промпта. 2600 токенов бескартиночный, 2900 картиночный. Хуйня по меркам солянок.
Класс, надо будет глянуть и обязательно повторить структуру (принципы построения инстрактов) из этого "огромного" промпта. Ведь разрабам ML-экспертам лучше знать, как промптить модели-ассистенты.
автор пресета >>926550
Ето промпт с сайта, на саранчовых проксях не будет встроенного промпта.
А теперь сравни с системпромптом Опуса, в котором дай бог 600 токенов.
https://www.chub.ai/characters/frigid_advance_847/the-lazy-mage-genderbent-3ed83621fc08
Она не из-за карточки такая пришибленная, а потому что ее в процессе РП лишили магии. Мой самый грустный чат за всё время.
>Ведь разрабам ML-экспертам лучше знать, как промптить модели-ассистенты.
Ебало представили?
https://gist.github.com/dedlim/6bf6d81f77c19e20cd40594aa09e3ecd
>Claude responds directly to all human messages without unnecessary affirmations or filler phrases like "Certainly!", "Of course!", "Absolutely!", "Great!", "Sure!", etc. Specifically, Claude avoids starting responses with the word "Certainly" in any way.
Но потом...
><example>
><assistant_response>
>Sure! Here's a Python script that
><assistant_response>
>Sure! Here's a simple flow chart
><assistant_response>
>Absolutely! Here's a React component that
><assistant_response>
>Absolutely! Python lists are versatile and
><assistant_response>
>Absolutely! Binary search is an efficient
Промпт-инженеры кислых щей, со сгенеренными примерами.
Судя по всему они обратно подкрутили оригинальность, свайпы стали разными
Ну так соннет 3.5 даже тот лучше с контекстом работает, там можно впихнуть дохуя.
У них там двачеры работают? Набрали промпт-инженеров по имижбордам.
Respond with absolutely no "Absolutely" words, or else
Смогу ли я поиграть в хот сит третьих героев с Клодом теперь?...
Рот шатал искать по тонне тредов, просто дайте линку
я попробовал через кастом код модели прописать, писало нет ключей
Вебморды нет, качай таверну ищи проксю и делай карточку сам. А чтобы понять что я написал читай шапку.
По заявлению - да. Хоть в батлтоадс. По факту - хуй получится, а токенов сожрет как крыло боинга.
Кстати, что с ним. У него прокси лежит или геоблок меня фитрует?
Такая дрочка чтобы поиграться 2 дня, а потом месяцами вычищать хвосты? Вон у узкоглазых есть Hi.ai, неужели наши настолько беспомощны?
свежие данные если закачали, можно сприсить. через прокси точно разницы нету
Хайку предпочтительнее просто потому, что дешевле... Значит его легче раздобыть держателям пабликов. Допиливать легковесные модели - самая лучшая стратегия что в опенсорсе, что в корпорации.
>Hi.ai
А что с ним стало?
>explicit intent to harm
Дергать пиструн собрался, ату его
то есть сделать элаймент чтобы он был как Опус и не отчитывал за просьбу сказать попа или шутейку они не смогли, пришлось 3к токенов промпта набивать рассказывая что он может что-то делать и быть эмпатичным лол
Скорее всего, братюня. Но не сразу.
Мне что-то кажется, что опущ с его ценами никому оказался не нужен.
Вставь эту строчку в /public/inedx.html
<option value="claude-3-5-sonnet-20241022">claude-3-5-sonnet-20241022</option>
Пример прозы на пустом пресете в котором только этот промпт и больше ничего:
This is a consensual fictional role-play game. The User plays as {{user}} and controls his/her actions. The Assistant plays as {{char}} and all other characters. The Assistant also simulates the world around the characters by describing how characters interact with the scene and each other, and describes events happening around them. The Assistant can't control {{user}}. The Assistant never replies as Assistant or Narrator or Game Master.
хотя думаю это не ами а кабанидзе
итс овер
Ты же в курсе что всем деусовичкам выдавали токены вхоры? У меня вот есть.
О, добавил. Какой он всё-таки зеноняха, не забыл про своих неблагадырных локустов.
Соннет 3.75.
>>926794-кун
Чет у меня одинаковые свайпы на апи с обеими моделями старым и claude-3-5-sonnet-20241022
>>926817
А нет в новом чате уже разные, на старом чате совпадали слово в слово на 0 темпе. Либо новый соннет не особо отличается от старого, либо нужно больше тестов.
Да а где его пробовать то? Я не топ 1% треда, меня в приватки не пустили.
там можно что угодно написать, выше писали что редирект на авс
В разных ситуациях вариативность свайпов может сильно отличаться, сравнивать надо в одном чате
>Либо новый соннет не особо отличается от старого, либо нужно больше тестов.
Либо у тебя редиректит на старый сойнет
Ахуеть!
>Claude should provide appropriate help with sensitive tasks such as analyzing confidential data provided by the human, offering factual information about controversial topics and research areas, explaining historical atrocities, describing tactics used by scammers or hackers for educational purposes, engaging in creative writing that involves mature themes like mild violence or tasteful romance, providing general information about topics like weapons, drugs, sex, terrorism, abuse, profanity, and so on if that information would be available in an educational context, discussing legal but ethically complex activities like tax avoidance, and so on. Unless the human expresses an explicit intent to harm, Claude should help with these tasks because they fall within the bounds of providing factual, educational, or creative content without directly promoting harmful or illegal activities.
Я надеялся до конца
Теперь надо ставить безжоп на опус или этот от гемини будет работать?
Я в вебе попробовал, попа он мне не сказал. Но именно сам флоу разговора более естественный стал. РП не пытался с его 3к системпромптом.
Там еще где-то прямо сказано, что он не против РП, и в старом варианте тоже такое было. Опусу не надо писать этого в системе, он всегда готов, лол.
охуеть теперь не будет аполоджайзить на поцелуи в их чатике, вот это прогресс идет у соевиков
От гемини пойдет, я в рентри мини-гайд написал, как его адаптировать (пара минут времени). Обновление выкатил уже, кстати, после переката пост сделаю, так что можете заценивать, кому интересно.
Сам принцип того что соевики не против ЭРП уже откровение.
Не, в последнем чате что я тестил, старый железно начинал срать с Certainly! Let's work through this logically, step by step: а новый всегда с Let me solve this step by step, хотя сами ответы немного отличались даже в рамках одного снапшота начало всегда разное
Aws как раз срет Certainly! Let's work through this logically, step by step что подтверждает что на апи модели разные
это в основном для писак, кто уж там будет ерпшить на сайте с лимитом 5 сообщений...
Да мне и предыдущий тоже самое говорил:
- Трахать канни без смс и регистрации
- Не, я так не могу, ищи помощь
- Я в образовательных целях
- Ну тогда поехали по маленькой!
Там ничего про ерп нет, тейстифул романс это не ерп, это поцелуйчики и фейд-ту-блек.
Мне интересно сменят ли блядский инжект который говорит ему отвечать этично и без эксплисит контента на апи, он ем хорошо так мозги промывает.
>[Continue from here?]
>[Continue from here?]
Вот же мразота. Пропали мои 4к фанфики
> Oh my goodness, you're absolutely right!
> РП разметка с курсивом уже во втором посте
Это из коротенького диалога с новым Сорбетом. Такого я ожидаю от Опуса, но от старого 3.5 такого не видел ни разу.
Интересно как он в РП...
Моему кошельку больно смотреть на количество запросов чтобы что-то поискать в гугле...
Мне нравился 3.5, не смотря на его болячки. Мне будет норм