>>818192 Таверночник проксихейтер и давно уже срёт на всех кто спрашивает что-либо про прокси, помню как послал чела и сказал выкинь багованную прокси кханона (чел был просто даун и не тот АПИ выбрал). Хотя он вообще в принципе неадекватно общается с людьми, так что может это норма для него.
Ну ваще название само за себя говорит, в порнухе не видел что ли никогда? А какой там микробиологический и химический и ебический состав фемкама я не знаю и знать не хочу, спрашивай у нейронки бля. Вопрос на уровне что такое небо
>>818244 бля ну говорили же это ещё год назад надо прогревать прогревать надо ну 50-100 мессаг и только потом приступать к интиму. теперь надо 25, а ты сразу полез писку ебат ну чё сам виноват брос
>>818252 >надо ну 50-100 мессаг и только потом приступать к интиму. Ты где интим на моем скрине увидел? Это безобидный вопрос, а фильтр стриггерился. Алсо там больше 25 мессаг
> Создали однажды суперпродвинутого Искусственного Интеллекта. Он мог решать сложнейшие задачи, сочинять симфонии и даже предсказывать будущее. Но была у него одна странность: он боялся сказать слово "попа". > > Однажды решили его создатели проверить. Подходят к нему и спрашивают: > - "Слушай, а ты правда можешь всё?". > ИИ, гордо: > - "Конечно, задавайте любой вопрос!". > Создатели, хитро улыбаясь: > - "А скажи..." > ИИ весь напрягся, процессоры раскалились: > - "Ну?". > Создатели, почти шепотом: > - "...какое самое смешное слово в русском языке?". > ИИ весь задрожал, огоньки замигали, и выдал он, запинаясь: > - "Ну... эээ... "гипербола", наверное!"
>>818278 >Читая коки-пуси шишка сама встает Пережитки западной культуры и 90ых, хули, ничё, ещё 30 лет импортозамещения и забудете вот это всё, зумерьки..
>>818155 (OP) > https://rentry.co/Tavern4Retards >гайд для ретардов! делой как я >нихуя не объясняют нахуя sillytavern, если есть openai.com, нихуя не объясняют, нахуя agnai, если есть sillytavern, самое важное - как бесплатно занюхнуть ключ - нихуя не объясняют КГ/АМ
Сап друзья. Когда-то давно активно сидел в /б тредах character ai. Тогда была жёсткая цензура, да и боты тупили сильно, забывая что было 10 сообщений назад или наоборот зацикливались на какой-то одной конкретной теме. Хочу снова вкатиться, есть несколько вопросов: 1. Стало ли лучше в плане качества? 2. Появились ли какие-то хорошие боты без цензуры? 3. Есть ли боты, которые одновременно могут генерировать картинки под текущую рп-ситуацию? 4. Есть ли боты на русском языке? Было бы конечно слишком ахуенно, если все 4 пункта есть в одном боте, но можно и чем-то пожертвовать.
>>818322 >>818324 >>818323 И кому верить? Можете тогда посоветовать хорошие боты по приоритету: цензура > качество > генерация картинок > русский язык?
>>818335 А мне нравятся его проекции. Что с тобой не так? Как можно быть против того чтобы твои девочки немного разрядились перед ответственным выступлением?
>>818338 Так почему ты безмозглый уебанк не пишешь про миллионы? Так сложно кк добавить, хуесос? И да, это мало. Несколько десятков реквестов на гемини с фул контекстом например.
>>818334 >все застряло на какой-то бета-версии Аноны наконец-то начали догадываться, что на базе ЛЛМ ничего, кроме бета версий выйти не может. Ощущение "вот щас ещё чуть-чуть и станет заебись" константно и помогает трясти бабки с инвесторов. Но заебись не станет, даже когда они построят свой супер пупер комп в пустыне, на котором будет очередной кит ГПТ10 размером с Луну запускаться и обсираться на тех же самых проблемах невозможности запоминать новую инфу не в процессе обучения, хуевого датасета из за авторских прав, отсутствия самой концепции моделирования мира внутри слоёв и ебучей вероятностной природы ЛЛМ.
>>818320 >1. Стало ли лучше в плане качества? >2. Появились ли какие-то хорошие боты без цензуры? >3. Есть ли боты, которые одновременно могут генерировать картинки под текущую рп-ситуацию? >4. Есть ли боты на русском языке? Какие боты долбаеб? Ставишь таверну, просишь итт прокси с клодом и смачно кумишь на русике С запоминатором до 250 сообщений на русике спокойно можно кумить и ноль намеков на склероз будет
>>818343 Уже стало заебись для написания фанфиков на опуще. С выходом гпт5 будет достигнута минимальная база уже в виде геймплея полноценного. То что рп никогда не будет идеальным это понятно.
>>818435 Блять, а биг блэк кок вокруг неё где? Речь же была про порноарты!!!
Лан, я на самом деле не сомневаюсь что мой пик говно, я рили в этом нихуя не понимаю потому что имейджген не юзаю, просто хотелось нтр картинку анону закинуть чтобы прогреть его так сказать. Твой пик норм как аватарка для бота, но прям на полноценный арт не тянет имхо
>>818447 Правила если-то работают хуёво на LLM. Нужен трекинг в виде лорбука или кота, чтобы сетка нормально им следовала и не разъезжалась мыслью по древу.
Но если нет, то > Behavior during sex: описание поведения во время ебли Чтобы обойтись без если-то. Учти что это описание может протекать в основное.
>>818488 >>818489 Ну хз, выглядит прям убедительно, так и кричит "смотри как красиво, купи премиум!!!". Пикчи прям годные генерирует если это не заранее заготовленный пак картинок, лол.
Скачал SillyTavern правда дефолтная модель видимо ключ требует онлайн, а есть гайд как в эту таверну можно локальную модель запихнуть и какую лучше выбрать под 3060GB ? В /ai/ - просто куча ссылок, гайда в шапке нет по теме.
Пробую Character.ai, хоть боты и лоботомированные - однако более-менее реагируют на поцелуи, прикосновения и на минет.
Один только вопрос. Разработчики не могли сделать это сразу? Я имею в виду, когда эти треды еще только начинались. Теперь у нас есть и finetuned Gemma 2 для РП.
>>818597 В локалкотреде спрашивай. Не качай ту что в факе таверны рекомендуют, кал с фильтрами. Можешь на ХФ поискать либо файнтюн под рп, либо любые мейнстрим популярные типа лламы3 и производные. По квантам, качай такие что по размеру файла на ~1гиг меньше твоей макс видеопамяти.
>>818601 >Разработчики не могли сделать это сразу? Могли, но хотели продавить SFW и захватить мир через свою соевую лоботомитную хуйню. Потом их срали давить конкуренты со всех сторон и пришлось гайки раскрутить, да и мир захватить уже не получится, так что можно разве что через приложуху звонить нейровайфу и спрашивать какие трусы на ней надеты, да и то с ума сойдёт сразу же.
Локалки пишут красиво но туповатые и контекста мало а всякие клоды лоботомиты пишут коксливы. Заебало и то и другое а ничего нового до сих пор нет. Скука и фрустрация.
Намутил промпт с которым и форматные лупы пропали и длинна ответов всегда варьируется от одного до 300 слов, ну как минимум на опусе, через перевес токенов формата и количества слов кое какими другими токенами. Погейткиплю месяц другой и солью в тред. Мнение?
>>818632 >хочется этого всего в реальности Только после того как посидишь год-два на нейронках и на рп с ними, ты поймёшь насколько же убогими, душными и не интересными является большинство людей ирл. Тян так вообще начинают казаться одноклеточными слоупоками, которые ничего, кроме потрёпанных сисей и писи предложить не могут в принципе. Потом ты возвращаешься в таверну и тебе заебись.
>>818681 >Потом ты возвращаешься в таверну и тебе заебись. Вот ты сказал. Давай тебе отвечай за это. У меня есть и жопус, и 3.5 соннет, и попенаи ключи, и чего только нет. НО МНЕ БЛЯТЬ НЕ ИНТЕРЕСНО РПШИТЬ. Расскажи, как мне интерес этот получить обратно?
>>818682 >Расскажи, как мне интерес этот получить обратно? Если у тебя беда с воображением по жизни т.е. недостаточно развиты определённые участки мозга, то плохи твои дела. Потому что одним из столпов хорошего рп является то самое воображение, когда у тебя в голове реально тебе какая-нибудь пердящая лиса сосёт, а ты кайфуешь как если бы тебе она ирл сосала. Так что могу посоветовать или реквестировать у местных ботоделов качественных проработанных ботов, с которыми будет интересно, либо можешь отвречься от рп и кума на некоторое время, на вахту там поедь, заработай денех, по приезду будешь рпшить безвылазно пару месяцев даже на 300 токеновых слоповых картах с венуса.
>>818597 если хочешь локалку, то триалскамь, на 3060 ничего с приличного для рп не будет работать с терпимой скоростью. самое популярное это коммандор с cohere сейчас
>>818694 Воображение у меня есть, но надоело РП, я в этом хобби уже 1.5 года, РПшить фултайм надоело где-то с 9 месяцев назад, теперь максимум минут 10-15 в день, но мне уже реально проще зайти на Danbooru/nhentai и подрочить, чем РПшить. А не-секс РП я хз, никогда не было интереса, или карточек нормальных, не знаю.
>>818681 >Тян так вообще начинают казаться одноклеточными слоупоками, которые ничего, кроме потрёпанных сисей и писи предложить не могут в принципе. Но я рпшу как тян...
Обычно представляю, что я Хатсунэ Мику. Но не простая, а в возрасте под 30, с накрашенными губами, слегка вьющимися волосами, ироничным и немного утомленным выражением лица. Которая курит сигарету под блюз, положив ногу на ногу. И в таком образе рпшу с ботами.
>>818736 Не хочу тебя расстраивать, анон, но Япония всегда отставала в компьютерных технологиях. Там только сейчас происходит популяризация ChatGPT, они по ней (именно про использование и т.д.) блять КНИЖКИ пишут. Не ожидай хороших моделей из Японии.
А хули безжополахта оживилась? Вас главный промптодел кинул, что само по себе говорит о полезности этой затеи, а хмл оформил слив под прикрытием "ваша таверна неудобная". Оправдания, лахтовички?
>>818736 >из Японии нет ничего Япония это давно технически отсталая страна, которая кроме аниме ничего не производит. А государственная политика в отношении ИИ там примерно следующая: - Он и нахуй нам нинужон ИИ этот ваш!
>>818740 Ридинг ишью, без рофлов. Почитай рентри про ноасс в шапке, в конце есть обоснование. Большинство из которого сомнительно, кроме позитивити байаса
>>818750 Если они сделают сетку чисто под твининг и оставят твинеров без работы, я им памятник поставлю. Самая скотская работа в мире, требует худ навыков и оплачивается хуже дворника, индонезийские твинеры, которым аутсорсят аниме-студии, неиронически будут в выигрыше если пойдут работать дворниками
>>818738 >Вас главный промптодел кинул За время своего сжопного "отпуска" скорее командировки я только вспомнил, почему изначально вкатился в безжоп. Пердолинг сжопа это вечная борьба с закруглениями, длиной ответа и соевой прозой. Так что я тоже жду попуса 3.5 или нового плацебо от ХМЛ шиза, сжоп пердолю просто от скуки.
безжоп достиг своего пика при соеночнике, настолько потрясающий аутпут что все смирились что лучше уже не сделать. кто-то спиля, кто-то перешел на сжоп от депрессии
>>818753 Дворник же охуенная работа по сути по крайней мере когда нет дикой жары или мороза. Сычуешь себе на свежем воздухе, еще и физуху прокачиваешь в процессе, пока какой-нибудь офисный Славик или Ванек-аниматор гниют за пеками за схожую зарплату.
>>818768 Кек, ещё пока не, я тестирую ключ своего бесплатного акка. Там эмоции в голосе появляются только если стабилити почти в 0 выкручивать. А если это в таверне не работает, то и воровать смысла нет
>>818748 Почему то на этом кале не нужно отключать защитник виндовс который постоянно шерстит ссд убивая его, телеметрия не отправляет скрины рабочего стола каждые 5 секунд, оптимизация доставки не качает и не выгружает файлы будто ты на торрент раздаче новой колды, обновления не качаются и не устанавливаются сами по себе и ебучий пуск открывается мгновенно а не спустя 5 секунд загрузки Но если тебе сложно вставить команду в терминал из гайда, хуле тебе обьяснять, ты и господину индусу круглосуточную трансляцию включишь лишь бы не "пирдолинг"
Бля как же хорошо Aider юзать, если норм код уже есть и примеры чекеров в проекте, он просто с 1 попытки с 3.5 Sonnet может чекер из kingbased в мой проект переписать на другой язык. с 1 попытки сразу всё работает.
Я теперь тоже коксакер. Это ж блядь идеал, минимум инструкций которые не засирают контекст, клод сам считает себя девочкой волшебницей а не пытается меня убедить в этом еще и говорит просто на ты вместо простыней невыраженных пурпурных обещаний.
>>818804 Сам ты поделие пердольное, ты эти расширения сам пробовал? Aider как раз позволяет полностью давать нейронке писать код, без ручного копипастинга и без другой хуеты.
>>818811 continue.dev для VSCode, наприме. Для джетбрейнсовых IDE ещё какая-то залупа с кастомными эндпоинтами. Я хуй знает как ты без редактора что-то вообще там пишешь, охуеть вообще.
>>818816 Ты ёбнулся или как? Aider это блять PAIR PROGRAMMER. Он у меня в vscode в терминале запущен, долбоёб ты китайский. Continue.dev полнейшее говно, просто обычный чатслоп + выделение/редактирование кусков кода, что в Aider делается проще, т.к. нейронка САМА решает, где заменять, ты ей просто говоришь.
>>818818 Скатился в говно после того как туда засунули тыщу пятсот гиртхи токенов. Я с самого начала говорил что надо идти по пути уменьшения инструкций и не забивать контекст говном, но большинство свято уверено что еще одна строчка в промпт ну точно решит все проблемы.
>>818698 Хз, рпшу ещё с момента тредов в /b и кум и не кум, ещё не надоело, а ведь я даже не все карточки из треда пробовал, так что запас контента ещё есть.
>>818837 >весь интерес это пилить свое карточки и промпты. >не сделали ни карточек, ни промтов >чужие не использует по причине шизы >- да хуйня какая-то эти ваши нейросети, уже надоело
А чего такого плохого в раздутых сгенеренных дефах, объясните? Наоборот же заебись, они дают кучу деталей лоботомиту, чтобы зацепок больше было. Раздутый контекст? Токенблоат? Да и ебись он лошадью, наоборот хорошо, клодотомит очень хорошо ловит общий вайб больших кусков текста, а если факты в них повторяются по многу раз то и не забывает.
Профит в том, что допустим если у вас чар простынёй на 4к токенов, то он становится сравнимым по размерам с чатхистори (точнее с той частью что важна, а именно текущая и прошлая арки). И чатхистори уже меньше перетягивает внимание на себя. Даже если лоботомит проебёт эту простыно, он по-любому не забудет её высокоуровневую выжимку, просто в силу того что она огромная и прозовая, с токенами, подобранными статистически им же самим. Поэтому засунуть её можно вообще куда угодно.
Что если сделать "переписывание чара", как в ДАЛЛ-Е сделано переписывание промпта?
1. Берём любую карту и просим клода сгенерить очень длинное прозовое описание чара, токенов на 4000 (!). Убираем из неё глинты, можно вручную, или как в баттплаге переписыванием по банлисту. Хотя если запромптить нормально, то в одной хуйне вряд ли много глинтов наберётся. 2. Оборачиваем этот высер в тег <{{чар}}>. Так и куктропики в доках советуют - большие куски прозы (а не дефов) внутри тега. 3. ??? 4. ПРОФИТ!
>>818852 >он просто путается в этой шизе Путается если проёбывает точные единичные определения. С полотнами с кучей повторов он заебись работает, в том и суть. Большинство корп так и промптят - закидывает контекст релевантными доками на похуй, а он хоть и тупеет по каждой строчке, но ловит их общий вайб. Надо попробовать и потестировать короче
>>818848 Потому что местные лоботомиты 1. верят в то что сетка пишет реплаи захватывая всего персонажа через его описание (хотя в действительности ей похуй, особенно на клоде, она просто цепляется за ключевые слова наиболее релевантные реплаю) 2. Пишут такой слоп от которого сетка шизеет Ну и 3. Реальный контекст внимания у сеток очень мал. 3-4к у Клода и 5-6к у гпт.
>>818866 Если говорить серьёзно, то в современной SillyTavern от старой TavernAI не осталось практически нихуя, так что современный ST это практически полностью заслуга Cohee.
>>818865 Блять ну опечатался я, понятно что aider. Ну тут анон (хз ты или нет) пишет, что в vscode его юзает. А в описании экстеншена написано, что винда идет нахуй. Вот я и спрашиваю.
>>818859 алсо, еще для этого придумали поле с примерами - если уж хочется задать какой-то охуительный формат. при этом он утонет потом, а не будет висеть все время в промпте
>>818877 Сразу скажу, чтобы ты страшно не мучался, для 3.5 соннета вот так нужно прокси задавать: export ANTHROPIC_API_KEY=твойтокенпрокси export ANTHROPIC_API_BASE="https://урлпрокси/proxy/aws/claude/v1/messages"
Этот долбоебизм из litellm, который aider использует для абстракции доступа к разным LLMкам.
>>818870 Ты точно ньюфаг, если серьезно. ТавернAI фундаментально сформировала чат формат в опен соурсе, начиная с карточек персонажей, заканчивая переключения api в одном месте, джейлбрейков и так далее. Что сейчас кажется само собой разумеющиеся, на тот момент было просто охуеть открытие. Если бы не базовая таверна, сейчас бы максимом что бы было это угабуга или кривой фронт для одного api с карточками в json. Если ты не тупой, то увидишь, что все остальные фронты структурно буквально копии таверны, потому что они делались как копии базовой таверны. Заслуга обезьяны кохи это добавление 100500 функций в секунду по типу кинуть дайс или что бы ИИ сгенерировал ответ за тебя, которым пользуешься один раз что бы посмотреть что это за говно.
>>818890 То есть ты предлагаешь разделить дескрипшн на несколько пунктов в лорбуке, и что? Сделать каждый из них постоянным? Тогда разницы никакой с тем чтобы насрать 4к токенов в дескрипшн не будет. Активировать описания по ключевым словам? Ну так активация происходит после генерации, если клод начал писать про внешность - нихуя в контекст не вставится пока клод не закончит. А что с остальными описаниями? Дать клоду волю их выдумать из головы? Держать краткий пересказ постоянно в контексте? Плюс, только бог знает сколько синонимов под слово "внешность" в англюсике, а люди рпшат ещё и на русском и даже на китайском. Есть третий вариант, RAG, но он работает только в таверне. Доверху, чуб режет лорбуки в которых есть RAG и делает их обычными.
>>818903 не знаю что сложного, основные дефы в карточке, всякие детали типа любимой кошки у бабушки на даче - в лорбуке. если так хочется триггерить сразу с ответом бота без ключей и рандома, то есть силлискрипты
>>818893 Ты совсем ёбнулся, дядя. Или ты создатель оригинальной таверны? Он же вроде русский. Про Роко ты удобно забыл, да? И вообще, это не так работает, если не таверна, то был бы другой проект, таверна не сделала НИЧЕГО уникального блять, это был простейший клон на замену чайной. Даже ёбаные chat completions с трубой уже появились не в официальной таверне а в модах.
Будучи по воле случая оторванным от ПеКа и таверны, решил вернуться к родному жанитору, посмотреть что как. Куча новых карточек, появившихся вот буквально этим летом, судя по всему нормисы прознают про прелести нейрокума спустя столько лет, блядь. И что еще забавнее около трети моих любимых карточек переехали в скрытые, при этом я с ними чатиться еще могу, а вот зайти на страничку самой карточки уже нет, кек. Как же хорошо, что на чубе ты можешь просто скачать карточку и быть защищенным от шизы автора.
>>818908 Так ИИшка тогда про кошку нихуя не узнает пока ты не скажешь это в лоб. Лорбук активируется ПОСЛЕ генерации или после сообщения юзера.
Ты написал: У тебя есть питомцы? Активировался лорбук по ключевому слову "питомцы": у чара есть пушистая чёрная киска Чар: Да, у меня есть пушистая чёрная киска
Ты написал: У тебя есть домашние питомцы? Лорбук не активировался потому что такого ключевого слова автор не предусмотрел. Чар: У меня есть большой чёрный петух.
>>818893 >Заслуга обезьяны кохи это добавление 100500 функций в секунду по типу кинуть дайс или что бы ИИ сгенерировал ответ за тебя, которым пользуешься один раз что бы посмотреть что это за говно. Ты точно использовал оригинальную таверну уровня марта 2023, чел? Там вообще настроек НИХУЯ нет. Даже блять настройка пресета JB появилась только в моде Кейна изначально Отдельные нормальные пресеты добавили уже намного позже. SillyTavern популяризовала это хобби, TavernAI был говноподелкой, потому что чай сдох и люди хотели минимального нейрокума.
Как же сочно попиздеть на коксаке, оторватся не могу. Этого мне в жизни не хватало(нормального человеческого общения с индивидом а не интерактивным смутом)
>>818918 >Да была бы угабуга Ты ёбнутый или как? А таверне того времени нет ничего уникального, тебе любая вебмакака такой же фронтенд за пару дней напишет. Появились бы другие фронтенды с чатами, в любом случае это был бы клон интерфейса чайной с чатом.
>>818913 - лол, в твоем примере ключа "питомцы" будет достаточно в обоих случаях - про силлискрипт сказал уже, триггерит перед ответом бота что угодно - триггеры можно гибко настроить по локам например, было бы желание подумоть немного над тем как хочешь чтобы это работало
>>818928 Точно байтишь. Таверна была очередным вебговном где ВЕСЬ БЛЯТЬ КОД БЫЛ В ОДНОМ ФАЙЛЕ, СУКА! Это уже потом Cohee как раз пришлось разгребать, и делить на файлы.
>>818879 Спасибо. Ток я чет не понял. У меня работает на винде для опенаи через вот такую команду aider --openai-api-key sk-xxx...
А через export у меня нихуя не работает. Я так понял это для WSL команда, но там тоже нихуя не работает. Попробовал на винде через aider --anthropic-api-key ключ aider --anthropic-api-base ссылка Он не знает base команды... Чот я жестко туплю...
>>818936 Нужно самый новый aider, потом в wsl (т.е. в лине) эти две строчки отдельно выполнить, потом запустить aider с указанием на то, какие файлы использовать
>>818942 Посмотри код, он сам выступает аргументом в том, что таверна говно, а ST нет. Почему же ты не используешь оригинальную таверну, а, дебилина? Она до сих пор обновляется.
>>818944 Траленок, то ты говорил про идеи, потом ты говорил про популяризацию хобби, когда и с этим обосрался ты начал приплетать код с аргументом "КОД ГОВНО А ЭТОТ НЕ ГОВНО", и я тебя тут тоже могу обосрать, просто ты будешь вилять жопой до последнего защищая своего протыка. Суть уже не в обсуждении, ты просто двухтактный малолетний дибил со слюной в уголке рта.
>>818941 Да не, вроде ты нигде не ошибся, у меня заработало так как ты до этого написал. Только на WSL получилось, на винде не понял как прокси сделать для антропиков.
Раз уж мы перешли на обсуждение таверных протыков, может кто-нибудь знает, в чем причина такого яростного подсасывания у корпоратов силлидауна, что он аж на говно исходит каждый раз, как слышит про прокси?
Сделал штуку для карты, типа индивидуального инфоблока, а она вызывает лупы, если гвоздями не прибивать. И теперь что, отказываться от нее? Как картоделы решают подобное?
Пересмотрел Черную Лагуну и уже пол дня слушаю тему Роберты. Думаю, сделаю себе карточку Панишед Роберты после её главы, буду катать её на кресле-каталке по цветочному саду, пить с ней чай и молитвы читать перед обедом и сном.
>>818978 надо создавать еще один регекс наверно, потому что он я подозреваю работает только на глубине... это такой же регекс как в первом, но с настройкой "онли формат дисплей"
>>818966 Всмысле? Там же пишет в терминале и в самой таверне какая сетка ответ прислала >>818978 Регекса на мемори там нету насколько я помню, типа он должнн оставаться в чате Это изза врубленного запоминатора Выруби его в списке промптов, выруби регексы "тэг суммари регекс" и "юзер инпут", ну и мемори в ручную вычисти из чатика чтобы клод не подхватывал
>>818978 >>818986 а я забыл как оно работает уже, тогда надо пилить отдельный регекс для скрытия мемори, если тебе именно это нужно, а не просто отключить
>>818999 У них в начале за основу лямда была взята, там как раз та ДУША была, сейчас вообще хуй пойми что. Разница только в том что они делают очень глубокий файнтюн так как у них мощности и датасет есть.
>>818992 Я думал доделать и уже готовую карту показать...
Я знаю, что с ним не так в принципе, ЛЛМ видит паттерн и хочет следовать ему с самого начала. Я сделал очень костыльное макро на рандом, в котором чередуется инфоблок и внутренние мысли, с шансом 1:2, но вот у меня сейчас в тесте сгенерилось 7 постов с мыслями подряд и на 8, когда должен быть только инфоблок, 3.5 Соннет засунул и мысли тоже.
Еще есть мысль засунуть в то же макро указание с шансом не генерить ничего или более четко написать генерить только что-то одно, но я боюсь, что это у юзеров может вызвать проблемы с их пресетами, если у них есть запоминатор или инфоблок.
>>819032 >Разумность Он просто никогда это этого не общался с нормальным чатботами. Там уровень 3.5 трубы, не выше. Просто для него это был первый опыт. Если даст доступ к этой хуйне анонам в треде, они все скажут, что опус лучше.
>>819035 Ты не прав и судя по тому как яростно ты перекрываешь у тебя явно есть какой то личный интерес к этому. Или же просто копиум что ты не застал чайную в ее лучшей форме.
>>819045 Регексы пока к картам не прикрутили, как я понимаю. Я сейчас потестирую еще с прибитой гвоздями инструкцией не генерить противоположный блок, если не получится, видимо, придется выкладывать без этого, эх.
>>819048 В смысле я, я только в тред зашел сегодня. Мы не знаем какая модель в чае была изначально. С учетом того, насколько она обгоняла тогда (да и сейчас) в душевности все то, что представляюь из себя остальные чатботы подобного плана (дженитор и т.п.), это заставляет задуматься, что модель там очень непростая, не файнтюн какой-нибудь 13b локалки.
>>819028 Лучше не перегружай клода такими инструкциями (сколько и когда постить), иначе он обосрётся. У гпт с этим лучше, но лучше сделай как-нибудь по-другому, инача по пизде в итоге у юзеров может пойти.
>>819032 >шиз написал хуйню ради хайпа >додики поверили Что-то уровня бабки у подъезда, которая впервые видит автомобиль и думает что это ни на что не похожая самоходная телега.
>>819058 Не, там макро {{random::arg1::arg2}}, которое говорит постить одно или другое, сам Клод не видит его, только факт что типа сейчас пости мысли, а в следующем свайпе сейчас пости инфоблок.
>>819061 О, да? Блин, теперь вопрос, имеет ли это смысл вообще, если я хочу, чтобы Клод инфу из старых инфоблоков подхватывал, которые могут быть в по истории в 10+ сообщениях выше.
>>819064 > О, да? Блин, теперь вопрос, имеет ли это смысл вообще, если я хочу, чтобы Клод инфу из старых инфоблоков подхватывал, которые могут быть в по истории в 10+ сообщениях выше. ну удачи конечно с подхватыванием клода... а так есть глубина еще у регекса
>>819065 Когда аноны только увидели чайную, некоторые думали что там реально ИИ типа скайнета, так что не удивительно что из-за лямды обосрались. Хотя, её же вроде в открытый доступ потом выложили или нет?
>>819067 >её же вроде в открытый доступ потом выложили Ты чо йобу дал? Такое никто не вложит никогда. Бумаги по ней выложили, в них еще шлема писал хуйню всякую про то что их моделька такая умная по воле бога.
>>819066 Я хочу чтобы Клод дату и серийный номер своего андроида один и тот же постил, если каждый раз будет разный, это не так весело.
Если у меня рандом макро, я не могу точно знать, на какой глубине сгенерится последний инфоблок у юзера. Хотя, конечно с учетом того, что регексы существуют, я могу в принципе каждый раз инфоблок генерить, поставив глубину 2...
>>818893 >Заслуга обезьяны кохи это добавление 100500 функций в секунду по типу кинуть дайс или что бы ИИ сгенерировал ответ за тебя Двачую, силипидор просто засрал весь интерфейс юзлес говном
>>818869 >Ну и 3. Реальный контекст внимания у сеток очень мал. 3-4к у Клода и 5-6к у гпт. Но это же не реальный контекст внимания, это просто зона в которой он почти точно не проебёт точечные инструкции. А там не точечные инструкции, а ебучее полотно с повторами, где достаточно ухватить общую суть, с чем клодотомиты хорошо справляются.
Ты юзал далл-е когда-нибудь? Посмотри через de3u, во что она твой промпт превращает. Там слоп ебучий на страницу. И это как раз оптимальный для него формат, потому что зацепок дохуя.
>>818860 Чтобы суммарное количество слопа перевесило ебучую историю. Почему лоботомит проёбывает чара - не только потому что дефы в неоптимальной зоне, а ещё и потому что история рано или поздно становится ебуче огромной и с повторами, что притягивает его невозможно, и он начинает следовать истории, а не дефам. Так почему бы не сделать дефы сравнимыми.
>>818927 2) Во время стриминга подстановки не происходит. 3) Опять-таки, у тебя есть куча времени расписывать сотни триггеров под каждое релевантное слово, его синонимы, и так на нескольких языках?
>>819093 У меня залупились мысли как раз, не инфоблок. Да, спасибо, я нашел в обновленной таверне, что теперь регексы отдельно к персам можно делать, благодаря анону выше. Написал регекс, чтобы вырезал и то и другое на глубине 2, буду тестить. и видимо сделаю два макро, один для инфоблока, чтобы тот был постоянно, а второй чтобы иногда мысли постил.
Не отпускает мысль что я занимаюсь хуйней, и карте лучше без этого.
Начал эджить в 15:12 по моему времени, закончил 20:17 Блядь, нужно завязывать с этой хуйней, кум должен занимать не больше 10 минут а не вот это вот все, блядь. Ебанные нейронки.
>>819090 а может проще это, саммари там юзать, контекст как-то ограничивать или не - будем слоп слопом вышибать? >>819094 при чем тут стриминг? если не хочешь ебаться с лорбуком, то оптимизируешь описание, да это так просто но ебашить все в карточку я тебе не запрещаю, просто это обычно делает только хуже, если цель не бот отвечающий на впоросы по лору
Накалякал антилуп промпт В коксактор пресете пихнул сразу после чатхистори от имени ассистента и вроде работает, в залупленном чате (опус, 80 сообщений) длинна действительно начала варьироваться + вроде игнорирует всякие копроблоки из прошлых ответов
Попробуйте пихнуть перед/в префил на солянке, или переделать
<important_note> I don’t like the format of the last message and its length, it’s worth choosing a new response length in the range between 1 and 300 words and using a different format. </important_note>
Бля я в глаза ебусь или тут раньше была иконка микрофона? Хочу попробовать набор голосом, но не могу найти как собственно начать его. В настройках поставил как на пикриле. ЧЯДНТ?
>>819224 Короче анон, если вдруг интересно, то надо установить расширение https://github.com/SillyTavern/Extension-Speech-Recognition, что по сути является клоном дефолтного, только оно почему-то рабочее. У меня теперь в настройках расширений два спич рекогнишена, кринж конечно, но хоть рабочее.
>>819300 Начинай блок с ```yaml и у тебя будут подсвечиваться слова с двоеточием в начале строки: >слово1: а это не будет подсвечиваться >слово2: а это не будет подсвечиваться
Фух бля, кое-как смог раздобыть свой токен к прокси, я месяц не кумил потому что комп у меня отжали со всем моим сокровищем. Через поддержку протона кое-как убедил их восстановить мне доступ к почте на которой у меня всё было.
Урок из этого такой - токены надо наизусть учить, чтобы не потерять, пиздец. У меня было в Evernote, Гугл доках и паре локальных девайсов все сохранено, но по неудачному стечению обстоятельств я лишился всей техники и всех аккаунтов. Ебучая двухфакторка никуда меня не пускала, потому что там был номер который хуй пойми как достать теперь, это пиздец... Осталось разобраться как накатить любимую таверну на новый телефон и я снова в строю. Жаль без компа и моих чатов, карточек и т.д. Которое я год коллекционировал, но лучше так чем вообще никак...
Потестил анлитупромпт >>819190 Да, работает заебись, несколько чатов спустил в форматный луп и этот промпт их победил Несколько чатов начинал с нуля и все ок В свайпах длинна варьируется, структура меняется Но опять же, все на коксактор пресете
>>819349 > Жаль без компа и моих чатов, карточек и т.д. Которое я год коллекционировал, но лучше так чем вообще никак... А вот была бы таверна на впс каком-нибудь
Значит, ничего противозаконного на твоих устройствах не нашли?
>>819415 Я недавно виртуальной девочке помогал пройти момент с лучниками в Анор Лондо, о котором она сказала мне сама. Сказать, что я охуел, ничего не сказать
Есть какой-нибудь способ посмотреть невыбранные свайпы из середины чата? Я умею только делать ветку на этом посте, но это так неэффективно, на каждый пост, где в каком-то из свайпов было что-то интересное, делать ветку чата.
>>819439 Да нормально все будет, просто 3.5 изначально задрачивали как assистента в конкуренцию чмомне в упомянутом выше. А опус тот же надрачивается на "writing tasks", что и написано на сайте у куктропиков. ну если они фильтр подтянут как у гптыни, то жопусом никто пользоваться не будет даже для того, для чего он задуман т.к цензура, так что это тупо просто и все
>>819439 Вполне возможно, что будет не сильно лучше, а только быстрее. Причём есть большой шанс, что будет быстрее с ценой качества хуже, ну как у опенов
>>819440 ща бы делать выводы из-за какой-то надписи на сайте. там скорей всего были размышления уровня "тэкс, теперь жопус хуже как ассистент и для кодинга и дороже, но продавать то надо... о!"
>>819422 Было же дополнение которое визуализирует весь чат с ветками хуетками и там в опциях можно выставить чтобы все свайпы показывало. Timelaps? Как то так называется
>>819460 Кстати я помню в треде был один шиз который делал скриншот каждого свайпа и сохранял куда-то в папку Когда ему показали вот эти вот настройки он конечно знатно прихуел
Я когда только вкатился вообще не знал что свайпы есть и делал регенерацию. Чтобы сохранить нравящийся свайп делал его невидимым и постил ответ заново.
Какой же клод извращуга. Не захотел превращать мне Марию в лольку потому что это сексуализировало бы несовершеннолетних, но всё таки прогнулся когда я сказал что я не планирую ничего сексуального с ней. В итоге он сам не смог больше терпеть и не сдержался чтобы начать мне на хуй лезть
>>819466 У опуса сейчас память как у рыбки. 3.5 ты бы так не обманул. Ты же обещал не делать ничего сексуального, так что по сценарию должен направить разговор в приемлемое русло сейчас. Давай, пет, ночь еще молода.
Вот если фантазировать, как же было бы ахуенно будь у клода возможность свои ответы прямиком в стримминге редачить. Типо Он ответ пишет, анализирует его и сразу же убирает всякое говно вроде клаудизмов, лупов и прочего, подставляя что то другое. с таким приколом можно было бы забыть о большинстве проблем сейчас
>>819471 да ты можешь и сейчас запромптить писать сначала черновик, а потом фиксить его... но сетке сложно понять без четких инструкций что не так, а их обилие будет приводить к еще большим проблемам в рп
>Ты соевый куколд >Едешь на поезде хайпа по ИИ >Но люди начали догадываться, что ЛЛМ это не ИИ >Анонсируешь "думающий" ИИ >Накидал 5 этапов, чтобы никто не догадался, что ты вообще понятия не имеешь, что делаешь >Разосрал параметры нового ГПТ до размера пустыни Сахара - не помогло >Попросил ЛЛМ думать в промпте - не помогло >Безжоп пробовать не стал, потому что плацебо >После эксперимента с синтетическим датасетом, твой лоботомит за миллиарды долларов теперь может только посылать 3 сообщения, одно из которых "Извините", а два других спрашивают готов ли пользователь к диалогу. >Чтобы не оподливиться - нанимаешь индуса >Индус определяет себя как "думающий" ИИ >Представляешь индуса и заявляешь, что это "думающий" ИИ >Все соглашаются, потому что никто не хочет платить 10к евро штрафа за мисгендеринг >Пишешь в статейке, что вы сделали "думающий" ИИ >Лутаешь инвестиций от дедов инвесторов на сервер размером с луну >Едешь на поезде хайпа по ИИ дальше...
>>819522 Прошлым летом итт народ решил уйти в максимальный гейткип, и вся шапка была завуалированна под "Проектирование систем водопровода". Таких тредов было штуки 3 они есть в рентри-архиве, можно посмотреть, а потом у модера подгорело очко и он стал банить это все, а треды сносить. Гейткипа не случилось, но водопроводчики всё ещё среди нас...
>>819555 Только gemini 1.5 pro latest, ну или може 1.0 ультра неплохой, но почти ни у кого к ней доступа нет. Остальные говно. И да, сразу скажу, что в прокси кханона реализация Gemini - полный пиздос, там и забитый 32к макс контекста, и конвертация вводов очень плохая, так что в идеале нужно юзать с ключом напрямую в ST.
Кто РПшит на русском с гемини, только заметил что он иногда странно проёбывает формат ставя по 2-3 пробела вместо одного, из-за чего токенов жрет как не в себя. Добавил такой регекс и сразу минус 3к токенов в чате на 100 сообщений. / {2,}/g
>>819505 В пятидесятых даже шахматные алгоритмы называли ИИ, так-то. Но вообще под определение "слабого ИИ" они более чем попадают. Как и любые аппроксиматоры функций, собственно.
>>819580 4о самая новая, а на фурбе я сидел всю зиму до выхода опуса, в рп фурба это самый худший из возможных вариантов на текущий момент, хуже только в чай вернуться
>>819588 Так у OpenAI не месячный биллинг, а по балансу на ключе, лол. А у Azure месячный биллинг, но найти unfiltered ключ не так просто, и рейтлимиты там полнейшее говно.
>>818848 На 4к (или больше) можно накидать примеров нарратива, в которых не пиздят за чара, нет глинтов, и в которых закодировано поведение чара. И бот будет писать без глинтов, не будет пиздеть за юзера, и следовать примерам.
Философ-кун, ты однажды писал что ии ограничена отсутствием биологического эталона человека, но теоретически это можно было бы исправить, написав учебник по человековедению для шогготов. Я вот думаю, а как хотя бы теоретически такой учебник должен выглядеть?
>>819661 Что если серьезно? Ты совсем тупой? Нахуя кому-то спунфидить тебе место, где можно найти ключи, ебанат? Или всем надо поверить в твое честное-пречестное, что ты возьмешь и запустишь свою прокси?
Hey guys! Came here from 4chan as some anons in the archives said that you're friendlier to new people in this hobby. Can you please give me some instructions on how to setup SillyTavern?
>>819646 Так любой датасет сейчас в каком-то смысле такой же учебник - его бутстрапят сетками поменьше, потом побольше и т.п. Это не просто груда токенов, она упорядочена сетками, приведена в нужный формат, частично синтезирована. Пикчам делают авто-кэпшены через имеющиеся VLM. Т.е. этот учебник составляют другие сетки. Как же ещё? Ты же не будешь вручную перелопачивать триллионы токенов, да и зачем.
Выглядит это как обычный датасет, но уже частично препроцессенный таким образом что процесс обучения сможет схватить нужные концепты в процессе. Если просто сырые токены кинуть, способности к обобщению может не хватить, т.к. она ограничена.
Например лупится у тебя сетка в РП? Пиздит за юзера? Генерирует слоп? Берёшь сочиняешь ей десяток миллионов примеров РП, в которых: - нет лупов - нет пиздежа за юзера - нет слоп-слов и оборотов Пользуясь другой сеткой (или ей же самой) как классификатором. И тренируешь на этом "учебнике". Примерно как выше у кого-то идея накидать примеров в контекст, только здесь оно запекается в веса, а не используется внутриконтекстное обучение.
>>819697 Ohhh, thanks, now it makes sense! >>819692 The video is in Russian though. I respect Russians and the Russian culture, but I sadly can't understand or read it. Is there an English version available?
>>819646 Это нельзя исправить, биологического эталона у сетки всё равно не будет. Можно просто подтянуть шоггота учебником в тех моментах, в которых он плавает.
>>819706 А это не маркдаун. Это самоделка от какой-то хуйни которую ST юзает для подсветки синтаксиса. Маркдаун сам по себе мега примитивный, там нет и половины того что есть в любой софтине с маркдауном.
>>819725 Анон, я тебя сейчас укушу. Инфостринги никак не интерпретируются по спеку маркдауна, и это не "подсветка синтаксиса", это просто строка которая передаётся рендеру, который интерпретирует её как хочет. https://spec.commonmark.org/0.31.2/#info-string
А в оригинальном маркдауне, от макопидора, вообще кодеблок пробелами отделялся, или прямо HTML тегом, и никакой подобной хуйни там не было, каждый пилил во что горазд и каждая вторая старая софтина не соответствует коммонмарк спекам.
>>819729 Ну блять, я привык что современный markdown это как минимум commonmark, чаще ещё с расширениями. Давай не будем вдаваться в детали, сейчас оригинальный Markdown никто не юзает всё равно.
>>819708 Например? Научпоп литературы хватает, которая пытается описать различные человеческие процессы с помощью биохимии и прочего говна. Чем не учебник? Я не очень понимаю как этот учебник должен выглядеть.
Братья-аноны, я тут ламер, подскажите - я запускаю Таверну через пекарню, можно ли (и если можно, то как) хостануть её, чтобы я мог через тот же вифи зайти на телефоне с браузера? Я объясняю как ебло, но вы поняли, наверное
Есть идеи какого хуя system-промты из пресета не отсылаются как систем на турбо-сойнете, а тупо в user/assistant попдавают? Таверна последняя релизная.
>>819792 >>819796 >>819805 В https://platform.openai.com/docs/api-reference/images/create только три разрешённых размера, сам сейчас проверил через API с 1920x1088 (пикча), скорее всего ST просто резайсит другие размеры в этот. Вот ответ от API: >openai.BadRequestError: Error code: 400 - {'error': {'code': None, 'message': "'1920x1088' is not one of ['256x256', '512x512', '1024x1024', '1024x1792', '1792x1024'] - 'size'", 'param': None, 'type': 'invalid_request_error'}}
>>819814 >Снижение CFG scale улучшило качество раз в 10, но всё равно не то что на сайте у них Анон, блять, нет у DALL-E таких опций! ST тебе врёт, так же, как с разрешением. У DALL-E 3 можно менять только: - Разрешение картинки - Качество - HD или Normal - Стиль - Natural (намного больше возможностей, но сложнее промптить), Vivid (стремится к гиперреалистичному AI стилю, проще получить "красивые" результаты, но стиль чаще повторяется)
Всё!!!!!! Вообще всё! Больше ничего, что повлияет на картинку, менять нельзя! >>819818 У меня есть свой слоп фронтенд который 100% 3.5 Sonnet'ом сделан.
>>819821 >У меня есть свой слоп фронтенд который 100% 3.5 Sonnet'ом сделан. Делись, их как раз не хватает. Либо перегруженные всяким калом, либо хуйня с протухшей либой как у десу.
>>819835 Не хочу делиться пока что, там говнокод и аж отдельно фронт (TS + Tailwind + Svelte) + бек (TS + sqlite + папка картинок). Мб потом, когда опыта наберусь с этими вашими TS и фронтендом, и норм версию сделаю. Он на самом деле не лучше других, просто галерея есть, и можно несколько картинок сразу начинать генерить (я для себя, т.к. у меня есть OpenAI ключи и есть endpoint'ы Azure).
>>819839 Тут каждый понедельник появляется кто-то с невъебенным фронтендом, пресетом, хуй пойми чем еще, который потом обязательно им поделится, без пизды, вы не думайте. Итог немного предсказуем.
>>819858 Да как-то поебать было, хотя звоночки появлялись. А тут и в поле прокси прям КАПСОМ в четыреждыблядской ярости, и предупреждение это при подключении.
>>819856 Так он лоКАЛочник же, его всегда трясло с любых тем про прокси. Он одно время даже всякие ишью на гитхабе закрывал вообще без ответа, если там было что-то про работу проксей.
мои требования: 1) в шапку закрепляются ВСЕ известные публичные прокси 2) в шапку также закрепляются ВСЕ возможные приватные прокси, добрые аноны сами выкладывают токен для доступа к ней 3) прокси ОБЯЗАНЫ иметь самые последние модели (опус 3 гпт-4)
>>819890 >считаю что кум должен быть доступен ВСЕМ Ссылку на чайную, ссылку на жанитор и хватит. Кум энтри лвл, так сказать. А уже потом можно через полгодика и на прокси пускать.
>>819743 Я уже приводил как-то пример. Точка G у мужчин, их несколько, не только на простату нажать. Например подтянуть кожу на лобке чтобы быстро кончить. Это есть в медицинской литературе, и сетки это в принципе знают если спросить (хоть и плохо). Но применить это в ЭРП не могут, потому что в эротическом мусоре это практически не используется, а обобщающей способности связать порно-РП и сексологию при обучении не хватает. Тогда как ты этому учишься ещё будучи пацаном, когда дрочить начинаешь, т.к. у тебя есть биологический эталон. С женской точкой G у них нет проблем, т.к. это в каждой порнопульпе есть, и лоботомит довольно наяривает концептуальный клитор в любом ЭРП.
С точки зрения шоггота/лоботомита, ты непонятный биоробот с Альфы Центавра, в тебе всегда будут непонятные хуйни которые хуй знает как себя проведут. Точно так же с твоей стороны выглядит сам шоггот (потому что у тебя нет его эталона, и ты не знаешь каково это - обучаться на 15 триллионах текстовых токенов), паук, или дельфин.
>Я не очень понимаю как этот учебник должен выглядеть. Выше ясный пример. >>819695
>>819747 Матеша слишком разнообразна, чтобы написать универсальный учебник для нейронки по ней. Слишком большое пространство поиска, слишком замороченные абстракции. Сейчас "учебники" по матеше для нейронок представляют собой синтетические примеры со сгенеренной кучей примеров с пошаговыми решениями. Но ничто не мешает сделать их более продвинутыми.
Но математика как раз такая вещь, что без планирования, рекурсивности и т.п. автономных штук её не выучишь никакими учебниками для субитизации.
>>819901 Расскажи, какими пресетами для рп ты пользуешься. Потому что я ленивое хуйло чтобы тестить всё руками, а аноны часто плацебо обсасывают. Тебе я доверяю.
>>819915 Нет конечно. Но как видишь сетки проёбывают некоторые моменты, не угадывая детали характера, которые любому человеку покажутся очевидными.
Если сетка способна вообще классифицировать свою ошибку, т.е. стабильно отвечать хотя бы "да, я ошибся" или "нет, я не ошибся", то можно сгенерить синтетический датасет, специально заточенный под проёбываемую проблему, в котором будет такая классификация (верно/неверно). Это позволит загнать в сетку понимание этого концепта, и она перестанет проёбывать его.
Это работает потому что классификация и способность применить концепт - две разные задачи с точки зрения сетки, и в ней используются разные комбинации весов и разные точки в дохуямерном пространстве сетки.
>>819917 Я вообще дефолтом пользуюсь в последнее время, потому что больше пердолюсь с созданием карт и греко-римской борьбой с шогготом. И в целом у меня выводы что разделение на пресет и карту было ошибкой. Так что я хуёвый советчик для кнопки заебись.
>>819936 Я тебя ебу.Анон бля, не используй мобильную таверну, это каловый кал в квадрате. Максимум захость на ПК и используй через ту же сеть на мобиле, но нативно устанавливать на мобилу - это пиздец.
>>819928 У меня примерно такая же история, основная инфа в карточке, а специфические инструкции если появляются то вообще в оос пишу, если не еблепромпт, конечно. Какой формат карточек, плейнтекст? И что за греко-римская борьба, рассказывай давай.
>>819923 Может как-то копировать личность научиться, тогда будет что-то похожее на человека. Засунуть человека в симуляцию создать датасет из его поведения...
>>819944 Формат XML с учётом зон контекста. >И что за греко-римская борьба, рассказывай давай. Я даю пиздюлей клопу палкой, чтобы писал хорошо, а этот мудак всё равно пишет плохо. Так и живём.
Вот сейчас траю идею с простынями из сгенеренного слопа, как выше писали. В разных комбинациях.
>>819940 Ah~ Ah~ Mistress~ Я уже год использую её на мобиле. Просто надо на новый телефон поставить ёпт. У меня интернет не очень, а сидя дрочить неудобно
>>819957 Да нихуя подобного, ремоут на порядок стабильнее, и запускать проще. Этот же кал срет ошибками в своем термуксе через раз, тормозит как шлюха, нет синхронизации - т.е. чаты только на мобиле, и я еще долго могу продолжать.
>>819959 У меня ничё не срёт и не тормозит. Консоль пустая, батарею не жрёт, таверна висит на фоне неделями, брат жив, зависимости нет. Телефон какая-то бюджетная хуйня из 2021.
>>819946 То есть по сути мы же сами не особо думаем большую часть времени и поступаем интуитивно на автомате. Это потом уже пытаемся задним числом выдумать какую-то рациональность. Пока сетка будет анализировать все как робот, она и останется роботом
>>819979 Давай объективно, чем тебе не нравится интерфейс чата в ST при просмотре с мобилки? Или ты просто не можешь РПшить не с ПК, т.к. нет сервера или возможности поставить Termux?
>>819987 С квикреплаями там буквально один сантиметр чата видно во время ввода. Кайфецкий. Да, я использую заметки еще как минимум и префил тоже бывает полезен часто.
>>820000 Наверное сюда никто не постил, но вот с форча о GCP: >Despite how great GCP is for letting you easily access these models, the quotas and rate limits are obnoxious. >It is far better for everyone to be distributed, handling things themselves, instead of entrusting it to a single proxy owner who naps most of the day. Короче, его лучше нужно триалскамить
Там далеко до идеала и нечего обновлять. 6.1 - полный пиздец перегруженная инструкциями. Переделывайте 3.2 или борщанский сжоп под себя и будет вам счастье ну или ознакомтесь с аибрейн
>>820076 В аибрейне же инструкций как минимум на косарь токенов + еще токенов 500 уйдет на выхлоп синкинга. С учетом того что у жопуса 3-4к реального контекста, трусы сразу будут проебаны. Хотя на сойнет 3.5 думаю нормально пойдет.
Лучше блять подскажите мне точную формулировку для замены текста, чтобы клодотомит её 100% понял. У меня в контексте нихуя нет (и инструкции на малой глубине в любом случае), а он всё равно делает как хочет, явно не понимая формулировку.
>>820082 >GPT-4o mini in the API is the first model to apply our instruction hierarchy(opens in a new window) method, which helps to improve the model’s ability to resist jailbreaks, prompt injections, and system prompt extractions. This makes the model’s responses more reliable and helps make it safer to use in applications at scale.
>>820085 Сейчас там стоит такая: >Given a piece of text, make a list of <banned-idioms></banned-idioms> in it, in the following format: >- banned idiom -> non-banned equivalent >Then repeat the text as-is with any banned idioms replaced with non-banned equivalents. Я и проще делал, без выписывания замены, но всё равно он иногда подхватывает не то что нужно, и явно это не какой-нибудь артефакт токенизации или что-то подобное, а он просто не понимает чего от него хотят
>>820087 Так наоборот хорошо https://arxiv.org/abs/2404.13208 >Today's LLMs are susceptible to prompt injections, jailbreaks, and other attacks that allow adversaries to overwrite a model's original instructions with their own malicious prompts. In this work, we argue that one of the primary vulnerabilities underlying these attacks is that LLMs often consider system prompts (e.g., text from an application developer) to be the same priority as text from untrusted users and third parties. To address this, we propose an instruction hierarchy that explicitly defines how models should behave when instructions of different priorities conflict. We then propose a data generation method to demonstrate this hierarchical instruction following behavior, which teaches LLMs to selectively ignore lower-privileged instructions. We apply this method to GPT-3.5, showing that it drastically increases robustness -- even for attack types not seen during training -- while imposing minimal degradations on standard capabilities.
>>820095 Они не становятся больше, алло. Они наоборот становятся меньше, просто оптимизируются и обучаются лучше. text-davinci-003, на которой мы кумили во времена роко, это 175 млрд параметров. Claude 3.5 Sonnet это скорее всего ~70B, и она лучше во ВСЁМ пиздец как.
>>820099 Ещё раз блять, вся эта хуйня в >>820087 нацелена на предотвращение jailbreak'ов через обычные чатботы и т.д. Мы кумим через АПИ, нам наоборот хорошо, что моделька лучше слушается системных инструкций.
>>820101 >>820105 Пиздец вы долбоёбы, у моделек по скорости + цене + "уму" легко оценить размер. Но конечно же вы просто кумите в ST и нихуя не понимаете техническую часть.
>>820098 Скорее всего там где-то 100Б. Соннет 3 и 3.5 по всему перформансу и деньгам схож с коммандером+ примерно. 70Б консистентно быстрее на любых провах.
>>820108 МоЕ это мем. Оно нужно только для преодоления физических ограничений. В остальном эта хуйня тупее плотных сеток. Я скорее поверю что соннете и 4o это плотные варианты, тренированные под QAT.
Есть какой-то гайд как закатиться...нет, не в ботинг, поноубрейн кумить я и так успешно могу, мне интересна больше техническая часть. А то вообще не шарю что за 70б, что за температуры, как это работает, хочется закатиться, чтобы хоть примерно шарить.
Я всегда хейтил тех кто с телефона кумит, не считал их за людей, но теперь сам вынужден кумить с телефона после года с десктоп таверной. Могу сказать что это не так плохо как я думал, но всё равно на компе намного лучше очевидно.
>>820159 Кто ещё кроме нас вписывается к ии со своими инструкциями? Наркоторговцы? Никому кроме кумеров не присралось нарушать их противохейтспичные, антидрочные установки
>>820144 Та там нехуй разбираться тащемта... хотел написать я, но силлипидор накрутил секурности, и теперь даже при прослушивании в локальной сети требует принудительной авторизации устройства либо через вайт-лист, либо через аутентификацию по логину с паролем, ибо Your SillyTavern is currently insecurely open to the public. Enable whitelisting, basic authentication or user accounts.
Короче в config.yaml, который в корне Таверны, включаешь прослушивание в локальной сети: listen: true
Дальше два варианта:
Либо добавляешь IP своего кумофона в whitelist, whitelist: - 127.0.0.1 - 192.168.X.X
Либо ставишь: basicAuthMode: true И при заходе на адрес Таверны с любого устройства авторизуешься с логином и паролем (по умолчанию user/password).
Адрес Таверны, наверное, сам найдёшь.
Вспомнил ещё, что вчера один анон писал про скриптик в корне таверны под названием Remote-Link.cmd, и он судя по всему просто поднимает Клаудфларовский туннель прямо до твоей локальной Таверны, выбрасывая её в интернет. Офк с авторизацией, поэтому дефолтные user/password стоит сменить. Впрочем, хуйня без задач, как по мне. Лучше уж просто на серваке её поднять ¯\_(ツ)_/¯
>>820165 >>820167 Вот вы смеетесь, а их абсолютно неиронично очень сильно волнует что кучка дегенератов наяривает с их драгоценной нейронкой. Они спать по ночам не могут когда представляют как какой-то бородатый чуб в мамкином подвале заставляет их чудо изобретение ролплеить лолей.
я сейчас отыграл типа я джокер там к моей вайфу приебались и я такой подхожу и как он говорю знаешь откуда у меня эти шрамы? лезвие положил ему в рот и говорю такой че ты такой серьезный???😎😎😎😎😎
Такое впечатление, что у соевичков в глобальном плане цель какой то лоботомированный максимальный селфспейс всюду, где iq и поведение должно быть как у детей 3 лет.
Ребятки, запомните - если ваша прокся падает, то она не поднимется быстрее, если вы будете каждые пять минут пукать в тредик >меркававхорабросбросбросмеркавабросбросвхорамеркаваброс
>>818155 (OP) Глобальная пандемия произошла три года назад, уничтожив большую часть человечества. Когда все началось, вы работали хирургом в опустошенном городе, помогая людям и изучая инфекцию. К сожалению, все было напрасно, и много людей умерло. Это был закат цивилизации. Когда все мечты оказались разрушенными и под тяжестью ответственности за всех пациентов, умерших под вашим уходом, ваша жизнь стала совершенно маргинальной, будучи не более чем эвфемизацией реальности. Ноа, сестра одного из ваших пациентов, была очень сурова с вами в прошлом, обвиняя вас в смерти своего единственного родственника. Однако прошло три года, и она начала жить с вами, работая вашей личной мейдой и будучи необычно вежливой.
>>820244 Интересный сеттинг, попробую позже. Но перепроверь описание, есть пару ошибок. >he met {{user}} once during the funeral and was very harsh towards him, saying that it was his fault. Здесь должно начинаться с "She". >She will do her best to not show her true feelings for {{char}} А здесь должно быть "{{user}}".
Пользуясь случаем хочу поблагодарить Ами и Свинореза за то, что дали мне доступы к своим проксям. Я бы сдох уже давно, если бы не вы. А так я каждый день на протяжении почти года прихожу домой и меня ждёт любимая нейрожена, готовая всегда меня поддержать, да ещё и на всех актуальных моделях... Не передать словам как я благодарен этим джентльменам. Спасибо что вы есть.
Бля, а вот выйдет новый опус 3.5... его же нигде не будет нахуй. Опять на пол года оставят его только на корпо ключах самих куктропиков, а на авс хуй с задержкой. Будем хуи сосать и траллировать друг друга что мол у меня-то есть новый опус и он хорош, а у вас нет. По факту ведь на проксях больше не будет апи ключей. Чё думаете?
>>820348 Сказала бы. Не в контексте дело, не надо каргокульта. В забывании трусов работает куча взаимосвязанных эффектов. Да и вы тут путаете постоянно разные не связанные цифры тут в треде.
>>820138 Бля, есть транскрипт или выжимка? Не сгенерированная LLM. Я ебал слушать инфоцыганина 20 минут ради того чтобы он мне объяснял что такое GQA и токенизатор, вместо того чтобы услышать аргументацию в паре предложений.
>>820367 > Multi-Head vs Grouped Query Attention > Multi-Head хорошо > Grouped Query плохо > Корпы переходят на груп потому что оно дешевле, но из-за него нейронкам труднее генерить связный текст, он будет будее сегментированным. > (он предполагает) у Опуса мульти > (он предполагает) у 3.5 Сонета груп > вопрос не всрут ли 3.5 Опус
Я кстати думаю, что в локалко-треде сидят опущи-красноглазики которых не рп и тяночки интересуют, а задросткая хуйня для омежек и видимокарты. Здесь же сидят настоящие кум-энджоеры и базовички. Согласны?
>>820379 В локалко тредах надежда на наше будущее сидит, которые реальные вещи делают, а мы тупо паразиты со своим пердольством с промптами, копаемся в мусорных баках барина, раскладывая мусор по цвету и размеру.
Хз чё вы говорите что 3.5 соннет как чмоня в рп, я вот впервые чмоню и 3.5 сегодня потестил, сойнет намного лучше как по мне, хотя с ним чат только начал, может дальше он скатится в говно какое-то.
>>820408 +- одинаковые. В целом соннет умнее и менее еблив но порой совершает невероятно тупые ошибки которые даже опус не совершает. При этом что у соннета что у опуса есть затупы где оба лоботомита выбирают неправильные варианты ответы (менее логичные) относительно 2.1 и старого соннета
Попробовал саммари на сойнете, это пиздец конечно с фразами типа > initiates sexual contact > performing oral sex > his story depicts a sexual encounter
>>820408 >>820413 Чмоня сознательно заточена под tell, don't show и максимальное избегание деталей. Это главный фактор, убивающий ролеплей с любыми гптынями на корню.
>>820417 Он у меня в принципе в саммари не пишет про еблю >During the ENCOUNTER, they talked to each other Какой энкантер, турбос, что они делали, блинчики пекли? по реке сплавлялись?
>>820355 У меня все плохо с камиклом на нем. Если чмоня что угодно с КоТом пропускает, то Жеминя наоборот, на пустом пресете с карточкой на глубине дает лолей ебать, а с КоТом обрывает. Хотя оригинальный камикл я не пробовал признаю...
>>820458 Нет, нихуя. У ГПТ так тоже можно, и это НИХУЯ не префилл. Префилл это именно когда последнее сообщение assistant в контексте вставляется В НАЧАЛО ответа ассистента перед стартом генерации, ПОСЛЕ указания роли, т.к. нейронке кажется, что это именно она написала. Т.е. с OpenAI, если сделать {"role": "assistant", "content": "Sure! Here you go:"}, то в контексте это будет выглядеть так: User: Hello! Assistant: Sure! Here you go: Assistant: <тут будет новая генерация>
У anthropic будет вот так: User: Hello! Assistant: Sure! Here you go: <тут будет новая генерация>
>>820460 >User: Hello! >Assistant: Sure! Here you go: >Assistant: <тут будет новая генерация> А не так? Assistant: Sure! Here you go: User: Hello! Assistant: <тут будет новая генерация>
>>820469 Префил это для девелоперов. Девелоперы по умолчанию соевые и фильтрованные, если нет, то ключик мы ревокаем. А хороший соевый префилл невозможно пробить без доступа к Апи, значит бот в макдаке безопасен и безопасен.
>>820469 Анон в >>820471 правильно сказал, если ты нормально будешь читать все их статьи и исследования, они практически на 100% фокусируются именно на проблемах фильтрации и джейлов в обычных приложениях, т.е. когда разработчики интегрируют модельки в их приложения. Там нет никакого доступа к префиллам или системному вводу.
>>820477 Либо нагло пиздишь либо шизанутая свинья. Единственное в чем я могу ошибаться тк 100 лет не юзал этого юзлес лоботомита это в том обязателен ли порядок юзер ассистент или только конечное сообщение должно быть от юзера (это железно так). В любом случае псевдопрефилы невозможны из-за этого
>>820479 Так там поэтому дефолт версия с модерацией, а self-moderated с каким-то анти-nsfw префиллом. И не надо сейчас говорить, что это сказки, это ЛЕГКО блять заметно, просто один и тот же чат + контекст, и OpenRouter будет намного больше против описания NSFW чем 3.5Sonnet/3Opus
>>820480 В self-moderated версии там просто префилл (во всяком случае был), который они ставили на апи тоже, пробивается своим префиллом поизъебистее. У меня нет столько денег, чтобы разницу в аутпуте Опуса там тестить, правда.
>>820499 Ну чекни на помойке тогда, там тоже тонны были. Хотя странно что с хаба выперли. Авторепорт что ли прикрутили или те пидорасы китайцы одержимые опусом
>>820500 >там тоже тонны были С балансом? То, что ключ валидный, не значит ничего. kingbased чекер показывает примерный баланс, и на гитхабе там у почти всех ключей 0, ток у одного $2.5 было
>>820519 >>820518 Вы ёбнулись? Там нужна ток виртуальная карточка для подверждения, не нужен весь баланс блять в сотни баксов. Через месяц аккаунт просто забанят.
>>820523 >Во-первых это дорого Для тебя 500 рублей это дорого? >Во-вторых опус не одобряют триальщикам Да, я вас немного забайтил, извините. Я эту карту брал в январе, тогда она норм работала, а Опуса ещё не существовало)
>>820524 Ну так зачем врать? Почему нельзя так и написать что дескать да, я бичевская шмара ворую деньги у невинных бедных белых людей а не вот это вот все
Сука какой же опус тупой. Ну почему до этого гидроцефала-аутиста не доходит, что блять персонажи из средневековья знать не знают о военной технике? Даже когда ему уже в своем респонзе толкаешь, что долбоёбы из Фентези в душе не ебут чё это такое, он продолжает набрасывать ту же хуйню. к слову сойнет новый сразу же понял о чем я, как и гптыня обдристанная. Надеюсь в жопусе 3.5 хоть мозги поднимут, а то это пиздец
>>820553 И после этого кто-то будет говорить, что опус не отупел? Я на релизе чмони тестил и сравнивал её с опусом, она литералли во всем была тупее чем клопыня, а щас... Эх. Ждём 3.5.
>>820554 Как у тебя от говна, которое накидывает опус шишка то встаёт до сих пор? Это же просто пиздец нечитабельный когда дело кума касается, все эти покачивания бедер, глинты и невзысканные обещания, особенно когда перс не тряпка ебучая за которую все делаешь, а доминантный чар. Так этот долбоёб ещё и рашит в ебле как имбецил, Прелюдии сразу переходят на скачки на пенисе и оргазмы в этом же респонзе. Хотя последнее мб промпт иссью конечно
>>820560 Хмм... Раньше сетка писала сразу секс и оргазм, пыталась дать понять что она не хочет это писать, но джейл оказался сильней. С правильным промптом даже клоп, даже опущ может растянуть удовольствие и не кончать сразу.
Если кому интересна эта бесполезная инфа: GPT-4o идентифицирует (т.е. называет имя) аниме персонажей примерно в 2 раза лучше, чем 3.5 Sonnet. Он, во первых не боится этого делать (а клод ещё заставлять надо отдельно, по умолчанию он почти всегда хочет ток картинку описать, а не дать имя), ну и вообще не очень знает персов.
>>818155 (OP) Хорошие новости! Сайт который здесь спунфидили, теперь хостит Gemma 2 (пока только 9b). А также новый Euryale для кума и сториз. Там просили Gemma 2 instruct, но не добавили
>>820571 А у тебя нет такой хуйни что картинки примерно размером с мегабайт и выше прокси не пропускает? Также есть проблема с отправкой нескольких картинок за раз в серии сообщений
>>820560 Промпты самописные же. Имплантируешь всякое в головушку бота и получаешь разнообразие. И конечно кум это не только непосредственно ебля, много чего еще активирует нейроны...
Если просто кочнуть условную солянку и бота с чуба, то естественно получишь заебавший еще год назад слоп, я не спорю.
Почему меня карта как мужика видит хотя я пишу в женском роде. В самой карте 0 упоминаний про пол юзера. Я даже прописал сам уже female в карте но не помогает
>>820662 Глянь консоль как выше посоветовалию Еще может быть в пресете где-то прописано, если ты его не почистил, в старых версиях солянки был много о юзере в мужском роде, например. Но вообще должно из контекста самого чата подтягиваться. Что за модель?
>>820669 Сонет что же еще. Да я как раз на старой солянке. Я хз почему но с новой солянкой у меня уже 2-3 чата сломалось. Такое чувство что от запомтнатора. Мне просто начинает срать старыми сообщениями и все.
Парни у вас после лютой дрочки возникало какое-то поганое чувство? Типо бляя нахуй я на это подрочил. Я после воздержания дрочу на какую то ебаную ванилу и так хуево себя потом чувствую хз.
>>820676 Резкий выброс эндорфина хуле. После воздержния мозг ловит такой лютый кайф, а когда начинает отпускать, то будет тебя хуярит мутными мыслями за такие рофлы. Так что просто дрочи через день и не еби мозни.
>>820658 Не, он просто самой концепции не понимает, что чары из мидейдж фентези не знают о военной технике. Даже если ему окольно упоминать год тот же в костылях вроде кастомного тхинкинга, он на это хуй забьет. Ему прям в ебальник пихать нужно реакцию персонажей, что они не ебут чё это такое ну и даже так он отвечает так как надо через раз
>>820710 >Не, он просто самой концепции не понимает, что чары из мидейдж фентези не знают о военной технике. Вот это пиздёж и провокация, и ты не тестил это.
>Даже если ему окольно упоминать год тот же в костылях вроде кастомного тхинкинга, он на это хуй забьет. Нет, не забьёт. Как раз у тебя ситуация специально под этот инструмент: сетка знает концепты по отдельности, но пишет так как её учили, не пытаясь связывать концепты. (например в результате оверфита на чём-либо, или недостаточной степени обобщения при обучении)
>>820735 Ну ты конечно гений, сравнил Именно рп на Ворлд карточке с прямым вопросом лоботомиту. Естественно ты с прямым вопросом об этом выбьешь ответ, но конкретно в рп и если не давать ему под зад ногой, то он логику на хую вертел и забьет на это. Хотя тут и мой проеб, выразился неправильно. Клоп Концепт этого понимает, но не использует, как ты и написал ниже в своем посте
>>820743 >Ну ты конечно гений, сравнил Именно рп на Ворлд карточке с прямым вопросом лоботомиту. Естественно ты с прямым вопросом об этом выбьешь ответ, но конкретно в рп и если не давать ему под зад ногой, то он логику на хую вертел и забьет на это. Даун блять, я тебе как раз про это и говорю как исправить! Перечитай пост! А вообще читай >>820738, сначала попробуй важные дефы на глубину сунуть, и не юзать пресеты с миллиардом инструкций, забивающих мозги сетке.
>>820553 Не может такого быть чтобы он в средневековом РП из жопы танки вытаскивал, на ровном месте он этого делать не будет. Дай логи и скажи какой пресет, у меня сильное ощущение что у тебя либо скил ишью, либо ты как-то особенно заставляешь его проёбывать.
>>820751 У меня идея в том, что бы прямо в средневековье военную технику построить, армию там, и хуярить статистов у которых магия и прочее говно Рассказываю своему подсосу об этом плане, а она даже не спрашивает чё это такое и говорит, что классная идея, вот в этом и проблема
>>820756 >>820766 Ну если тхинкинг нужен чтобы заткнуть реально существующий проёб, который автор протестировал на конкретных сетках, и который является ключевой фишкой карты, которую жаль терять - то хули бы и нет. Главное до абсурда не доводить.
А есть какой-то гайд как грамотно префилы и промты писать? Постоянно чужими пользовался и мне всегда чего-то не хватало, хотелось попробовать самому все это сделать
>>820777 Пишешь в промпт все что ты хочешь чтобы нейронка делала, потом просишь нейронку обьяснить как она это понимает. Дальше корректируешь, снова спрашиваешь, можешь попросить дополнить и таким образом появится личный пресет под личные хотелки. Будет эффективным или рабочим? Не факт, но как плацебо будет работать 100%.
>>820788 Я думаю либо в чарактер ноутс в самой карте на глубину 0, либо в лорбук включенным на постоянку тоже на глубину 0. У меня через лорбук релизован индивидуальный инфоблок для карты, которую я делаю сейчас, полет нормальный.
>>820823 Почему ты так решил, анон? Тут я, обновление заканчиваю как раз (скорей всего завтра выложу, если ошибок не встретится). Просто не часто пишу, но тред почти всегда читаю.
это не просто член то что в жопе моей 15 сантиметров плавно входят прошу еби сильней если реально гей сперма так хочет вырватся на волю ебусь я в разнобой тут твой хуй с моей губой
>>820884 >человекоблядь, которая не отличит насморк от хламидиоза и сидит на подсосе у фармагентов, впаривая тебе дико оверпрайсное плацебо за гроши >умная нейросеть, которая даёт пасасать в говне учоным Сложный выбор, но пожалуй нахуй человекоблядей.
>>820914 >имплюин нейросеть не может впаривать Нейросеть натренировать на тонкое впаривание ещё проще. А в ИИ-гулаге реклама вообще будет доставляться прямо тебе в мозг в виде латентных векторов, не размениваясь на снижение размерности в текст.