В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст, бугуртим с кривейшего тормозного говна и обоссываем калотарок.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
>>1179083 >Анон выше кинул ссылку с джейлбрейком ломающим любые модели одним промптом. О, Немотрон новый попробовать надо, а то он никому не нужен для тюнов, а модель вроде умная.
У меня framepack пытается использовать 30 гб врам? На гитхабе есть такая проблема, но никто решения не дал. На ютубе у всех просто из коробки нормально работает на 8 гб. У меня 32 гига оперы и файл подкачки 32.
Я студентка матфакультета, специализируюсь на прикладной математике и работаю в data science. В последние пару лет плотно занимаюсь генеративными моделями, в основном LLM и diffusion-системами. Проекты есть, практика есть, опыт растёт. Но сейчас пришёл момент, когда хочется определить более устойчивое направление для серьёзных исследований.
Хайп вокруг генеративок не утихает, но архитектуры генеративных моделей имеют пока что не исправимые недостатки. Поэтому я начала смотреть в сторону менее популярных, но, возможно, более значимых в будущем направлений.
Как думаете какие виды искуственного интеллекта смогут заменить превычные нам за эти 4 года трансформеро зависимые llm?
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст, бугуртим с кривейшего тормозного говна и обоссываем калотарок.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
>>1170944 в таверне есть "имена как стоп строки", оно в промт дописывает стоп строку и на этапе ответа модель сама прерывается ещё на этапе выдачи токенов. Ну и безжоп есть в мануалах в шапке треда. Качаешь расширение и скрипты, она сделают тебе кРаСиВо.
Аноны, милые, помогите допилить вот эту фейк-апишку https://github.com/mem0ai/grok3-api под глупую таверну. Я поковырялся, из коробки даже базовые запросы не работают пока что. Я не красноглазик, так что мб мой косяк.
>>1169026 > Настрой КоТ на основе внешнего рандома (например рандомвордс), чтобы задать нужный уровень рандомности и вписываемости ее в сцену да это все в теории, может в каких-то форматах где один ход всегда примерно одинаковый. а если темп меняется, и я хочу просто поговорить с чаром в какой-то момент например, то что это будет с этим рандомом сам понимаешь. краз
>>1169029 Да вроде и на 100к норм работала. Я как раз сумарайз делал ужав эти 100к в 8к. И мне кажеться она теперь на этот сумарайз сильно отвлекаеться игноря остальное.
>>1157635 (OP) В телеге иногда подборкой слитые книги/гайды по программированию и в том числе по нейросеткам есть.Там часть по просьбам,а часть как делать нейросетки.Но более менее толкового в одно лицо запаришсы обучать...
>>1166762 >на комфи сидят только дегенераты. И те, кто терпит это говно, чтобы генерировать видео, аудио, 3д, сд3 и хрома. сд-флакс отлично генерится на фордже.
Как кто то сидит в таверне после смерти свинореза? Я не верю что кому то нравится читать безжизненный слоп гемини литери худшая сетка, одни негативные эмоции. Может ньюфажки ещё схавают, но тредовички...
Почему при апскейле уродуется картинка? пробовал разные апскейлеры, уродуется одинаково. 0.4 порог, но апскейл уже тухлый какой-то получается. это может зависеть от количества слов в промте?
Короче сетки эти ваши тупые пиздец. По сюжету моего рп два долбаеба сговариваются подсыпать постояльцу снотворное в сок, чтобы спиздить у него кое-какие важные бумаги. Но все идет не по плану. Одна тян, которая на ужине сидит рядом с постояльцем, обжигает язык супом, и он любезно предлагает ей свой сок. Два долбоеба при этом сидят с ними за одним столом. Тян подносит стакан к губам и в этот момент, когда от долбаебов должна последовать реакция (ну там, шок, недоумение, нервные переглядывания), не происходит нихуя. Они тупо сидят дальше и продолжают ждать, когда постоялец выпьет свой сок. Хотя тян его уже выпила. Я проверил со всеми сеткам, ни одна не доперла. Клодик только пукнул чето вроде ай бля, все пошло не плану, но гореотравители почему-то при этом ржали, как будто им норм и так и задумано. Как вы отыгрываете с этим говном не понимаю, если они не могут сориентироваться даже в таком примитивном сюжетном повороте.