Котаны, а есть инфа как Gemma3 QAT в таверне настраивать? Скочал 16гб версию, вроде супер генерит, даже без цензур и китайского, лучше дипсика всяко, но что-то тут рентри по ней не видел совсем.
Моча, это перенос треда в релевантную доску х2
Аноним01/04/25 Втр 19:57:07№1125356Ответ
Новый апдейт чат гпт стал последним гвоздем в гроб хуйдожников. Я прям эйфорию ловлю, читая визги мазняскота. Самые тупые надменные хуесосы отправятся на мороз развозить хрючево. Вселенная справедливость всё-таки существует. Как же это охуенно. Господи, благослови Сэма Альтмана!
>>1126594 Конезаводчики - это предприниматели, а не рабочие. Разве только ты имеешь ввиду всяких ветеринаров и зоотехников, но их работодатели не притесняли, только сами банкротились. И, кстати, не забывай что замена лошадей автомобилями была значительно более долгим процессом.
>>1126594 У конезаводчиков все мегаохуенно, приличная лошадь стоит намного больше двачера. У художников тоже все будет охуенно, потому что тех кто освоит дрочку кубов в условиях когда изо всех дыр орут про нейросети будет немного, и стоить их работа будет дохрена, а для большинства бытовых придется обходится заебавшей всех убогой бездушной нейродрисней.
Вот кому реально пиздец это программистишки, потому что всем похуй что внутри у экзешника если он выполняет свою функцию. Программирование через десяток лет будет выглядеть так - вытянул в редакторе куб, напечатал внутри что этот куб должен делать, а затем протянул лапшу от него к другому кубу, а ллм сгенерировала код. Языков программирования вообще как таковых не будет, и скобкоебство будет смешной архаичной хуйней типа телефонисток.
Промпты и их ценность
Аноним01/04/25 Втр 18:15:22№1125100Ответ
Как художник и дизайнер, вовсю работающий с АИ, заметил что держу промпты как драгоценности. Когда вскрыл промпт который дает то что мне нужно, радуюсь и сохраняю его, ощущая будто открыл абилку в древе навыков в РПГ-игре. Начал разделять промпты на категории.
Начал понимать почему аишники постоянно молчат как рыбы, никогда не показывают промпты, а некоторые индивиди промпты даже продают лол. Трясутся над промптами, будто это их сокровище и если всем оно станет доступно то они их "потеряют".
>>1125100 (OP) Есть небольшой лайфхак загружаешь 1-2 фото в гпт и просишь сформулировать промпт, на который ты сгенерируешь максимально похожую картинку
>>1125100 (OP) <Как художник и дизайнер, вовсю работающий с АИ, заметил что держу промпты как драгоценности. Сам спросил - сам ответил. Это у рисовак принято гореть, когда их кто-то копирует. В общем, даже если ты начал использовать нейронки, ментально ты остался рисовакой. Плюс тут работают древние инстинкты охотников-собирателей ("О, свежая добыча!", и неважно, какого типа тут добыча), + ленивая жопа мозг, который любит экономить ресурсы и не перетруждаться лишний раз, поэтому реюз старых промптов вместо создания новых ему по душе.
>>1125100 (OP) Промпты ничего не стоят, чел. У всех разные чекпойнты-настройки-проги для генерации-лоры-сэмплеры. Половина промптов или больше от этого даже сразу не работает. Подбирать же все как у тебя редко кто будет, это заебы времени. Отсюда нет смысла скрывать промпты. К тому же на многих промптах надо генерить по 200-500 картинок, чтобы получить нормальный результат, обычно с твоим промптом никто столько ебаться не будет. Молчат о промптах только нубы, заметил тендецию кто раньше скрывал промпты в 2022-2023м, у них в профилях теперь все с промптами стало. В целом шарить промпты хорошо, потому что будет больше удачных картинок на сайтах от разных попробовавших, и потом тебе же проще будет что-то удачное для генерации находить, когда вдохновение иссякает, сам ты столько всего не перепробуешь.
Локальные языковые модели (LLM): LLaMA, Gemma, DeepSeek и прочие №119 /llama/
Аноним03/04/25 Чтв 00:19:46№1127590Ответ
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст, бугуртим с кривейшего тормозного говна и обоссываем калотарок.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
>>1134335 >хотя полагаю, что с увеличением контекста скорость немножечко так уменьшится. Эт конечно, я про скорости после системного промпта и первого сообщения сетки, тоесть на 300-600 токенах 2.5 неюзабельно, но иногда запускаю qwq если комп не нужен и можно отойти, минут за 10 родит ответ кек
>>1134310 > А что они могут сказать-то? Не так давно весь тред был в "русских 12б моделях". > Если две 3060, то жить можно. Если такие есть то интересна скорость, генерация + контекст. >>1134316 > на обычной ддр4 под 60 гб/с Это не обычная а уже из самых быстрых типа 4300.
>>1134794 >>1134795 Челы из американских ии корпораций написали стаью. Оформленна онаохуительно. Написано пиздец захватывающе. Они считают, что в 27 году ии будет достаточно умён и неподконтролен. Там скандалы итриги расследования.
всем сап,я максимально новичок в этой теме. (запускал на локалке,но 1660s плохо тянет) Сейчас рпшу через модели с опенроутера. В чем суть - хочу знать ,какая модель (из бесплатных) лучше? мои требования - нормальный адекватный рп и "кум", + NSFL. в данный момент использую DeepSeek v3 chat 0324 , это нормальная модель? Или лучше v3 base? или я вообще долбаеб, выбрал хуйню ?
Локальные языковые модели (LLM): LLaMA, Gemma, DeepSeek и прочие №118 /llama/
Аноним28/03/25 Птн 22:04:52№1118220Ответ
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст, бугуртим с кривейшего тормозного говна и обоссываем калотарок.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
>>1127573 > тогда их модели было мягко сказать каловыми. Вполне возможно. Год назад я темой не интересовался, но когда вкатывался в ноябре - все топовые на тот момент (и до сих пор) Мистрали базируются на Cydonia.
> Вообще да, но не с той скоростью, которую выдает обниморда. Модельку на тридцать гигов качать часа полтора-два, если не больше. Почему 30 гигов? Тебе железа хватает, чтобы запустить Q8? С таким железом грех не следить за локалочками. По скорости - хз что ты имеешь ввиду, через huggingface-cli никогда не ловил боттлнек.
> Оригинал тестил или тюн какой-то? Если оригинал, то как там с пробивом сои? Snowdrop тестил, про который и писал. Оригинал для РП не годится совсем, там датасет для этого не предназначен вовсе.
>>1127445 >Врама? Чего же ещё? >>1127474 >А редрайверов на платах с Е (и не только их) как-то не наблюдается. Прямо в нашей беседе на схеме >>1125903 Иначе до нижнего слота не дотянуть. >Не держат, там один и тот же текстолит. Может допуски разные, слои меди, ещё чего. Может в безъешку идёт отбраковка, лол. >Значит все ок. Что за за железки и что за райзеры? 3090, Asrock B650E Steel Legend, райзеры Oculink пикрил. >чем 4.0 х8 А на нём есть подтверждённые проблемы? >Это один и тот же, не? Да вроде нет, чел бы не жаловался, если бы его не игнорили ))
>>1118275 почему только миядзаки есть куча других стилей, вот если бы генерил в стиле D охотник на вампиров или как у Хосоды или как у Синкая. Куча крутых стилей имеется.
>>1119274 кстати увеличение производительности не привило ни к 4 часовому рабочему дню, ни к 4 дневной неделе, в норм странах есть попытки но не в блинолопатии, где народ по 12 часов смены фигачит или на вахты ездит. Появилась только мусорная занятость вроде курьеров. Как-то человечество справлялось тысячи лет, а теперь не могут спуститься в соседнюю говнерочку за продуктами.
AI Chatbot General № 648 /aicg/
Аноним02/04/25 Срд 01:09:49№1125923Ответ
Подскажите нуфаку-дрочеру где я обосрался? В силлитаверне никак не подхватывается описание персонажа и выдает только какую-то шизофазию, в которой модель общается сама с собой на основе первого контекстного сообщения. При этом персону он видит, но описание персонажей нет. Фиксится только если копирую и вставляю описание персонажа прямо в чат. Есть подозрения что лор бук так же нихуя не видит.
>>1128014 > ибо гайд явно для знающих. Абсолютно нет, даже близко. Я вообще не шарю в этих ваших питонах, из знаний программирования - школьный паскаль и плагины для Морровинда, но все гайды за всю историю нейрокума были написаны настолько просто и детально, что там надо быть клиническим дебилом, чтобы не разобраться
Общаемся с самым продвинутым ИИ самой продвинутой текстовой моделью из доступных. Горим с ограничения бесплатного доступа к свежевыпущенному новому поколению GPT-4.
Для общения с ChatGPT-4o-mini регистрация больше не нужна! Просто заходим на https://chatgpt.com/ (через VPN само собой) и общаемся. Но не все аноны подтверждают это, зависимости найдено не было.
Доступ к GPT-4o уже начали раздавать! Бесплатно! Новая версия умеет в картинки, а так же в голос, видео и прочее, то есть омнимодальна (но доступа к видео пока нет). Регистрируйтесь по инструкции, желательно использовать почту майкрософт или гугл, и ждите появления окна с приглашением в новую версию (гарантий никаких, обновление раскатывают веерно по желанию левой пятки). Помните, доступ к ней бесплатным пользователям не гарантирован, в периоды высокой нагрузки вам светит только GPT-3.5-turbo. Текущую модель для бесплатных пользователей можно посмотреть снизу сообщения по наведению на звёздочку, пикрилы все в тему.
Гайд по регистрации из России: 1. Установи VPN, например расширение FreeVPN под свой любимый браузер и включи его. 2. Возьми нормальную почту. Адреса со многих сервисов временной почты блокируются. Отбитые могут использовать почту в RU зоне, она прекрасно работает. 3. Зайди на https://chatgpt.com/ и начни регистрацию. Ссылку активации с почты запускай только со включенным VPN. 4. Когда попросят указать номер мобильного, пиздуй на sms-activate.org или 5sim.biz (дешевле) и в строку выбора услуг вбей openai. Для разового получения смс для регистрации тебе хватит индийского или польского номера за 7 - 10 рублей (информация нуждается в перепроверке, есть инфа, что все номера в индии уже зарегали). Пользоваться Индонезией и странами под санкциями не рекомендуется. 5. Начинай пользоваться ChatGPT. 6. ??? 7. PROFIT!
VPN не отключаем, все заходы осуществляем с ним. Соответствие страны VPN, почты и номера не обязательно, но желательно для тех, кому доступ критически нужен, например для работы.
Для ленивых есть боты в телеге, 3 сорта: 0. Боты без истории сообщений. Каждое сообщение отправляется изолировано, диалог с ИИ невозможен, проёбывается 95% возможностей ИИ 1. Общая история на всех пользователей, говно даже хуже, чем выше 2. Приватная история на каждого пользователя, может реагировать на команды по изменению поведения и прочее. Говно, ибо платно, а бесплатный лимит или маленький, или его нет совсем.
Чат помнит историю в пределах контекста, это 4к токенов для GPT 3.5 (до 16к в апи) и 8к для новой GPT-4 (128к в версии GPT-4-Turbo). Посчитать свои токены можно здесь: https://platform.openai.com/tokenizer
Что может нейросеть: - писать тексты, выглядящие правдоподобно - решать некоторые простые задачки - писать код, который уже был написан
Что не может нейросеть: - писать тексты, содержащие только истину - решать сложные задачи - писать сложный код - захватывать мир - заходить на вебсайты (неактуально для 4 с плагинами, платим деньги и радуемся)
С последними обновлениями начинает всё чаще сопротивляться написанию NSFW историй и прочего запрещённого контента. Кумеры со всего мира в печали.
На сегодняшний день (дата создания треда) есть бесплатная версия на основе GPT-3.5 (и периодической раздачей GPT-4o во время низкой загрузки) и платная версия (20$/мес) с использованием следующего поколения — GPT-4. Платная версия ограничена 50 запросами в 3 часа, причем планируется увеличение ограничений. Доступ к плагинам открыли в бета-версии для платных пользователей. Оплатить подписку из России нельзя, ищите посредников на сайтах для оплаты онлайн игр и договаривайтесь там сами. Отважные могут попробовать разводил с авито, объявлений вагон, но аноны не проверяли.
Вышла версия 1.5. Лимит 400 кредитов в месяц (или 200 генераций по 33 секунды каждая) при условии ежедневного захода на сайт - 100 кредитов даются в месяц, и еще 10 кредитов даются ежедневно. Также можно фармить кредиты, выполняя специальные задания по оцениванию качества рандомных треков, это дает не больше 10 дополнительных кредитов в день. Для большего числа кредитов и более продвинутых фич типа инпэйнтинга или генерации с загруженного аудио нужно платить. Появилась возможность генерировать треки по 2 минуты 11 секунд, не больше 3 длинных треков (по 2 версии на каждый трек) в день на бесплатном тарифе.
Новинка, по качеству звука на уровне Суно или чуть выше. Пока БЕСПЛАТЕН и безлимитен, но халява скоро закончится. Может в русский, среднее понимание промпта, стили очень общие. Плюс в том, что скорость генерации очень высокая.
Это буквально первый проект который может генерировать песни по заданному тексту локально. Оригинальная версия генерирует 30-секундный отрывок за 5 минут на 4090. На данный момент качество музыки низкое по сравнению с Суно.
Еще сайты по генерации ИИ-музыки, в них тоже низкое качество звука и понимание промпта по сравнению с Суно, либо какие-то другие недостатки типа слишком долгого ожидания генерации или скудного набора жанров, но может кому-то зайдет, поэтому без описания:
Напомню мега-сайт для сочинения аутентичных англоязычных текстов для ИИ-музыки в стиле известных групп и артистов от Пинк Флойда до Эминема. Зайти можно только через Дискорд.
Абоба закинь еще писика а то трясусь что не хватит Ну и было бы приятно пощупать два точка пять если возможно правда в таверну еще не добавили так что не в приоритете
>>1118017 Мне штука приснилась там девочка была, но её всю жизнь по ошибке растили как мальчика, тип она прям целиком уверенна, она даже к девочке может попытаться подкатить и сеттинг такой чтоли средневековый или фентезийный Почему при этом отсутствие хуя её не волновало я без понятия, может та была фута