Котаны, а есть инфа как Gemma3 QAT в таверне настраивать? Скочал 16гб версию, вроде супер генерит, даже без цензур и китайского, лучше дипсика всяко, но что-то тут рентри по ней не видел совсем.
Моча, это перенос треда в релевантную доску х2
Аноним01/04/25 Втр 19:57:07№1125356Ответ
Новый апдейт чат гпт стал последним гвоздем в гроб хуйдожников. Я прям эйфорию ловлю, читая визги мазняскота. Самые тупые надменные хуесосы отправятся на мороз развозить хрючево. Вселенная справедливость всё-таки существует. Как же это охуенно. Господи, благослови Сэма Альтмана!
>>1126594 Конезаводчики - это предприниматели, а не рабочие. Разве только ты имеешь ввиду всяких ветеринаров и зоотехников, но их работодатели не притесняли, только сами банкротились. И, кстати, не забывай что замена лошадей автомобилями была значительно более долгим процессом.
>>1126594 У конезаводчиков все мегаохуенно, приличная лошадь стоит намного больше двачера. У художников тоже все будет охуенно, потому что тех кто освоит дрочку кубов в условиях когда изо всех дыр орут про нейросети будет немного, и стоить их работа будет дохрена, а для большинства бытовых придется обходится заебавшей всех убогой бездушной нейродрисней.
Вот кому реально пиздец это программистишки, потому что всем похуй что внутри у экзешника если он выполняет свою функцию. Программирование через десяток лет будет выглядеть так - вытянул в редакторе куб, напечатал внутри что этот куб должен делать, а затем протянул лапшу от него к другому кубу, а ллм сгенерировала код. Языков программирования вообще как таковых не будет, и скобкоебство будет смешной архаичной хуйней типа телефонисток.
Промпты и их ценность
Аноним01/04/25 Втр 18:15:22№1125100Ответ
Как художник и дизайнер, вовсю работающий с АИ, заметил что держу промпты как драгоценности. Когда вскрыл промпт который дает то что мне нужно, радуюсь и сохраняю его, ощущая будто открыл абилку в древе навыков в РПГ-игре. Начал разделять промпты на категории.
Начал понимать почему аишники постоянно молчат как рыбы, никогда не показывают промпты, а некоторые индивиди промпты даже продают лол. Трясутся над промптами, будто это их сокровище и если всем оно станет доступно то они их "потеряют".
>>1125100 (OP) Есть небольшой лайфхак загружаешь 1-2 фото в гпт и просишь сформулировать промпт, на который ты сгенерируешь максимально похожую картинку
>>1125100 (OP) <Как художник и дизайнер, вовсю работающий с АИ, заметил что держу промпты как драгоценности. Сам спросил - сам ответил. Это у рисовак принято гореть, когда их кто-то копирует. В общем, даже если ты начал использовать нейронки, ментально ты остался рисовакой. Плюс тут работают древние инстинкты охотников-собирателей ("О, свежая добыча!", и неважно, какого типа тут добыча), + ленивая жопа мозг, который любит экономить ресурсы и не перетруждаться лишний раз, поэтому реюз старых промптов вместо создания новых ему по душе.
>>1125100 (OP) Промпты ничего не стоят, чел. У всех разные чекпойнты-настройки-проги для генерации-лоры-сэмплеры. Половина промптов или больше от этого даже сразу не работает. Подбирать же все как у тебя редко кто будет, это заебы времени. Отсюда нет смысла скрывать промпты. К тому же на многих промптах надо генерить по 200-500 картинок, чтобы получить нормальный результат, обычно с твоим промптом никто столько ебаться не будет. Молчат о промптах только нубы, заметил тендецию кто раньше скрывал промпты в 2022-2023м, у них в профилях теперь все с промптами стало. В целом шарить промпты хорошо, потому что будет больше удачных картинок на сайтах от разных попробовавших, и потом тебе же проще будет что-то удачное для генерации находить, когда вдохновение иссякает, сам ты столько всего не перепробуешь.
Локальные языковые модели (LLM): LLaMA, Gemma, DeepSeek и прочие №119 /llama/
Аноним03/04/25 Чтв 00:19:46№1127590Ответ
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст, бугуртим с кривейшего тормозного говна и обоссываем калотарок.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
>>1134335 >хотя полагаю, что с увеличением контекста скорость немножечко так уменьшится. Эт конечно, я про скорости после системного промпта и первого сообщения сетки, тоесть на 300-600 токенах 2.5 неюзабельно, но иногда запускаю qwq если комп не нужен и можно отойти, минут за 10 родит ответ кек
>>1134310 > А что они могут сказать-то? Не так давно весь тред был в "русских 12б моделях". > Если две 3060, то жить можно. Если такие есть то интересна скорость, генерация + контекст. >>1134316 > на обычной ддр4 под 60 гб/с Это не обычная а уже из самых быстрых типа 4300.
Сап, двач! Любители Sillytavern, Character.ai, Chub и т.д, зацените открытую языковую модельку. 8B, имхо SOTA для креативного письма, RP на русском языке в своей весовой категории.
huggingface.co/secretmoon/YankaGPT-8B-v0.1
Не умеешь запускать LLM? Можешь бесплатно пообщаться в моем Telegram боте, он умеет жрать карточки с Chub в .json формате. @Yanka_GPT_bot. Твои диалоги с нейровайфу обязательно пойдут на новый крутой датасет!
>>1132626 Не оч понимаю, что тут не так. Попробуй вручную instruction template поставить, а не давать этой штуке извлекать из metadata. Точно помню, что токенайзер у YandexGPT для работы в чистом Python требует sentencepiece.
>>1134794 >>1134795 Челы из американских ии корпораций написали стаью. Оформленна онаохуительно. Написано пиздец захватывающе. Они считают, что в 27 году ии будет достаточно умён и неподконтролен. Там скандалы итриги расследования.
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст, бугуртим с кривейшего тормозного говна и обоссываем калотарок.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку.
>>1127573 > тогда их модели было мягко сказать каловыми. Вполне возможно. Год назад я темой не интересовался, но когда вкатывался в ноябре - все топовые на тот момент (и до сих пор) Мистрали базируются на Cydonia.
> Вообще да, но не с той скоростью, которую выдает обниморда. Модельку на тридцать гигов качать часа полтора-два, если не больше. Почему 30 гигов? Тебе железа хватает, чтобы запустить Q8? С таким железом грех не следить за локалочками. По скорости - хз что ты имеешь ввиду, через huggingface-cli никогда не ловил боттлнек.
> Оригинал тестил или тюн какой-то? Если оригинал, то как там с пробивом сои? Snowdrop тестил, про который и писал. Оригинал для РП не годится совсем, там датасет для этого не предназначен вовсе.
>>1127445 >Врама? Чего же ещё? >>1127474 >А редрайверов на платах с Е (и не только их) как-то не наблюдается. Прямо в нашей беседе на схеме >>1125903 Иначе до нижнего слота не дотянуть. >Не держат, там один и тот же текстолит. Может допуски разные, слои меди, ещё чего. Может в безъешку идёт отбраковка, лол. >Значит все ок. Что за за железки и что за райзеры? 3090, Asrock B650E Steel Legend, райзеры Oculink пикрил. >чем 4.0 х8 А на нём есть подтверждённые проблемы? >Это один и тот же, не? Да вроде нет, чел бы не жаловался, если бы его не игнорили ))
>>1118275 почему только миядзаки есть куча других стилей, вот если бы генерил в стиле D охотник на вампиров или как у Хосоды или как у Синкая. Куча крутых стилей имеется.
>>1119274 кстати увеличение производительности не привило ни к 4 часовому рабочему дню, ни к 4 дневной неделе, в норм странах есть попытки но не в блинолопатии, где народ по 12 часов смены фигачит или на вахты ездит. Появилась только мусорная занятость вроде курьеров. Как-то человечество справлялось тысячи лет, а теперь не могут спуститься в соседнюю говнерочку за продуктами.
AI Chatbot General № 648 /aicg/
Аноним02/04/25 Срд 01:09:49№1125923Ответ
Подскажите нуфаку-дрочеру где я обосрался? В силлитаверне никак не подхватывается описание персонажа и выдает только какую-то шизофазию, в которой модель общается сама с собой на основе первого контекстного сообщения. При этом персону он видит, но описание персонажей нет. Фиксится только если копирую и вставляю описание персонажа прямо в чат. Есть подозрения что лор бук так же нихуя не видит.
>>1128014 > ибо гайд явно для знающих. Абсолютно нет, даже близко. Я вообще не шарю в этих ваших питонах, из знаний программирования - школьный паскаль и плагины для Морровинда, но все гайды за всю историю нейрокума были написаны настолько просто и детально, что там надо быть клиническим дебилом, чтобы не разобраться
Сап двач, я художник. И это мой сопливый свинарник нытья.
Ну вот и настали времена, когда Ai меня заменил. У меня уиихрю заказов с конца февраля, при том что мой ценник $40 за фуллбади арт с фоном, а второй персонаж стоит дополнительные $20. Т.е. скидка 50% если берёшь арт с двумя. Моё объявление о наборе новых заказов пылится на сайтах и почти никто на него не откликается, а пришедшие говорят что $40 это дорого и лучше найдут подешевле или вообще сгенерируют в Stable Diffusion сами. Надо мной открыто насмехаются что ИИ уже давно рисует лучше меня и что мне стоит найти реальную работу. В отчаянных Симпл-Димплках найти новые заказы я нарисовал уже всевозможных популярных персонажей из Геншин импакта, Наруто, Блича, Геройской академии, Демон слеера, Фрирен, Хай скул ДХД, Джуджутсу кайсен, Фейри тейл и даже ебучего Чёрного клевера. Я собираю тысячи лайков и ретвитов, но никакой радости от них уиихрю, потому что я не могу ими заплатить за квартиру и купить себе пожрать. Всё что я получаю за свои старания - жалкие 4-5к лайков, которые ни стоят ни-ху-я.
Ещё несколько лет назад я был нужен и обожаем, меня ретвитили крутые художники, мои комменты разрывались от восхищения моих подписчиков, они активно обсуждали мои арты и голосовали в опросниках кого я рисую следующей, а сейчас комментарии - это пара смайликов, собравшаяся за годы база хейтеров, их насмешки и то что мой стиль уже как-то приелся. Кто-то вообще советует мне поучиться рисовать у Ai, потому что там и цвета сочнее и динамика живая, пишут мне что мой шейдинг стал какой-то грязный.
Блять, я не хочу работать на рабской работе на Кабаныча, я просто сидел рисовал и хотел чтобы так было всегда. Почему всё всегда меняется в худшую сторону? Как только тебе кажется что всё безмятежно и беспокоиться не о чем, обязательно кто-то обосрёт всё. Сбережений мне хватит ещё на полгода, а потом придётся устраиваться на ирл работу.
Есть тут ещё кто несправедливо заменённый искусственным интеллектом?
>>318384355 (OP) Показывай работы, будем тебя на порашу определять. Уверен, что ты просто вкатун который за пару лет научился копировать стиль нормальных художников, а не выстрадал свой годами. Если ты охуенный и уникальный, никакая нейронка тебя не заменит, чмо.
Общаемся с самым продвинутым ИИ самой продвинутой текстовой моделью из доступных. Горим с ограничения бесплатного доступа к свежевыпущенному новому поколению GPT-4.
Для общения с ChatGPT-4o-mini регистрация больше не нужна! Просто заходим на https://chatgpt.com/ (через VPN само собой) и общаемся. Но не все аноны подтверждают это, зависимости найдено не было.
Доступ к GPT-4o уже начали раздавать! Бесплатно! Новая версия умеет в картинки, а так же в голос, видео и прочее, то есть омнимодальна (но доступа к видео пока нет). Регистрируйтесь по инструкции, желательно использовать почту майкрософт или гугл, и ждите появления окна с приглашением в новую версию (гарантий никаких, обновление раскатывают веерно по желанию левой пятки). Помните, доступ к ней бесплатным пользователям не гарантирован, в периоды высокой нагрузки вам светит только GPT-3.5-turbo. Текущую модель для бесплатных пользователей можно посмотреть снизу сообщения по наведению на звёздочку, пикрилы все в тему.
Гайд по регистрации из России: 1. Установи VPN, например расширение FreeVPN под свой любимый браузер и включи его. 2. Возьми нормальную почту. Адреса со многих сервисов временной почты блокируются. Отбитые могут использовать почту в RU зоне, она прекрасно работает. 3. Зайди на https://chatgpt.com/ и начни регистрацию. Ссылку активации с почты запускай только со включенным VPN. 4. Когда попросят указать номер мобильного, пиздуй на sms-activate.org или 5sim.biz (дешевле) и в строку выбора услуг вбей openai. Для разового получения смс для регистрации тебе хватит индийского или польского номера за 7 - 10 рублей (информация нуждается в перепроверке, есть инфа, что все номера в индии уже зарегали). Пользоваться Индонезией и странами под санкциями не рекомендуется. 5. Начинай пользоваться ChatGPT. 6. ??? 7. PROFIT!
VPN не отключаем, все заходы осуществляем с ним. Соответствие страны VPN, почты и номера не обязательно, но желательно для тех, кому доступ критически нужен, например для работы.
Для ленивых есть боты в телеге, 3 сорта: 0. Боты без истории сообщений. Каждое сообщение отправляется изолировано, диалог с ИИ невозможен, проёбывается 95% возможностей ИИ 1. Общая история на всех пользователей, говно даже хуже, чем выше 2. Приватная история на каждого пользователя, может реагировать на команды по изменению поведения и прочее. Говно, ибо платно, а бесплатный лимит или маленький, или его нет совсем.
Чат помнит историю в пределах контекста, это 4к токенов для GPT 3.5 (до 16к в апи) и 8к для новой GPT-4 (128к в версии GPT-4-Turbo). Посчитать свои токены можно здесь: https://platform.openai.com/tokenizer
Что может нейросеть: - писать тексты, выглядящие правдоподобно - решать некоторые простые задачки - писать код, который уже был написан
Что не может нейросеть: - писать тексты, содержащие только истину - решать сложные задачи - писать сложный код - захватывать мир - заходить на вебсайты (неактуально для 4 с плагинами, платим деньги и радуемся)
С последними обновлениями начинает всё чаще сопротивляться написанию NSFW историй и прочего запрещённого контента. Кумеры со всего мира в печали.
На сегодняшний день (дата создания треда) есть бесплатная версия на основе GPT-3.5 (и периодической раздачей GPT-4o во время низкой загрузки) и платная версия (20$/мес) с использованием следующего поколения — GPT-4. Платная версия ограничена 50 запросами в 3 часа, причем планируется увеличение ограничений. Доступ к плагинам открыли в бета-версии для платных пользователей. Оплатить подписку из России нельзя, ищите посредников на сайтах для оплаты онлайн игр и договаривайтесь там сами. Отважные могут попробовать разводил с авито, объявлений вагон, но аноны не проверяли.
Вышла версия 1.5. Лимит 400 кредитов в месяц (или 200 генераций по 33 секунды каждая) при условии ежедневного захода на сайт - 100 кредитов даются в месяц, и еще 10 кредитов даются ежедневно. Также можно фармить кредиты, выполняя специальные задания по оцениванию качества рандомных треков, это дает не больше 10 дополнительных кредитов в день. Для большего числа кредитов и более продвинутых фич типа инпэйнтинга или генерации с загруженного аудио нужно платить. Появилась возможность генерировать треки по 2 минуты 11 секунд, не больше 3 длинных треков (по 2 версии на каждый трек) в день на бесплатном тарифе.
Новинка, по качеству звука на уровне Суно или чуть выше. Пока БЕСПЛАТЕН и безлимитен, но халява скоро закончится. Может в русский, среднее понимание промпта, стили очень общие. Плюс в том, что скорость генерации очень высокая.
Это буквально первый проект который может генерировать песни по заданному тексту локально. Оригинальная версия генерирует 30-секундный отрывок за 5 минут на 4090. На данный момент качество музыки низкое по сравнению с Суно.
Еще сайты по генерации ИИ-музыки, в них тоже низкое качество звука и понимание промпта по сравнению с Суно, либо какие-то другие недостатки типа слишком долгого ожидания генерации или скудного набора жанров, но может кому-то зайдет, поэтому без описания:
Напомню мега-сайт для сочинения аутентичных англоязычных текстов для ИИ-музыки в стиле известных групп и артистов от Пинк Флойда до Эминема. Зайти можно только через Дискорд.