Компьютерное железо

Ответить в тред Ответить в тред
Check this out!
Организация хранения и бэкапов Аноним 21/06/21 Пнд 15:24:36 54997851
hdd600.jpg 46Кб, 600x370
600x370
Короче,вводные такие
Имеется комп,в нем несколько хардов НТФС.Также имеется еще несколько хардов с НТФС отдельно. Харды от 500гб до 2ТБ

Вскоре будет новый комп,с системным ССД и каким-нибудь хардом под данные.Основное применение всего этого хозяйства-монтаж и обработка видео,причем исходные материалы нужно хранить бесконечно.

План пока такой:После сборки нового компа со всех имеющихся хардов снимаются образы,и закидываются на рейд(или на новые харды?).

NAS с рейдом собирается из старого компа , но для него специально покупаются новые харды.Исходные харды идут в шкаф как резерв.

Вопрос такой
1.Для старых данных лучше образы(удобно ли будет его монтировать в ридонли) или разделы старых хардов напрямую закинуть на новые (удобно ли будет это монтировать в ридонли)?

2.Рейд не заменяет бэкапа,так что это все придется бэкапить (порядка 5-15 ТБ) Куда? На еще харды?

(вообще,как правильно организовать бэкап старых ридонли данных,в большинстве случаев понятие "бэкап" относится к горячим,постоянно меняющихся данных)

3.Какую ось ставить на комп,который будет NAS-ом,и какую ФС там применить?(принципиально сохранение структуры старой НТФС,так что это важно если будут использоватся образы с НТФС а не залив физических разделов)

4.Как организовать хранение в новом компе? HDD+бэкапы на NAS?

Облака не предлагать.
Аноним 21/06/21 Пнд 15:26:21 54997902
Вообще-нужен ли рейд,если нет постоянной "горячей" нагрузки?
Аноним 21/06/21 Пнд 15:33:55 54997973
>но для него специально покупаются новые харды
Вовремя ты дисковую подсистему обновлять собрался. Придётся немного подождать.
>снимаются образы
Зачем? Доступ к данным ты через монтирование образов организовывать будешь? Данные покопировал и всё.
>Куда? На еще харды?
Самый адекватный вариант. Можешь на блюрей. Можешь на ленту, но там малые объемы невыгодны.
>вообще,как правильно организовать бэкап старых ридонли данных,в большинстве случаев понятие "бэкап" относится к горячим,постоянно меняющихся данных
>4.Как организовать хранение в новом компе? HDD+бэкапы на NAS?
Гугли инкрементальные бэкапы.
>Какую ось ставить на комп,который будет NAS-ом,и какую ФС там применить
Это уже к пердолям из /s. Ради надежности заморачиваются с HEDT (ради ecc) и ZFS.

>>5499790
Необходимость в рейде от нагрузки не зависит. Нужна надежность - делай рейд1/5/6/10 какой там тебе подходит по возможносям и бюджету.

А вообще в dsd тред зайди, там все дискоебы тусуются.
Аноним 21/06/21 Пнд 15:52:39 54998224
>>5499797
>Зачем? Доступ к данным ты через монтирование образов организовывать будешь? Данные покопировал и всё.

Основаная причина-целостность и неизменяемость данных (вт.ч атрибуты вроде дат создания\изменения) на разделах,запись в которые более не планируется.

>>5499797
>Можешь на блюрей. Можешь на ленту, но там малые объемы невыгодны.
А блюрей не хуже чем HDD по надежности?Лента-очень дорого,тут как я понял выгодно только если от 100 ТБ и больше .

>>5499797
>Необходимость в рейде от нагрузки не зависит. Нужна надежность - делай рейд1/5/6/10 какой там тебе подходит по возможносям и бюджету.
>
А насколько проблемный пердолинг с обеспечением надежности самого рейда(не ебнется ли контроллер в случае железного рейда)?
Аноним 21/06/21 Пнд 15:56:04 54998275
Spectra-Logic-l[...].jpg 245Кб, 594x511
594x511
Советую исключить из твоей задумки образы вообще. Лишний слой неудобного доступа плюс при ошибке в образе, ты теряешь несколько файлов и ебёшься муторно. Ладно ещё когда устройство одно, снял образ в линию, на полку закинул и забыл.
> Исходные харды идут в шкаф как резерв.
Богоугодно.

Я думаю следует поступить примерно так:
1. Оперативные данные. Новый комп 2 SSD raid 1 и 4 HDD raid 10 - средствами винды. Есть смысл докупить сетевухи 1G/2.5G так чтобы пустить 2 или 4 шнура к свичу с аггрегацией каналов. Обязательно стоит АВТОМАТИЧЕСКИЙ скрипт или софт типа бакулы который делает еженочные бэкапы.
2. Архивные данные и бэкап. В другой комнате старый комп, в нём SATA-контроллеры, сетевухи и жестких дисков по надобности. На нём стоит FreeNAS - в качестве файловой системы ZFS и работает службы nfs и smb. Архивные файлы доступны пофайлово ридонли.
3. Долговременное хранение. В самом простом случае, просто сейф с жестаками с зашифрованными данными в другом офисе. От пожара и взлома основного офиса грубо говоря. Имеете в старом компе мобилрэк - суёте туда очередной диск и вперёд. Если мыслите сотнями терабайт, то LTO. Облако, если денег не жалко.
Аноним 21/06/21 Пнд 16:02:23 54998406
>>5499822
Атрибуты выгрузишь. Ридонли на фс поставишь.
Блюрей даже не рассматривай - невыгодно, ненадёжно.
Железный контроллер рейд - не твой путь. Софтрейды надёжнее.
Аноним 21/06/21 Пнд 16:04:26 54998437
>>5499822
>Основаная причина-целостность и неизменяемость данных (вт.ч атрибуты вроде дат создания\изменения) на разделах,запись в которые более не планируется.
Даже если так - ты всё равно теряешь в удобстве доступа и, внезапно, в занятом объеме - диски то у тебя стопудово заняты не на 100%, а в образ придется снимать весь диск с пустым пространством.
>А блюрей не хуже чем HDD по надежности?
На полке - лучше. Это девайс для холодного хранения данных.
>А насколько проблемный пердолинг с обеспечением надежности самого рейда
Зачем тебе аппаратный рейд, земля очистилась настолько что люди выкатили mdraid/lvm, а в винде собственный софтрейд еще с семерки поддерживается нормально.

>>5499827
>Новый комп 2 SSD raid 1 и 4 HDD raid 10 - средствами винды. Есть смысл докупить сетевухи 1G/2.5G так чтобы пустить 2 или 4 шнура к свичу с аггрегацией каналов.
Обосрался, ты ему для домашних забот еще фибрченнел предложи. У него ж не энтерпрайз чтобы так заморачиваться.
Аноним 21/06/21 Пнд 16:14:54 54998628
>>5499843
Аггрегация канала - это прям недорого по сравнению с 10G или FC. Ну просто тупо иметь NAS и сто мегабайт в него писать. Хотя бы в перспективе надо держать апгрейд сети в уме.
Аноним 21/06/21 Пнд 16:29:59 54998869
>>5499862
>Ну просто тупо иметь NAS и сто мегабайт в него писать
Для этого достаточно гигабита. Одного.
Аноним 21/06/21 Пнд 16:47:59 549991810
>>5499886
Ну вот и зачем писать 100 если можно писать 200.
Аноним 21/06/21 Пнд 16:49:31 549992611
>>5499918
На рейд0 из 3х дисков?
Аноним 21/06/21 Пнд 16:58:31 549993512
2016-12-11-1326[...].png 9Кб, 543x382
543x382
>>5499926
Даже один диск выдаёт больше сотки в линию.
А у опа будет что-то типа raidz1 из пяти.
Аноним 21/06/21 Пнд 17:05:42 549994613
>>5499935
Какой-то всратый график.
>Даже один диск выдаёт больше сотки в линию.
Если он будет брать потребительские винты по 2...6тб, то в последней трети скорость будет ниже сотки. Если будет брать SMR... надеюсь не будет. В любом случае агрегация это не первостепенная задача при постройке NAS. Поймет что жмет - сходит карт докупит. Она к слову ж вроде не работает через обычные потребительские свичи/роутеры? Видел такое утверждение в сетевом.
Аноним 21/06/21 Пнд 17:35:28 549997414
>>5499946
Так или иначе, 1G свитч с 802.3ad стоит всего 2000 рублей. И если по поводу 400 можно ещё подумать, то 200 ты сможешь регулярно видеть.
Аноним 21/06/21 Пнд 19:01:02 550012815
>>5499886
100 мегабайт это не серьезно. Нормальный NAS по сети может и должен работать быстрее одного сраного внутреннего диска.
У меня raidz2 на шкафу стоит из 5 блинниц, по прямому подключению 2,5 гига забивает стабильно на запись, планирую до 10 расширяться.
>>5499822
>железного рейда
Забудь это словосочетание.
>Основаная причина-целостность и неизменяемость данных (вт.ч атрибуты вроде дат создания\изменения) на разделах,запись в которые более не планируется.
Адекватный софт умеет копировать атрибуты. Образ - лишнее усложнение схемы.
Аноним 21/06/21 Пнд 19:05:38 550013416
>>5500128
>не серьезно
>может и должен
Полагаю, будущему владельцу виднее что может и что должен делать результат его трудов. У меня тоже NAS есть, и там гигабита за глаза.
Аноним 21/06/21 Пнд 19:07:08 550013517
>>5500134
>Полагаю, будущему владельцу виднее что может и что должен делать результат его трудов.
Нет, он сейчас от шизиков начинается, как сэкономить тысячу рублей, и получить 1 гиг вместо 2,5. Ему еще будут орать, что по сети больше и не надо.
Аноним 21/06/21 Пнд 19:07:42 550013618
>>5500135
>начинается
начитается
Аноним 21/06/21 Пнд 19:26:53 550016019
>>5500135
Щас он одинаково от других шизиков начитается что нужно больше червей-кабелей по дому пустить да переплатить за червей-коммутаторы с последующим пердолингом агрегации по всем точкам со спорным итоговым результатом. Это бля не 100мбит чтобы охуевать от результата. Пусть сам определяется.

>как сэкономить тысячу рублей, и получить 1 гиг вместо 2,5
Щас бы предлагать пойти докупить 2.5г сетевуху/пачку сетевух с поддержкой агрегации и 2.5г роутер на пустом месте.
Аноним 21/06/21 Пнд 19:30:00 550016120
>>5500160
>Щас бы предлагать пойти докупить 2.5г сетевуху/пачку сетевух с поддержкой агрегации и 2.5г роутер на пустом месте.
Зачем роутер для связи двух машин? Ты больной? Зачем городить огород на пустом месте, когда прямое подключение pc-pc работает прекрасно? Особенно linux - windows.
И никакая агрегация не нужна для того, чтобы кинуть 2,5 гига одним кабелем. Сетевушку можно в китае купить дешевле 1000 рублей при желании, либо за полторы при отсутствии такового, прямо в ДС.

А кидать 5 дисков в рейде через 1 гиг это как предлагать подключать 3080 по рейзеру в x4 псину. Работать, конечно, будет, но...
Аноним 21/06/21 Пнд 19:36:16 550016721
>>5500161
>Зачем роутер для связи двух машин?
Чтобы получить доступ к данным с ноутбука, например? Или даже с телефона? Или с другого ПК?
>чтобы кинуть 2,5 гига одним кабелем
ОП не писал что у него там за мать в старом ПК.
>А кидать 5 дисков в рейде через 1 гиг это как предлагать подключать 3080
Хуевые аналогии confirmed.
Если на 3080 майнить то и x1 сойдёт только ограничение в дровах. Повторюсь, от задач зависит.
Аноним 21/06/21 Пнд 19:38:49 550017222
>>5500167
>Чтобы получить доступ к данным с ноутбука, например? Или даже с телефона? Или с другого ПК?
Ты не поверишь, но все еще никакой проблемы: одна сетевуха на LAN до пеки, другая на WAN. Все равно покупать под NAS мамку с 2,5Г расточительно. Там в основном серверный и гоймерский оверпрайс.
>ОП не писал что у него там за мать в старом ПК.
Если бюджетная - берешь вторую карту. 2к за обе.
>Повторюсь, от задач зависит.
Задача простая - передача данных.
Аноним 21/06/21 Пнд 19:42:35 550017623
>>5500172
>больше червей-кабелей
Задачу передачи данных решает и морзянка.
Аноним 21/06/21 Пнд 19:45:38 550017924
>>5500176
Какая трагедия, аж целый кабель. Ну ты еще предложи запитать этот NAS по PoE или вообще беспроводу, хуле, раз кабелей боишься...
Твоя кабелефобия с задачей передачи данных идет вразрез, если что.
Аноним 21/06/21 Пнд 19:54:17 550018525
Охуенно мы тут шизика кормим. Чел почти на 50к накопителей покупает, а мы ему предложим их на полшишечки использовать чтоб проводами не париться.
Аноним 21/06/21 Пнд 19:54:17 550018626
>>5499843
> в винде собственный софтрейд еще с семерки поддерживается нормально.
Нирикамендую.
Тестил я этот софтрейд (под данные, грузился не с него).
Тот, который как бы аналог raid5, бесповоротно помер после того, как я тупо переткнул диски в другие порты.
Настолько бесповоротно, что в этих вендах даже powershell не запускался.
Аноним 21/06/21 Пнд 20:02:46 550019427
>>5500186
Storage spaces?
Не должон был помереть. Впрочем, я только за никсы знаю.
Аноним 21/06/21 Пнд 20:05:28 550019628
>>5500179
>Задачу передачи данных решает и морзянка.
Отдельный порт 2.5г под пк имеет смысл, если не хватает 1гбит. Агрегация и прочая срань - весьма узкоспецифичная вещь.

>>5500185
>имплаин на 50к можно купить датацентр
>тем более после чиадефицита

Желания продолжать срач желания нет, оп увидит разберется кто шизик а кто нет.

>>5500186
>Настолько бесповоротно, что в этих вендах даже powershell не запускался.
>грузился не с него
Это как вообще? Дело было явно не в бобине.
Аноним 21/06/21 Пнд 20:07:13 550019829
>>5500196
>Отдельный порт 2.5г под пк имеет смысл, если не хватает 1гбит.
Для рейда из 5 дисков 2,5г не хватает. Это факт. Ну разве что там какое-то некроговно на ide.
Монтировать видео с диска, который не может даже 100 мегабайт в секунду - это садомазохизм.
Аноним 21/06/21 Пнд 20:07:33 550019930
>>5500194
Storage spaces, да.
В никсах и у меня нормально всё.
>>5500196
> Это как вообще?
А вот так.
И компонент управления этим самым storage spaces, и тупо сам power shell -- ты его запускаешь, и ничего не происходит, тупо не стартуют.
Аноним 21/06/21 Пнд 20:09:18 550020131
>>5500198
>Ну разве что там какое-то некроговно на ide.
А, забыл, еще SMR может быть. Ну это едва ли лучше IDE на самом деле.
Аноним 21/06/21 Пнд 20:13:23 550020632
>>5500198
Ладно, я только что перечитал псто и увидел что оп там нас с новыми винтами собирает. Тогда ты прав, сорян, но сам подход вызывает вопросы.

Если работать с большими массивами данных, то не проще ли это прямо на компе делать? По сети еще и мелкоблок просажен будет в отличие от прямого подключения.
Аноним 21/06/21 Пнд 20:14:37 550020733
>>5500201
Недавно тут один пробегал, с 4мя SMR дисками в рейде. Гордился что сотку давит.
Аноним 21/06/21 Пнд 20:21:37 550021334
>>5500206
Ну блин, изоляция даёт защиту. Хреновый БП, опрокинутый чай, вирус-шифровальщик, пожар в комнате может унести все твои данные разом. А если у тебя NAS отдельный то уже как-то разносишь риски.
>По сети еще и мелкоблок просажен будет в отличие от прямого подключения.
Надо просто Fibre Channel использовать, бгг.
Аноним 21/06/21 Пнд 20:33:32 550022335
>>5500206
>Если работать с большими массивами данных, то не проще ли это прямо на компе делать?
Проще, но в десктоп лезет меньше, чем в тот же сервак на хуанане.
Кроме того, NAS очень желателен на ZFS, а это Linux. Так что хочешь не хочешь, а вторую систему запускать где-то придется.
Аноним 21/06/21 Пнд 20:36:11 550022536
>>5500213
Это всё понятно, но стоит же соблюдать баланс - монтировать локально быстро, потом в хранилище выбрасывать. Да из всего тобой перечисленного нас решает только проблему опрокинутого чая и размещения системника под ногами. Хз в общем.
Раз уж на то пошло, то в NAS стоит воткнуть хороший сосоди под кэш операций.
Аноним 21/06/21 Пнд 20:37:55 550022937
>>5500223
Под ZFS еще и ECC не помешает, кроме того она требовательна к ОЗУ. Раз-два, и выходит сетевуха на уровне компа.
Аноним 21/06/21 Пнд 20:38:46 550023138
>>5500213
> Надо просто Fibre Channel использовать, бгг.
Еслишто, интелячие 10гбит сетевухи по 15тр продаются.
Аноним 21/06/21 Пнд 20:40:31 550023439
>>5500223
Родная ось для zfs солярис.
Потом его долго пилили bsdшники, и были там всякие странные глюки.
Может, лучше эта, mdraid?
Аноним 21/06/21 Пнд 20:52:20 550024140
>>5500225
>Да из всего тобой перечисленного нас решает только проблему опрокинутого чая и размещения системника под ногами. Хз в общем.
Еще ошибки ловить может в ФС до того, как файлы побьются.
>>5500229
>Под ZFS еще и ECC не помешает, кроме того она требовательна к ОЗУ.
Да, благо на 3 дыдре дешевая.
>>5500234
>Родная ось для zfs солярис.
Строго похуй.
>и были там всякие странные глюки.
Сейчас их нет.
>Может, лучше эта, mdraid?
Оно не ловит ошибки налету же.
Аноним 21/06/21 Пнд 20:59:15 550024841
>>5500225
БП тоже разные, чё. Если ты на насе настроил разграничение прав, то ни с какой винды архивные файлы не попортишь. Плюс ZFS даст тебе снапшоты, откатишься на вчерашний снапшот и всё.
>>5500229
Это вздор. ECC не помешает на любой файловой системе, просто в руководствах к ZFS не забывают об этом настойчиво напоминать.
По требовательность к ОЗУ не знаю. Ну допустим даже на сокет 775 8 гиг можно воткнуть - это с запасом для ZFS. Дедупликацию, конечно, лучше не включать.
>>5500234
Ну-у-у да. Если с zfs не знаком и ты не ставишь готовый freenas, то наверно действительно проще соорудить из знакомого:
mdadm будет тебе делать raid
lvm будет тебе делать снапшоты
xfs станет файловой системой.
Не вижу в таком наборе ничего плохого. Всё отлично работает. Нет чексумм и копи-он-райт - да и хуй с ними.
Аноним 21/06/21 Пнд 21:01:49 550025042
>>5500248
>Дедупликацию, конечно, лучше не включать.
Дедупликацию лучше не включать вообще, если ТВЕРДО И ЧЕТКО не знаешь, что она принесет пользу. Для монтажа точно будет один вред.
>Ну допустим даже на сокет 775 8 гиг можно воткнуть - это с запасом для ZFS.
Зависит от обьема массива. Меньше 16 я бы не стал ставить.
Аноним 21/06/21 Пнд 21:17:55 550026343
>>5500248
У нас монстеры пробовали zfs в продакшне для всякого серьёзного.
Да, фичи прикольные, но он чудесатый. Напарывались например на деградацию производительности, которая появляется не сразу, непонятно откуда, и не чинится.
Аноним 21/06/21 Пнд 21:41:41 550029844
Lychkin80704181[...].png 78Кб, 1020x888
1020x888
>>5500263
Когда пул подходит к концу, производительность часто сильно падает. И необходимость не забивать zpool частенько делает ZFS неприменимым.
Да ZFS вообще не про производительность. Она про надёжное архивное хранение ещё и со сжатием, она про охуительные выкрутасы со снапшотами, про квоты и, внезапно, про офигительную интеграцию с солярой.
Например, есть работающий на ldom он в качестве диска использует zvol. И ты решил на его основе сделать эталонную систему. Зашёл в саму систему сделал снапшот фс, проапгрейдил пакетики, всё нормально. Выключил, сделал снапшот zvol. Включил, деконфигурнул систему, выключил. Опять сделал снапшот zvol - станет эталоном. Сделал промоут снапшота и теперь наоборот, твоя рабочая система стала сама снапшотом, подал его в лдом, загрузился - система как была. А с эталона ещё снапшотов понаделал и в другие лдомы пораздавал.

Нужно ли это всё здоровым людям... пожалуй, нет. FreeNAS как готовое решение разве что.
Аноним 21/06/21 Пнд 21:48:51 550031145
>>5500298
Ну да, там примерно такого рода хрень как раз и жила.
Про "не забивать до конца" они, конечно, знают.
Аноним 22/06/21 Втр 01:15:30 550058546
d61wl1x-ef6c8c1[...].jpg 801Кб, 812x1169
812x1169
>>5500229
>Под ZFS еще и ECC не помешает, кроме того она требовательна к ОЗ
>>5500248
>Это вздор. ECC не помешает на любой файловой системе, просто в руководствах к ZFS не забывают об этом настойчиво напоминать.
>По требовательность к ОЗУ не знаю. Ну допустим даже на сокет 775 8 гиг можно воткнуть - это с запасом для ZFS.
ECC нужна для зфс не больше, и даже меньше, чем для других ФС.
Потребление ОЗУ можно затюнить вплоть до машин с 128Мб ОЗУ.

>>5500263
Админа бы наняли.
С ZFS нужно работать особенно аккуратно при нагрузках связанных с записью.
Правильно выбирать размер блока например, понимать разницу между синхронной и асинхронной записью.
Ну и если требуется много синхронной записи ставить SLOG на SSD.
Или выключать синхронную запись вообще, если условия позволяют.

>>5500298
>Да ZFS вообще не про производительность. Она про надёжное архивное хранение
Ну, я бы так не сказал.
Производительность на уровне с другими COW файловыми системами. Со своими особенностями конечно.
Ну таки главная фишка ZFS это обнаружение "тихого" повреждения данных, но это как бы не об архивном хранении, а именно о активной системе. И в целом устойчивость к сбоям.
Снапшоты и управление томами вместе с рейдом то-же вкусные вещи, это удобно.
Аноним 22/06/21 Втр 01:48:14 550060947
>>5500585
> Ну таки главная фишка ZFS это обнаружение "тихого" повреждения данных
Кек.
> What the CRC Jesus clan don’t seem to realize is that all hard drives since the IDE interface became popular in the 1990s have ECC built into their design and every single bit of information stored on the drive is both protected by it and transparently rescued by it once in a while.
https://www.jodybruchon.com/2017/03/07/zfs-wont-save-you-fancy-filesystem-fanatics-need-to-get-a-clue-about-bit-rot-and-raid-5/
Аноним 22/06/21 Втр 04:20:33 550066748
>>5500609
Чел, погугли мотивацию за звс и опыт её эксплуатации церном.

Алсо, я у себя пару ошибок ей уже ловил.
Аноним 22/06/21 Втр 15:18:24 550129049
>>5500609
>all hard drives since the IDE interface became popular in the 1990s have ECC built into their design
Да, заебись там у них ECC, когда на диске из середины 2010-х файлы просто открываться перестают.
Аноним 22/06/21 Втр 15:44:15 550136350
>>5501290
Именно для этого ECC и нужен: чтобы оно отдало либо то, что было записано, либо ничего.
Аноним 22/06/21 Втр 15:47:18 550137251
>>5501363
Ну так это не аналог прозрачного поиска ошибок на ZFS, не знаю, к чему анон высрал внутренний ECC диска. Еще бы диск не проверял, что записал он то, что ему дали: была бы вообще хохма.
Настройки X
Ответить в тред X
15000
Макс объем: 40Mб, макс кол-во файлов: 4
Кликни/брось файл/ctrl-v
Стикеры X
Избранное / Топ тредов