Для записи и чтения файлов на сервер ОЗУ или Проц важнее?

Question

[BonBon Slick]

Смотрел б/у сервера.

HP ProLiant DLЗ80p Gen8 (25 SFF)

хранилище.

HP ProLiant DLЗ60e Gen8 (8 SFF)

основа где БД.


Пример сайта crunchyroll.
Загрузка / выгрузка и просмотр видео, фото, манга, проч файлов.

Что думаете?
Посоветуете конфиги?
Почему?

UPD.
SO 1
SO 2
Google serach request

video streaming server requirements

Quora

Answer 1

[Dr. Bacon]

Загрузка / выгрузка и просмотр видео, фото, манга, проч файлов.

отталкивайся от текущих нагрузок, относительно их же планируй будущий рост. Если таких данных нет, то тебе не нужен сервер, бери VPS, если не хватает на нем диска, то добавь различные Object Storage, типа S3

Comments

[BonBon Slick]

Исключено. Дорого. Дешевле купить и кинуть дома. Пет проект для себя, для души. А там как пойдет.

[Dr. Bacon]

BonBon Slick, там скорее год подписки будет значительно дешевле сервера, а если "пойдет", то ты тупо в скорость своей сети упрешься.

[BonBon Slick]

Dr. Bacon, год подписки более 6 000+ эвро за 3 ТБ места. Это вообще ни о чем. Контент пиратский и потому хотелось бы избежать как было с kinogo, они хранили файлы на левом хосте который прикрыли. Все их субдомены и копии kinogo отвалились разом. Они так и не восстановили все. А потому что DCMA и все такое. Результата? Месяцы простоя, думаю сотни косарей потеряли, как рублей так и аудиторию.
Как упрусь, буду думать как решить проблему, не все сразу, может до того и не дойдет.

[Dr. Bacon]

BonBon Slick, скорее всего на порядок ошибся в подсчетах, если считать не диски, а что-то из аналогов S3.

[BonBon Slick]

Dr. Bacon, ?? Я смотрю ценники текущего своего хоста . Хранилище у них ппц дорогое, но зато на DCMA и контент плевать и все +- анонимно. То есть они не высылают ваши данные по первому запросу от СБУ по их словам) Только если нарушены их законы, ToS.

[Dr. Bacon]

BonBon Slick, а раздавать из дома пиратский контент, конечно же очень хорошая идея.

[BonBon Slick]

Так вот, вопрос все еще открыт.
При записи / чтении видео файлов что сильнее нагружено, ОЗУ или проц?
У меня нет статистики нагрузок как таковой. Трафик сейчас до 10 ГБ в сутки, но на сайте нет контента, а расширять, дорого. Там около 120 видео, а надо порядка 20 000+. Там только наруто тянет на все 600+ серий. Или искать такой же пиратский хостинг в амстердаме, но там цены везде +- одни и те же.
Или покупать свой настраивать. Другие VPS типа AWS / DO и проч отпадают вообще. Нарушение DCMA и сразу же контент уберут или сайт закроют.

[Dr. Bacon]

BonBon Slick, пофиг, если только ты не раздаешь это скриптом с чтением файла, а не веб-сервером.

[BonBon Slick]

Dr. Bacon, украине хватает своих проблем с войной. Сомневаюсь что будут гнобить за мультики)

[BonBon Slick]

Dr. Bacon,

пофиг, если только ты не раздаешь это скриптом, а не веб-серверам.

пофиг на что? Проц или ОЗУ?
Я без понятия какую нагрузку испытывает проц и ОЗУ серверные при чтении / записи видео файлов.
ОЗУ в принципе можно доставить без проблем, а вот замена проца = остановка всего серва на более долгий срок + надо будет продать старый проц, а озу может стоять и дальше.

"Скриптом" это всмысле автоматически куда-то? Веб сервер конечно, http запрос прилетает на конкретный домен с параметром, там лежит на файл в папке с сайтом, сервисом который отвечает за запись / чтение / выгрузку файлов.

[Dr. Bacon]

BonBon Slick, скриптом, это путь "гениев", считать весь файл в память и так его отдавать веб-серверу. Пофиг на и проц, и на ОЗУ

[BonBon Slick]

Dr. Bacon, ого,
1 - а можно подробнее про считать файл в память? Зачем ето и какой буст дает?

2 -

Пофиг на и проц, и на ОЗУ

значит для хранилища можно самые простые ОЗУ 4 ГБ и 1.8 проц?

3 - что на счет основного сайта где БД, где выборка и запись будет идти чаще чем в хранилище?
Там по идее проц важнее чем ОЗУ, стоит брать 16 ГБ ОЗУ и 2.0 GHz?

[Владимир Коротенко]

BonBon Slick, ну создайте скрипт на Apache jmeter. Могу у себя прогнать на e5 2680 v2 метрики получите. Вообще на такого плана контенте главная штука это сеть.

[Dr. Bacon]

BonBon Slick,
1 никакой, одни минусы, частый случай у новичков.
2. если там только раздача файлов, то да, ну и нюанс с загрузкой больших файлов, читать про chunked upload и подобном.

[BonBon Slick]

Владимир Коротенко, о, очень полезный инструмент для " performance testing,load testing and stress testing". Правда не совсем понимаю как вы прогоните тест у себя без контента и доп настроект веб сервера, API и т.д. К тому же уйдет от нескольких часов до дней что бы разобраться с ним что бы написать грамотный тест. Примеров я чет в доках не нашел особо, огрызками разве что.

Подь "сеть" вы имете ввиду скорость соеденения?
И что на счет SSD и RAID controller? Не уверен что от RAID есть какой-то толк при SDD.
Ведь от этого больше всего зависит скорость чтения и записи файлов.
Естественно данные должны быть переданы по network controller.
Там на фото выбран

HP 560FLR 10GbE Dual-Port SFP+ (Intel 82599)

[BonBon Slick]

Dr. Bacon, про чанки знаю, ето уже реализовано, загрузка по кусочкам, склейка, форматирование и проч. А что на счет 3-го пункта? Какой проц и ОЗУ для серва с БД? Туда запросов больше будет .

[Владимир Коротенко]

BonBon Slick, 5 мегабит в секунду по идее на 100 мегабитах у вас получится максимум 20 клиентов. На практике 16. Ну и привычка провайдеров писать до 100 мегабит *

[BonBon Slick]

Dr. Bacon, HP ProLiant DLЗ60e Gen8 (8 SFF) - БД и сайт


HP ProLiant DLЗ80p Gen8 (25 SFF) - файлы


Такая сборка исходя из рекомендаций свыше, что думаете?

[Dr. Bacon]

BonBon Slick, а зачем тебе разделять на два сервера?

[BonBon Slick]

Dr. Bacon, совет дали в другом вопросе что так проще поддерживать и масштабировать. А вы что думаете?

Задачи то разные. Если покупать 1 то там должно быть и полно озу, хороший проц и SSD. Или 2 разных, один только под хранение, чтенине, загрузку и выгрузку, а другой для БД, куда в основном будут лететь запросы. В хранилище ОЗУ и проц особо не нужен, а вот обработка основных запросов, как я понимаю очень даже.
Изначально я так и думал один серв для сайта, бд и файлов. Но что хост провайдер не дает такой возможности, там раздельно storage / host что по советам тут от пользователей. Это конечно дополнительные расходы на поддержку и содержание, калибровку и синхронизацию, время и деньги. На сколько оно того стоит сложно оценить, нет опыта и проект мелкий совсем. Там одновременный онлайн на VPS до 10 людей было и по статистике до 200 уников в сутки, по запросам до 5 000 запросов в сутки, а траффик до 10ГБ вроде макс доходило, сутки конечно.

Если покупать один серв, к примеру с такими конфигами
HP ProLiant DLЗ80p Gen8 (25 SFF)


То как быть с масштабированием? Скажем, докуплю еще один серв для хранения файлов, куда записывать файлы, как определить?
А так по задумке изначально чекать на каком серве есть место и отправлять туда еще на UI. Иначе проверка будет перемещена с UI в код сайта, если место есть, сохраняем локально, если нет, отправляем на другой серв. Но есто создаст траффик и нагрузку х2. Поетому надо будет разделять логику серверов, для сайта куда летит описание контента и где БД от хранилищ файлов.
Правда до такого может проект и не вырасти, так что одного серва может хватить, не уверен пока, мало данных.

[BonBon Slick]

Владимир Коротенко, есть пакеты до 1 ГБит за 12$ в месяц. Этого более чем достаточно, а там видно будет.

[Владимир Коротенко]

BonBon Slick, прокачать гигабит смогут только nvme ну или ssd в рейде. Или серьезный такой набор дисков. Но вопрос с каналом провайдера остаётся открытым. Вдруг у него 10 гигабит на всех. Утрирую

[BonBon Slick]

Владимир Коротенко, в скринах стоят SSD в сборках, HDD не пользуюсь уже давно. Скорость какая SSD неизвеста, выбрал 1 SSD в сборке сейчас, а как надо будет докуплю. Главное корзинки, потому что цена их в розницу ппц. От 20$ за 1 шт. Мой текущий SSD на ПК 480 выдавал, до 500 когда ласт тайм чекал.

[BonBon Slick]

Владимир Коротенко, еще хотелось бы узнать ваше мнение на счет разделение серверов под задачи.
БД и сайт / хранилище
Выше коллега задал вопрос

а зачем тебе разделять на два сервера?

на что я ему ответил комментарием ниже после вопроса.

[Владимир Коротенко]

BonBon Slick, тут вам только метрики помогут. Во взрослых проектах часто любят разделять роли допустим на сторадж отдают слабый проц и мало оперативки. А под базу дают много памяти и проца.

[Владимир Коротенко]

BonBon Slick, ну это можно проверить, приду прогоню тесты на самсунгах. 860 и 970 х

[BonBon Slick]

Владимир Коротенко, буду признателен)

[Владимир Коротенко]

BonBon Slick,

Samsung 860 Evo 250 GB


Samsung 970 Evo 500 GB



Samsung 970 Evo Plus 1 TB

Хм не в тот разьем воткнул, нужно переставить


WDC WD2003FZEX-00Z4SA0



Для интереса 10 raid wd red

[BonBon Slick]

Владимир Коротенко, Опа, аниме подьехало :3 Проект как-раз по аниме мой))
У меня на ПК так же стоит Samsung 860 Evo 250 GB)))

На счет тестов спасибки, вот только я хз какие SSD будут вставлены в финальную сборку, заказ то комплектом.
Вот я тут смотрю и спеки тут.
Какая скорость read / write у SSD примерно понимаю, явно выше чем у HDD. Я думал вы скините тесты CPU / RAM.
Спек райда

Standard on the P420 are RAID 6 ADG, RAID 60 ADG, RAID 1 ADM,

смотримого мною сервера.
К тому же, вы говорили что инет важне, а я упоминал что считаю SSD.

Я просто думаю взять пока наверно лучше только 1 сервер с нормальной сборкой, чем брать 2 слабых или средней сборки. Вот второй который смотрел. Я все еще не уверен зайдет ли темка которую я делаю или нет, будут ли вообще посетители как я ожидаю когда будет контент на сайте или будет перекати поле.

[BonBon Slick]

Владимир Коротенко, мои примерные расчеты что накопал за весь день и мысли, я мог легко где-то допустить ошибки в расчетах. Но можно сразу прыгнуть к концу и посмотреть заключение.

2 serv 24 000 +  79 000
https://servak.com.ua/servers/servery-hp-gen-8/server-hp-proliant-dl360e-g8-sff.html
https://servak.com.ua/servers/server-hp-proliant-dl380p-g8-sff-25-bays.html

1 serv = 89 000 = 2966$

Мин требуемое количество аниме 4 500

400 ГБ = 113 аниме по 12 серий
400 ГБ = 56 аниме по 24 серий
400 гб = Боруто + Наруто + Хвост Феи + Черный Клевер

14 ССД по 400 ГБ = 5.6 ТБ = 5 734 400 (5734400) МБ
14 ССД / ( 24 серий за аниме * 300 мб за серию ) = 796 аниме

4500 аниме / количество аниме на сервер 796 = 5 серверов * 3 000$ = 15 000$ необходимый капитал если в сервере будут 
ССД по 14х400 ГБ = 5.6TB цена которых 50 000 грн = 2000$
Или купить более емкие HP SSD размером на 800+ ГБ за слот. 

1.6TB HP SSD бу = 500$, 5 SSD * 4 = 6.7 TB. Профитнее на 1 ТБ, брать более емкие SSD чем мелкие.
Емкие SSD к тому же более шустрые и служат дольше + не надо будет покупать еще один сервер для хранения файлов, а лишь для 
распределения нагрузки. То есть на каждом серве будут копии всех аниме серий.

4500 аниме * 24 серий за аниме * 300 мб места за 360 и 720 качество = 32,400,000 МБ  на необходимое количество аниме серий

Если 25 слотов в серве то 32.5 ТБ / 25 = 1.3 TB на слот.

2 ТБ SSD HP новый = 36 000 uah = 1200$ = 682 аниме серий

RAM  100 MB / user
96 * 1024 / 100 = 983 online users

Vid quality / Bandwidth
SD 360 500 KB / user = 983 * 500 / 2 = 245 MB bandwidth / sec
SD 560 1 MB / user = 983 MB bandwidth / sec
HD 720 2 MB / user = 1966 MB
 

Минимально надо 5 ТБ памяти для старта, что бы загрузить актуальный контент (5 NB * 1 000 GB * 1024 MB / 300 MB / per  episode )
= 17,066 серий из 108 000 для 4500 аниме, что есть 1/5 или 20% потенциальных затрат на хранение = около  1500$-3500$ 
+  содержание сервера 12$ / month 1 GB/s internet (10 GB/s = 120$)
+ electricity +- 15$ month
+ server = 1 000$
+ RAM 96 GB = 200$


ROI
Invested 4000$
Return 100$ (from ads per month) random value. Мне неизвестно сколько будет приносить 100 000 посещений на сайт, какой CTR и CPC, CPV (cost rate, per click, view). Известно из google ads что кол запросов на аниме более 1 000 000+ в месяц, но вот как ранжировать будет сайт, без контента вес будет низкий.
Нерентабельно если будет только реклама. 
Если добавить подписку что бы убрать рекламу, условно пускай будет 300$ / month.
Ето покроет расходы на содержание сайта и над ним можно будет работать. Но нужен контент и аудитория.
Надо или больше вкладывать в контент, хранение, или думать над грамотной монетизацией.

Answer 2

[rPman]

Нагрузку на сервер создает не столько задачи, которые оно исполняет, а их реализация.

Само собой количество клиентов и способ их поведения тоже влияют, но как линейный коэффициент к значению, которое дает утверждение выше.

Отсюда, без каких либо знаний о том на чем и как у вас там все крутится, говорить что то бессмысленно.

p.s. раздача статики - самое эффективная задача в web технологиях и не требует никакого особенного железа, даже какие-нибудь малинки могут выдавать сотни req/s, основная нагрузка - на диск и сеть, если контент тяжелый типа video - то может сильно повыситься нагрузка на диск, если же там много мелких файлов.... смотрите реализацию, я видел сайты страницы отдачи контента (книги) были тяжелее самой книги в несколько раз.

p.p.s. при использовании vps возникают проблемы оценки производительности для сравнения между разными провайдерами, так как оверселят (продают одну и ту же шкуру многократно) все по разному.

Если вы только строите сервис, постарайтесь сделать его таким чтобы его можно было легко (читай 1 кнопочку нажать/строчку в конфиг или даже автоматически) масштабировать, увеличивая количество серверов, даже на старте может оказаться выгоднее линейно докупать слабые vps сервера, подменяя последовательно их на более мощные если рост нагрузки сохраняется, чем сразу вкладывать во что то дорогое.

Стоимость слабых vps начинается от 2$ в год (да да и на таком может что то крутиться но бизнес я бы на этом не поднимал), неплохие предложения бывают и за 10$/m

В любом случае, обычно платят не за машину а за сервис, адекватную поддержку, хорошую сеть и т.п.

Comments

[BonBon Slick]

600+ эвро в месяц vps за норм хостинг. Нужен контент, он занимает очень много места. Предложенные варианты в вопросе б/у машины и их конфигурации самые оптимальные цена/качество. Их можно потом продать за +- такую же сумму. Проект на РНР бек и UI - JS, предварительно ничего не известно будет ли нагрузка и какая.
Я все еще не понимаю какой проц и сколько озу брать для хранилища / БД сервов.

Возможно стоит узнать что за что отвечает в какой степени? В плане при загрузке видео проц или ОЗУ нагружен больше? А при просмотре, чтение видео с SSD проц или ОЗУ?

[rPman]

600+ эвро в месяц vps за норм хостинг

что?
за такие деньги берут bare metall и очень крутой! средняя цена железа обычно 100, а дешевый в том же хецнере от 50 берут (с 2х 512гб ssd 64gb ram).

брать надо vps и брать отталкиваясь от нагрузки, а не от абстрактных циферок.

я вроде четко описал - отдача данных сервером почти никак не нагружает его, т.е. статика (сами файлы а не контент, генерируемый сервером на лету), если диски у вас для экономии hdd то там да, десяток одновременных клиентов положат сервер тяжелым контентом на ура но сейчас очень много доступных предложений с ssd а там совсем другая математика.

Еще раз, не нужно сейчас брать сервер, если вы не знаете нагрузку... покрутите ваши сервисы на vps-ках, облачные предложения даже с посуточной тарификацией (а обычно делают часы или даже минуты) и гибкими графиками предлагают чуть ли не в каждом датацентре. Берите самый дешевый, не хватит - повышайте... когда стоимость станет сравнима с bare metall - берите его

максимальный лаг в данном случае - месяц, именно столько делают приод тарификации обычно все хостеры, но встречаются и реально поминутная - тот же амазон или гугл.

[BonBon Slick]

rPman, AbeloHost, контент пиратский. Брать левый хост нет желания тратить время, надо опять все переносить. Сайт уже работает там куда ссылку дал.
Цифры сейчас такие
120 видео, дновременный онлайн до 10 людей и до 200 уников, по запросам до 5 000 запросов, а траффик до 10ГБ вроде макс доходило, все за сутки.
Тариф

Storage KVM VPS - 60GB
1GB RAM DDR4 ECC
Xeon E5-2640V4 2.40 GHz (1 Core)
60GB SAS (RAID-10)
Unmetered Traffic / 100Mbit

12 эвро в месяц, вообще ни о чем. Скорость низкая, места и RAM критически мало, проц говно.
Нагрузка? Хвтает, он справляется, но почему? Потому что нет контента = нет зрителей. 120 видео это ни о чем, 1 аниме 12-600 серий. Будете ли вы ходить в магазин где продают один хлеб, в плане вот один тип хлеба и ето хлеб, или подйдете по соседству в хлебобулочный где продают и пряности гипермаркет?

[rPman]

нагрузка вроде слабая, однозначно 600 евро в месяц за это платить мягко говоря глупо.
на чем сейчас это крутится и как нагружает машину?

[BonBon Slick]

rPman, нагрузки почти нет. Крутится раздельно на vps и storage vps, то есть двойной тариф. Тариф выше + тариф серва где лежит сайт с БД

SSD KVM Pro v1
Intel Xeon E5-2640 v4 @ 2.40GHz (1 Core)
1GB RAM DDR4 ECC
15GB SSD RAID-10
Unmetered Traffic / 100Mbit
Starting from
€9.99EUR
Monthly

Етого хватает. Опять таки, количество запросов, думаю в статистике показывает так же на субдомены, не уверен. Это cloudflare, есть еще гугл, она примерно такая же, но даже хуже. Потому что считывает 1 раз когда юзер зашел на сайт, а ведь юзер может делать запросы к API из-за SPA. Поетому гугл получает 1 посещение, а CDN может получить 50, поетому там данные по запросам более точные.

Условия конечно хорошие, но цены дикие, ввиду локдауна короны, я задумался о покупке машины локально. Накой мне тратить 25 эвро в месяц и при етом ничего не получая, вообще ничего в замен по сути. Я не могу развивать сайт дальше, потому что уперся в лимиты памяти и бюджета. Платить даже 100 эвро в месяц... на ети деньги можно нанять модератора спокойно для контента. Но его нет, так что думаю купить сервер окупиться через 1 год. Я уже проплатил примерно 15 месяцев, это примерно ушло 330 эвро. На ети деньги можно было купить уже простенький серв и развивать проект дальше.
А у меня застой, локально я делаю проект, но выложить не могу. Потому что функционал сразу удйдет за пределы доступной памяти и возможности серва. Банальный пример, парсинг другого аниме сайта. 20 000+ видео, серий аниме это боле 15 000+ ГБ. А там дают 3 ТБ за 600 считай эвро в месяц, а значит затраты будут порядка 3 000+ эвро в месяц только на хост. Сразу угробит проект и все желание развивать его.

[rPman]

если вам с 10$/м сервером хватает нагрузки и сети, сидите на таком же

свой собственный сервер вам не поможет, точнее он будет либо дороже либо на ненадежной сети (дома небось хотите хоститься), если что можно собрать обычную десктопную машину и держать там, собирая резерв на каком-нибудь облачном сервисе с почасовой оплатой (чтобы не платить при простое машины)

[BonBon Slick]

rPman,

. Будете ли вы ходить в магазин где продают один хлеб, в плане вот один тип хлеба и ето хлеб, или подйдете по соседству в хлебобулочный где продают и пряности гипермаркет?

Нет контента = нет клиентов. Ето не чат приложение, а видео хостинг, контент ето все.

[BonBon Slick]

Я подумываю пока купить 1 серв, а там посмотрим.
HP ProLiant DLЗ80p Gen8 (25 SFF)

Посмотрю как пойдет с большим количеством контента. SSD отдельно докуплю, думаю дешевле будет.