Распределенные приложения и пользовательские данные или как происходит горизонтальное масштабирование?

Question

[IDONTSUDO]

Как соц сети умудряются делать настолько распределенные системы. Я посмотрел видео про социальную сеть одноклассники с хайлоад++. И там было сказано что у них около 11 тысяч серверов, и трафик около 1/tbs.

Вернее вопрос в том какие методы балансировки пользовательских запросов, применяются в настолько громадных системах что бы еще не терялись данные пользователей? С самого я начала я подумал, что все делается через hash ip это было бы удобно и логично, но так как hash жестко привязан к IP(то есть балансирует в зависимости от IP), а моё IP может меняться. В этом нет никакого смысла, так как я могу через VPN из своего города стучаться на другой сервер, и получается если запрос на этом сервере окончится не удачей. То мне придется либо отказать пользователю в авторизации, либо искать данные в сотне других баз данных.

По сути, даже если мы возьмем какую нибудь Casandr`y которая умеет в распеределнность, мы все равно упремся в проблему пользовательской авторизации.

Comments

[Сергей Горностаев]

Клеппман "Высоконагруженные приложения"

[pfg21]

а если еще выхлоп гугла поковырять, то найдете огромное количество разнообразного материала. из которого надо будет отфильтровать необходимое.
первая строчка в поиске
belinter.net/story/dva-vystupleniya-ot-komandy-vko...

[IDONTSUDO]

pfg21, Это все хорошо, но я действительно не понимаю как это относится к теме моего вопроса.

Answer 1

[Vitaly Karasik]

Вернее вопрос в том какие методы балансировки пользовательских запросов, применяются в настолько громадных системах что бы еще не терялись данные пользователей?

Распределенные приложения и пользовательские данные или как происходит горизонтальное масштабирование?

Короткий ответ - любой сервер имеет доступ к бэкенд базе данных которая содержит все данные. Как обеспечивается синхронизация/репликация базы по всему миру - отдельный интересный вопрос, кстати см. CAP теорему https://en.wikipedia.org/wiki/CAP_theorem.

Comments

[IDONTSUDO]

Вы прочитали то что я написал? Или вы хотите мне сказать что у однокласников на 11 тысяч серверов есть рут база данных, которая 1tbs в секунду выдерживает, еще и реплецирует, и бэкапы с неё снимают.

[Vitaly Karasik]

IDONTSUDO, я прочитал. И понял (возможно неправильно) что вы представляете что есть 100 баз данных, по одной на регион.
Ответ - нет, есть одна распределенная база данных. Одна база со многими инстансами и репликацией данных. То есть нет шардинга по географическим или иным признакам.
Кстати, одноклассники - очень маленький проект по сравнению с фейсбуком :-)

[IDONTSUDO]

Vitaly Karasik, только про одноклассники имею какую то информацию. Я конечно отмечу ваш ответ, как верный, но легче мне от этого не станет.

[Vitaly Karasik]

IDONTSUDO, я меньше слежу за одноклассниками, но вот https://blog.yugabyte.com/facebooks-user-db-is-it-... например, про фейсбук.

[IDONTSUDO]

Vitaly Karasik, уговорили буду сидеть и разбираться с yaga-byte-db

Answer 2

[Germanjon]

Прошу прощения, вас интересует решение конкретной задачи или общие теоретические материалы? Если общая теория, то это нужно долго читать и изучать

Comments

[IDONTSUDO]

теоретические материалы

Answer 3

[Валентин]

мы все равно упремся в проблему пользовательской авторизации

просто авторизовать миллион пользователей - это, грубо говоря, база с 1 таблицей и миллионом строк в ней. То бишь совсем ерунда.

либо искать данные в сотне других баз данных.

да не нужны сотни баз данных. Просто реплики, шардирование, и очень много думать головой на тему того, что, как и где хранить.