• VPS 512mb centos 6.5 nginx php-fpm почему съедает всю оперативку в спокойном режиме?

    @inkvizitor68sl
    Linux-сисадмин с 8 летним стажем.
    Linux всегда стремится занять свободную RAM чем-нибудь полезным. Приложениями, кешами, dirty-pages-ами.
    В конкретно вашем случае можно покрутить настройки php-fpm-пула:
    pm = dynamic
    pm.max_children = 5 # максимальное количество воркеров вообще
    pm.start_servers = 3 # количество воркеров при старте fpm
    pm.min_spare_servers = 2 # минимальное количество неактивных воркеров
    pm.max_spare_servers = 4 # максимальное количество воркеров
    pm.max_requests = 200 # через сколько запросов перезагружать каждый воркер

    Можно поставить spare поменьше, если к вам не приходит внезапная нагрузка - тогда память будет освобождаться.
    Ответ написан
    2 комментария
  • На чем писать/поднимать каталог недвижимости?

    @Kirill-Gorelov
    С ума с IT
    Ничего из CMS, вообще. Для крутых проектов, больших, не используй cms, тем более бесплатные.

    Битрикс, мог бы тебе посоветовать, но и то, отговорил бы. Потому что с ним по началу с нуля, все очень радостно и круто, когда он делает за тебя миллион вещей. А когда ты хочешь кастомизации или гибкости и когда проект разрастается битрикс себя показывает не очень стабильно в плане разработки. Он прям таки и просит тебя сам вставить туда костыли и палки.

    Уверен, что с этим справится любой фреймворк symfony/laravel/django и еще кучу других проверенных временем фреймворков.
    Фреймворки это гибкость, тем более если есть "капуста"......
    Ответ написан
    1 комментарий
  • На чем писать/поднимать каталог недвижимости?

    Adamos
    @Adamos
    Имхо, тут нужна именно студия, а не какие-то отдельные спецы.
    Потому что такому сайту нужен в первую очередь сильный фронт. Бэк-то у него простой, как табуретка, его кто угодно напишет на той же Ларе. А вот вылизанный интерфейс, удобный для пользователя и при этом не укладывающий бэк запросами - это задача. Да вы же еще дизайн захотите фильдеперсовый, узнаваемый, и нужно будет как-то совмещать красоты с функционалом. И если впрягать в это дело трех фрилансеров (дизайнера, фронтендера и бэкендера) - скорее всего, закончится по басне Крылова или по монологу Райкина.
    Ответ написан
    2 комментария
  • Обработает ли nginx файл с 50k редиректами?

    без проблем
    Если боитесь нагрузки то сделайте эти редиректы в 404.php
    собственно в таком случае они будут срабатывать только когда к ним будут обращаться в остальных случаях они вообще не будут грузить систему. да и при переезде не нужно будет думать о них.
    Ну и писать их в нем легче ;)
    Ответ написан
    1 комментарий
  • Как разобраться в огромной БД?

    saboteur_kiev
    @saboteur_kiev
    software engineer
    300 гб не очень маленькая, но и совсем не большая база. Вам нужно бы снять статистику по чтению/записи, посмотреть самые тяжелые запросы (такой функционал средствами mysql можно получить habrahabr.ru/post/31072/).
    Выяснить чего именно не хватает - проца, оперативки, диска на запись, диска на чтение?
    От этого уже и танцевать. может просто парочку ssd в рейд и хватит?
    Ответ написан
    Комментировать
  • Как правильно работать с Postgresql -> BigQuery?

    dimonchik2013
    @dimonchik2013
    non progredi est regredi
    Если бы данные не нужно было обновлять - всё было бы очевидно, но ведь BigQuery не рассчитан на обновление данных - таких запросов (UPDATE) можно сделать всего 1000 в сутки, а это довольно мало, ведь если хоть раз у нас обновится больше тысячи строк из миллиона (а это 0.1%), смысла так работать с данными уже нет.


    смотрите: если где-то сделано что-то именно ТАК, всегда думайте - а ПОЧЕМУ так?
    и как только поймете - горизонты сознания расширятся и мир заиграет новыми красками

    Бигквери не предназначен для Update - ну был курс доллара на сейчас 65,25 , а через секудну 65,26 - что вы обновлять тут собрались? фины позавчера стали чемпионами мира, тут что менять? пришел посетитель- вписался лог, потом еще один - а тут что обновлять? или он не пришел?

    в BigQuery тупо складываете сырые данные, и обрабатываете их аггрегацией, оконными функциями и всем таким - вот так работу и постройте , не нужно копировать SQL базу
    Ответ написан
    1 комментарий
  • Как сравнить есть ли уже такой файл в базе или нет?

    Можно использовать что-то наподобие перцептивного хэша, а для определения схожести между документом и набором других использовать поиск по СУБД при помощи расстояния Хэмминга.

    По описанию задачи перекликается с вопросом Как сравниваются перцептивные хэши?
    Ответ написан
    1 комментарий
  • Как сравнить есть ли уже такой файл в базе или нет?

    @12rbah
    с точностью совпадения, допустим в 99%.

    Вот посмотрите Как сравнить два текста в JS? . https://stackoverflow.com/questions/5042873/javasc...

    Проверку на хеш в вашем случае тоже можно делать, т.к. pdf довольно редко редактируют и все передают одну и ту же книгу.

    Есть несколько сотен тысяч PDF файлов.

    Это реальная проблема или просто от нечего делать придумали? Слишком мало информации по самим документам. в некоторых сферах, где много типовых отчетов это обычное дело когда документ на 95% похож на другой, поменяться может например только одна цифра в дате, и такой документ нельзя будет отбраковывать. И из пдфа вы не всегда можете извлечь текст для сравнения. В общем довольно много подводных камней. Поэтому стоит более конкретно определиться с задачей.

    upd: в общем есть еще такая особенность, что нужно правильно выбрать средство для извлечения текста, т.к. многие средства извлекают не всегда весь текст. Ну и еще интересно как быстро вы сравните 1 pdf со 200-300к других pdf, как по мне затраты на этот процесс будут слишком большими. Можно конечно сравнить только часть текста. Да кстати, извлечение текста из pdf медленный процесс, текст из некоторых страниц может извлекаться больше секунды на обычных процах (тестил на документах в 600-700 страниц), я пользовался только некоммерческими решениями, возможно вы найдете что-то быстрее, но парсить pdf вам придется явно не на ноде, т.к. это слишком медленно будет.
    Ответ написан
    1 комментарий
  • Как добавить на сайт счётчики аналитики не ухудшая скорость загрузки?

    naarende
    @naarende
    Диджитал менеджер
    Хороший вопрос от автора.
    Правильный ответ примерно такой:

    Работать над оптимизацией внешних подключений важно. Асинхронность по умолчанию должна быть, но она не спасает от перегрузки основного потока.
    У нас на проекте стоит не только Яндекс Метрика, Гугл Аналитика, пиксель ФБ, пиксель ВК, но и Hotjar и utmstat и они совершенно не мешают ничему. Подключать всё надо грамотно, откладывая по времени и по событиям. Если событие наступило, то счетчик времени отключается. Важно найти то время, на которое откладывать скрипт. Чтобы не поехали цели в метрике или в GA. Следите за приоритезацией загрузки, чтобы всё осталось в рабочем состоянии, но не влияло на скорость загрузки.

    Подробно, как правильно подключать внешку, мы показывали с этой минуты: https://youtu.be/_3c0aPSkNdc?t=1480.
    Там же есть пример скрипта обработчика.

    Алексей из loading.express
    Ответ написан
    Комментировать
  • Как убеждать клиентов оплачивать ТЗ (или оценку проекта) и нужно ли это делать?

    @anton99zel
    29а класс средней школы №7
    Больно много текста, а надо лишь:
    Не работать с мудаками, срок умножать на 3, деньги на 2.
    Иногда ставить себя на место клиента.
    Ответ написан
    Комментировать
  • Что на сегодня лучше для нового проекта, GitLab vs GitHub vs bitbucket?

    @dimuska139
    Backend developer
    Юзаю GitLab, потому что автоматический деплой и запуск тестов при пуше в ту или иную ветку делать удобней всего. Также удобно, что есть Registry, в котором можно хранить собранные Docker-образы. То есть Dockerhub не нужен. При том, что на Dockerhub можно, если не ошибаюсь, хранить только один приватный образ, а в GitLab-registry - сколько хочешь. Делать сборку образов можно тоже прямо в GitLab.

    Upd: "делать удобней всего" - ЛИЧНО МНЕ (я не devops, а просто backend-разраб).
    Ответ написан
    Комментировать
  • Как защититься от DDOS-атаки однотипными запросами к несуществующим файлам?

    ky0
    @ky0 Куратор тега Nginx
    Миллиардер, филантроп, патологический лгун
    А в чём заключается прикладной результат описанной вами атаки? Нгинкс даже на минимальном железе может отдавать 404 ошибки гораздо с большей скоростью, чем 50 rps. Отключите логирование 404 ответов и, как советовали выше, включите fail2ban.

    Имхо, это и атакой-то назвать нельзя - так, баловство...
    Ответ написан
    Комментировать
  • На какой камере организовать внешнее автономное видео-наблюдение?

    mixatronik
    @mixatronik
    mixatronik.ru
    Обычно камеры с солнечной батареей чисто облачные и RTSP у них нет. Так что надо собирать по частям. Модем + роутер + камера + солнечная батарея с АКБ и контроллером.
    Ответ написан
    1 комментарий
  • На какой камере организовать внешнее автономное видео-наблюдение?

    @Drno
    К камере пауэрбанк, далее колхозите солнечные банели.
    Либо камеру питаем от ИБП, далее колхозите солнечные панели)
    Ответ написан
    9 комментариев
  • На чем переписать старый форум?

    @d-stream
    Готовые решения - не подаю, но...
    Собственно в том или ином виде популярные движки форумов имеют кучи конвертеров для добычи данных из старого движка.
    как образчики smf->ipb smf->phpbb

    Естественно все это касается переноса с чистого исходного форума, если движок (база) кастомизировались - то скорее всего одной кнопкой "конвертировать" не обойтись.
    Да и с контентом могут нюансы: структура переносится легко даже руками, метаразметка постов - посложнее в запущенных случаях, а вот с вложениями чаще всего штатные конвертеры не очень справляются. С юзерами - достойный повод расчистить базу - т.е. учетки народу придется переактивировать, запросив пароль.

    p/s/ в свое время протащил так через три движка (начиная еще с текстовых "баз") - процесс небыстрый, но во всех случаях удалось подготовить почти автоматические скрипты. Благо пока старый движок крутится - можно делать нужное число заходов и только при должном уровне конвертирования приостановить доступ к старому на полчасика... сконвертить и открыть доступ к новому.
    Ответ написан
    2 комментария
  • На чем переписать старый форум?

    DevMan
    @DevMan
    чего вы хотите в итоге? с ответа на этот вопрос и нужно начинать.

    если вопрос только в дизайне из прошлого века, то просто сделайте новый дизайн.
    если вопрос в функционале, то можно кастомизировать уже имеющийся форум. благо код открыт.
    если нужен совершенно другой ux, то только либо пилить собственный лисапед, либо мигрировать на другую систему.

    все зависит только от ваших хотелок и ваших возможностей.
    Ответ написан
    23 комментария
  • На чем переписать старый форум?

    среди форумных движков сейчас рулит xenforo
    переписать можно на что угодно, хочешь быстро - бери готовый движок, хочешь дольше - бери лару
    самая большая проблема будет в переносе контента, пользователей и всего остального
    Ответ написан
    8 комментариев
  • Может ли Mikrotik wAP ac LTE kit работать и с LTE и как мост?

    @Tabletko
    никого не трогаю, починяю примус
    Может. Но с настройкой придётся повозиться, если вы хотите использовать wi-fi и как CPE и как AP. Например по 5Ghz получать сигнал, а по 2.4 раздавать на свои устройства. Надо ещё убедиться что там действительно 2 wi-fi модуля, а не 1 работающий либо так либо так.
    Ответ написан
    4 комментария