Vitaly Karasik

Ваша аппликация слушает только через IPV6, вам надо где-то в настройках tomcat сказать ему слушать на "старый" IPV4.

Когда запускаю ML модели,

Если это в командной строке, то

nohup my_ml_script &

count = len(open('good.txt').readlines( ))

Я мало работал с , обычно для систем мониторинга есть плагин HTTP и т.п.
Посмотрите на Zabbix, Zenoss. Или облачные NewRelic, AppDynamic, ...

Или Sendgrid

Snap это новый модный формат пакетов, который использует read-only loop mount.
Как менять конфиг? - или через интерфейс snap, или смонтировать вручную и поменять - см. линки:
https://askubuntu.com/questions/1046606/cannot-edi...
https://snapcraft.io/docs/configuration-in-snaps

Есть китайский vpn, к которому коннектятся через ovpn.

Насколько знаю, чаще идут по-другому - определяют, *что должно* идти через VPN.

Если речь об оперативной памяти, то в "top" нажмите "m" чтобы отсортировать по памяти.

В целом - никак.
То есть можно играться с encryption/obfuscation, но поскольку программа должна запускаться, то с большим или меньшим трудом можно достать код - если мы говорим про интерпретируемые языки.

От хостинга идет UDP активность.

от ваших серверов?

Покажите лог, пож-ста.

Нужно генерировать (или выбирать из темплейтов) htaccess в процессе deploy, в зависимости от target.
Это можно сделать или простым шелл скриптом, или на базе Ansible/Chef/Puppet и прочих модных штук.

Я не адвокат, но AFAIK:
- в своем production - можно
- в продукте, который продаете - почитайте споры Elastic с AWS :-)

Зайдите в консоль сервера и проверьте логи - зависит от дистро, обычно /var/log/auth or /var/log/secure.

Посмотрите логи контейнеров.

Плюс, насколько понимаю, для nginx не надо (нельзя) маппировать 8081 - это порт ноды.

Отлично работает в масштабе одного сервера при текущей (довольно невысокой) нагрузке, но возникает интерес, как оно будет работать, если вдруг внезапно на нем окажется в тысячу раз больше пользователей

Ответ очень простой - проверить с помощью stress test. То есть проанализировать текущий запросы к базе и симулировать х1000 кол-во пользователей. 90% что можно обойтись без шардинга, но опят покажет.
Плюс - с самого начала пишите аппликацию так, чтобы read-only запросы можно было направлять на отдельный ДБ сервер, это уменьшит нагрузку на master.

Вам нужно скомпилировать PHP с новым openssl или найти готовый пакет.