Никак.
Только экспериментально.
А когда у вас там такой зоопарк это уже непредсказуемо, и даже экспериментально не определить.
Пользователь в браузере откроет 50страниц и на каждой будут JS скрипты, которые в сотню потоков будут чего-нибудь считать на вашем процессоре.
К тому же все сильно зависит от настроек.
Можно довольно точно подсчитать для одного приложения - например у меня есть приложение, я знаю сколько оно потребляет - дальше простая математика.
А ничего кроме этого приложения запустить невозможно, ибо прав нет.
Таким бардаком как у вас сложно управлять.
Но в любом случае начинать надо с логов.
В данный момент используется Dell R720 CPU 2xE5-2640 RAM 127 GB HDD 8xSAS 10K RAID6, и его уже не хватает.
Чего конкретно не хватает? Загрузка процессора? Очередь диска? Память?
Навскидку можно сказать что основная проблема в
HDD 8xSAS 10K RAID6
скорее всего именно это узкое место, хотя может быть и процессор.
По процессору у вас получается в среднем менее 0,2ядра на пользователя, запустить на этом такой зоопарк довольно проблематично.