Какой сервер собрать для ИИ?

Здравствуйте! По Вашему ответу вижу, что у Вас есть опыт работы multi-GPU системами. Подскажите пожалуйста такие два момента:
1. как работатьс несколькими картами в пределах одного сервера- например есть 5штук А5000 и хочется уметь использовать их как один гпу с 24*5=120 гб врам?
2. как работать с несколькими гпу серверами - каким софтом объединять их в кластер?

Работаю с pytorch 2.5.

Заранее признателен за ответ.
С уважением.