Что посоветуете купить?
Губозакаточную машинку :)
За 40к можног купить бу сервер (именно серверный сервер, а не "сервер-из-рабочей-станции") пятилетней давности с ксеонами ессно пятилетней давности. Еще понадобится память, много памяти и диски. Если внимательно подойти к выбору платформы, возможно будет возможность апгрейда. Но разумеется это не про нейросети.
Ну и про вопрос содержания сервера дома -
вот я когда-то писал ответ на такой вопрос, с тех пор ничего не поменялось. В вопросе содержания сервера дома есть и плюсы и минусы. Но мне кажется Вы минусов словите больше, чем плюсов, потому что сервер дома - это и шум и елестричество, и ремонт его, родимого, и бэкапы и spare parts...