У меня на компе с i3-9100 и 32 ГБ памяти в виртуалке крутится WinServer с десятком сайтов и Docker с тремя контейнерами, мощности более чем хватает. За Ваши деньги можно купить куда более мощное железо, так что, думаю, LLM будет работать без проблем, если у меня они даже на телефоне работают локально. А так у каждого решения есть какие-то минусы, думаю, тут об этом дальше расскажут.