Где взять уже настроенный LAMP-сервер на Ubuntu?

Да есть готовые решения:
https://www.reg.ru/support/hosting-i-servery/oblac...

Если не годиться, то можно 1 раз собрать нужный образ, сделать снапшот и разворачивать из него.