Первую метрику (проблему) которую вам нужно решить это ответ сервера, 1600 мс никуда не годится, должно быть меньше 300. Для этого скорей всего придется менять хостинг на более производительный, включить кеширование и не только, отвечал про это вот тут
Какой кэшер и оптимизатор на Джумлу вы посоветуете?
Далее смотреть на сколько баллы возрастут, если руками править шаблон не хватает навыков, возможно стоит сменить шаблон и его производителя, сам использую yootheme.com очень приличные показатели из коробки выдает, 70-90 баллов без проблем.
И ещё одна мысль, проверить как с оптимизацией у конкурентов по вашим ключевым запросом, достаточно быть чуть лучше их сайтов, излишняя оптимизация это затрата ресурса, которая не всегда оправдана.