Оптимизация сайта + хостинга под битрикс (кушает много памяти)?

Если при кешировании слабо заметен результат, следует проверить скрипты. Иногда разработчики так разрабатывают, что кеширование только хуже делает :). Посмотрите с помощью «Панели производительности» какие страницы создают самую большую нагрузку. На них посмотрите какие компоненты работают медленнее всего, посмотрите сколько запросов с кешем и без.
Если хостинг nic.ru, то на самом дорогом тарифе (301 вроде называется) битриксу не хватает памяти.