Когда на сайте малая нагрузка и не упираешься в потолок ресурсов, то можно обойтись и без них. Хотя применение кеширования, как минимум, способствует положительному восприятию пользователем из-за более быстрой отдачи популярного контента.
О том в каких случаях рекомендуется использовать MEMORY Storage Engine стоит почитать в
16.3 The MEMORY Storage Engine, секция "When to Use MEMORY or MySQL Cluster".
Как заметил
Евгений Вольф , ещё имеется Memcached. Он достаточен для кеширования сессий пользователя, подсчёта статистики кликов и короткоживущих данных.
В целом, разница между ними состоит в SQL vs NoSQL, помимо технических ограничений. Обычно, если данные имеют чёткую структуру и типы данных, то лучше SQL.
