Зависит какая версия стоит сейчас, какие плагины, какой серверный стек. В целом, WordPress будет летать шустрее на нормальном сервере при отсутствии кривых плагинов и тем. Да, сам код WP со временем разрастается, но также и оптимизируется.
Что касается обновления в принципе - делать обязательно. Вообще, лучше всего работать на самой свежей версии. Исключение - прям вот только вышедшая версия. Можно недельку-другую подождать перед обновлением, вдруг какой-то баг всплывет (часто бывает). А еще лучше - иметь staging или хотя бы локальную копию сайта и тестировать ее с новой версией WP когда она еще в режиме Beta (обычно минимум за месяц до выхода релиза).
