Смотри, тут такой нюанс, что твои функции onClick () и startTimer () вызывают побочные эффекты, а именно взаимодействуют с объектом window.
Поэтому, все таймеры, которые ты вызываешь, необходимо хранить в переменные. Также, перед уничтожением компонента (componentWillUnmount), необходимо очищать их через clearTimeout / clearInterval.
А кнопка "назад" должна делать переход в другой компонент или очищать таймеры хотя бы
