Ошибка была в том, что я неправильно настроил драйвер для Capybara.
Вместо
Capybara.default_driver = :poltergeist
У меня было
Capybara.javascript_driver = :poltergeist
Поучилось, что я работал с дефолтным драйвером, который неправильно ищет скрытые элементы.