Может попробовать установить через бранч rails-5 ?
gem 'rails_admin', github: 'sferik/rails_admin', branch: 'rails-5'
Здесь ещё исследование того как совместить зависимости rails_admin
gem 'rails_admin', github: 'sferik/rails_admin'
# Use github rack-pjax to fix dependency versioning issue with Rails 5
# https://github.com/sferik/rails_admin/issues/2532
gem 'rack-pjax', github: 'afcapel/rack-pjax'
# Use forked remotipart until following issues are resolved
# https://github.com/JangoSteve/remotipart/issues/139
# https://github.com/sferik/rails_admin/issues/2532
gem 'remotipart', github: 'mshibuya/remotipart', ref: '3a6acb3'
Нестабильно конечно, но вдруг жить можно.