Что использовали для авторизации Devise?
как можно получить данные всех пользователей что аутентифицировались?
Аутенцифицировались и находятся на сайте?
Все зависит от загрузки Вашего приложения.
Можно добавить модели User поле last_seen_at и в application контроллере добавить метод, который будет писать туда Time.now перед каждым action.
Потом делать выборку по данному полю, например так:
scope :online, -> { where("last_seen_at > ?", 10.minutes.ago) }
Обращаю Ваше внимание, что это может создать дополнительную нагрузку на Ваше приложение.