как их использовать для группировки кода в Rails, не создавая gem
Вы, наверное, слишком буквально понимаете слово Модуль.
Хотите группировать код - группируйте, отдельно модели, отдельно контроллеры, отдельно хелперы, отдельно вьхи.
Хотите группировать приложения, роутинг - гемы, энджайны.
В той форме, что вы представляли - app/modules/user/... - как вы представляли работать со статическими файлами? А с настройками окружения? А с роутингом ? После копипаста этой директории в другое приложение - вручную подправить фал роутинга?