Буквально на днях столкнулся с этой задачей. Скажу сразу, что в рамках debian-way решить её не удалось — в репах всё старое и есть там немного. Можно, наверное, ruby и gem'ы оформить в виде deb-пакетов, собирать их локально и устанавливать на сервере через dpkg или поднять свой репозиторий, но я заморачиваться не стал. Установил RVM и уже через него ставил ruby и gem'ы. Взаимодействие с веб-сервером (Apache) — через passenger с «левого» репозитория.
В общем получилось, что непосредственно из исходников ничего не собирал, но этим занимались команды
{rvm,gem,bundle} install, а самая «страшная» (не debian-way) команда, которую запустил была
bash -s stable < <(curl -s raw.github.com/wayneeseguin/rvm/master/binscripts/rvm-installer). Она же была первой.