А что вы пробуете сделать?
Thin - это сервер-приложения на руби. Обычно, он сам запускается командой
rails server или
rackup, например.
Так же, его можно запустить с помощью
thin start в директории, где есть файл
config.ru
Про команду
thin install слышу первый раз, если честно.
Видимо, вы устанавливаете редмайн. Тогда следуйте руководству по установке, в чем там проблема?
Как правильно использовать thin из gemset?
Вопрос задан некоректно. Гемсеты к гему никакого отношения не имею, это просто namespace, так сказать (отдельная дирекотрия на диске)
Но я не хочу засорять систему
Если действительно не хотите, то используйте bundle exec вместо gemsets и rbenv вместо RVM :). Особенно на сервере.