Ответ нашелся тут
https://gist.github.com/luislavena/f064211759ee0f806c88
Отсюда
https://github.com/rubygems/rubygems/tags скачиваем нужную версию
Далее в командной строке пишем
C:\>gem install --local C:\rubygems-update-1.8.30.gem
C:\>update_rubygems --no-ri --no-rdoc
руби обновляется и все работает :)