Нужно добавить сертификат, как описано здесь.
https://gist.github.com/luislavena/f064211759ee0f806c88

Или использовать другой источник gem'в (без потребности в ssl)
gem sources -a http://rubygems.org/

Лучше воспользоваться первым способом.