Для начала нужно выбрать, что именно Вы хотите делать : voip, web, системы виртуализации, видео/аудио. Покупаете VPS и пытаетесь реализовать проект
voip - asterisk , подключение sip.
web - с нуля поставить вебсервер для любой CMS ( Wordpress, Joomla ) , MySQL, postfix, dovecot, named.
системы виртуализации - нужно брать выделенный сервер и пытаться завести XenServer, OpenVZ, KVM.
видео/аудио - стриминг через ffmpeg, vlc, icecast.