как заставить браузер считать сервер поддоменом хоста
SOCKS is a proxy server that allows TCP based application data to relay across the firewall, even if the firewall would block the packets. The SOCKS protocol is independent from application protocols, so it can be used for many services, e.g, WWW, FTP, TELNET, and others.
Да, именно так, алиас не нужен, если не нужна какая то переадресация. Просто прописываешь
А запись IP - server.site.com, а в Апаче в настройках прописываешь имя домена (но как настроить апач под имя домена это отдельный вопрос, в сети куча манулов по виртуальному хостингу).