Необходимо чтобы при обращении пользователя у которого установлена кука скажем DOMEN == r все агенты на хостинге считали что идет обращение к домену r.site.my
Теоретически возможно. Тебе до обработки хостов нужно по условию найти запрос с кукой и после подменить host. Правда я боюсь твоя задача не верно поставлена из-за того что ты не имеешь представления как работает Nginx. Если изложишь суть, зачем тебе это всё надо, подскажу как это лучше сделать.)