Вообще то, Windows не должен иметь ограничений при работает с UDP. UDP, ровно как и TCP имеют схожее предназначение - быть транспортным протоколом. Отличия лишь в том, что TCP гарантирует доставку пакетов, а UDP нет. Современные же клиент-серверные решения, которые поддерживают и UDP, и TCP - как правило реализованы на основе различных версий "Remote Procedure Call Protocol Specification". Наиболее известный пример - реализация NFS или mound в Linux.
Первым делом, прежде чем городить огород, я бы посмотрел возможность работы Вашей "Службы (программа, игра, неважно)" поверх TCP. Самый простой случай, если в Вашем окружении есть Linux, воспользуйтесь командами rpcinfo -s [IP/host_name сервера], тем самым Вы вызовите 4 процедуру rpcbind, которая вывалит список зарегистрированных программ. Если вам повезет, Вы увидите там свою программу, которая должна отвечать на порту 1111. Сможете так же понять - какие транспортные протоколы доступны. Далее будет дело техники - обеспечить уже на стороне клиента обращение по TCP протоколу.
Если же Ваша программа, вообще ни какой спецификации не следует, то нужно просто разобраться, почему UDP пакеты не "прилетают" на тот хост, где вы ожидаете их получить.