Спасибо за ответы. Новый сервер подключен к тому же виртуальному коммутатору что и существующие машины. Решил сделать tcpdump на шлюзе и новом сервере. Оказалось что на шлюз приходят широковещательные ARP запросы с нового сервера, но в ARP таблице шлюза напротив адреса нового сервера указано incomplete.
На новом сервере соответственно arp таблица пуста, нет ни одной записи. После добавления записи вручную, пинги все равно не идут, но уже без всяких сообщений Destination Host Unreachable. Не могу понять куда смотреть дальше.