1. Применить побитовое "И" к маске подсети и IP A, и к маске подсети и IP B; сравнить результат. Если результат одинаковый - A и B в одной сети.
2. Послать в сеть широковещательный ARP-запрос с соответствующим вопросом.
3. Это вам известен лишь IP B, а роутеру известна его таблица маршрутизации, на которую он ориентируются при решении таких вопросов.