Технология называется anycast. С помощью её можно сделать даже чтобы автоматически твои клиенты выбирали более лучший канал связи, даже когда 2 провайдера доступны одновременно. Правда, при одновременном использовании сразу двух провадеров там подводные камни с разрывающимися TCP сессиями, но при использовании одномоментно только одного провайдера такой проблемы нет, за исключением переключения между ними.
Для её самостоятельного внедрения тебе понадобится купить блок 256-адресов и оформить у себя AS (для AS и нужно 256 адресов, для меньшего блока AS не дают). Это сейчас 30 000 рублей в год за адреса, вроде. И плюс сколько то там еще спонсорских LIRу (не думаю, что ты сам пожелаешь стать LIR).
В этом случае - при наличие AS - тебе будет море по .... гм.. по колено. Не обязательно спрашивать согласия у провайдеров (возможно, если они фильтруют чужие IP, то просто предупредить их чтобы так не делали, но это проще чем нижеописанная договоренность).
Для несамостоятельного же использования anycast без имеющейся AS (неважно купил ты адреса или нет) - придется договориться с провайдером, чтобы он пропускал BGP-анонсы IP адресов, не принадлежащих этому провадеру.
И, не уверен, возможно да, возможно нет: а нужно ли будет этому провадеру еще договориться об сём же со своими провадерами в свою очередь или достаточно, чтобы анонсы принял только твой непосредственный провайдер.