Там слои.
1) сама карта в виде картинки/картинок ( тут октодерево какое-нибудь )
2) дороги в виде графа (
https://yandex.ru/company/technologies/routes/ )
3) база данных в виде какого-нибудь sqlite для ассоциации "адрес -> позиция на карте"
4) тонны кода для работы со всем этим
Сжимает какой-нибудь gzip + распаковка на девайсе + чтение с hdd девайса нужных кусков по необходимости
Можно посмотреть тут
openlayers.org гитхаб есть