Первое, что в голову пришло - перелить это все в несколько разных JSON-файлов по разделам.
Работать с набором JSON файлов не практично. Стоит работать с СУБД.
Воообще, с начала стоит упорядочить все справочники, поработав над
нормализацией данных. Нужно избавляться от неструктурированных данных, насколько это возможно.
Следом пришла мысль завести базу на SQLite со всеми нормами, и уже ее разворачивать при запуске приложения.
А это уже хороший выбор. Советую начать с неё.
Для поддержки JSON:
https://sqlite.org/json1.html
Какой наилучший вариант для хранения справочника и быстрого парсинга оного для подгрузки в приложение?
Все справочники подгружать сразу при инициализации программы не нужно. Некоторые особо критичные данные можно подгрузить в начале, но только если они не занимают сотню МБ в памяти.
MongoDB точно не нужно выбирать на начальном этапе. Если на каком-то этапе будут чувствоваться ограничения SQLite, то стоит обратить внимание на Postgres.
