@beduin01

Как выполнить нормализацию адресов?

Тег OSM добавил т.к. возможно проблему можно как-то решить при его помощи.

Суть проблемы. Есть куча кривых адресов вида: гМосква ул.Ленона 15, Магнитогорскул Мира 47. Есть общий паттерн ошибок: где-то пробелов не хватает, где-то идет чередование г., гор, город и тд.

Вопрос вот в чем. Как нормализовать эти адреса т.к. привести их к унифицированному виду. Интересует исключительно офлайновое решение.
  • Вопрос задан
  • 99 просмотров
Пригласить эксперта
Ответы на вопрос 3
trapwalker
@trapwalker
Программист, энтузиаст
После того, как открыли для себя сервис https://dadata.ru/, вообще перестали тратить время и деньги на собственные костыли из граблей. Сервис просто огонь.
Для нас онлайн режим и скорость обработки не критична, поэтому мы даже уложились в бесплатный пробный тариф.
Вроде бы у них были решения по установке их ПО в закрытом контуре, а это не что иное, как нужный вам оффлайн. Правда тут уже бесплатно не прокатит точно.

До дадаты этот вопрос решался жутким нагромождением фильтров, регекспов с заменами и человеко-машинного совокупления.
Общая схема годится не только для адресов, а вообще любых грязных данных:
1. Входной датасет сохраняем в CSV и НИКОГДА не меняем.
2. Обработка многоступенчатая. Каждая ступень состоит из фильтра и модификатора. Фильтр решает применим ли модификатор к каждой записи. Модификатор применяет свою модификацию если фильтр разрешил.
3. Отладочный выхлоп, который показывает и позволяет быстро просмотреть полностью внесённые изменения.
4. Каждая ступень должна делать минимальное однотипное улучшение максимально большого числа строк. Цель - каждой ступенью уменьшать разнообразие проблем, увеличивать регулярность, стандартизировать.
5. При огромных входных датасетах можно сохранять промежуточный выхлоп, но в общем очистка должна выглядеть как пайп их последовательных ступеней обработки.
- Очень часто бывает, что какая-то ступень незаметно ломает данные, а понимаешь это уже поздно, когда последующие ступени реализованы и отлажены, и сильно опираются на результат ломающей. Благодаря ступенчатости и иммутабельности процесса всегда можно зипнуть текущее состояние с любым предыдущим шагом и очередным фильтром заменить необходимые куски.
- Часто бывает, что какая-то из ступеней улучшив отдельные записи убирает характерные признаки для фильтрации элемнтов для другой ступени. Благодаря такому инкрементальному процессу можно переставлять ступени местами.
- При внесении ступенью изменения в запись. ступень должна оставлять свою сигнатуру в отдельном столбце. Удобно для поиска проблем.

Расскажите подробнее почему не рассматривается онлайн. Заинтриговали.
Ответ написан
freeExec
@freeExec
Участник OpenStreetMap
Есть режимы как деления адреса на составляющие, так и нормализация.
https://github.com/openvenues/libpostal
Ответ написан
@granty
Методом последовательных проходов.

1. Делаете опорный список городов/поселков/хуторов и тп (я опирался на OKTMO из Общероссийского классификатора территорий)
Определяетесь как распознавать преффиксы населённых пунктов: жд. ст / пос. / пгт. / д. / с. / х. (они есть в ОКТМО)

2. Собираете опорный список правильных названий улиц по каждому городу
Улицы надо нормализовать по единому принципу:
Кооперативный 5-й проезд
или
5-й Кооперативный проезд

определяетесь с сокращениями
пер. -> переулок
пр. -> проезд или проспект

делаете первый проход с вашими паттернами, если правильно определились город и улица - заносите их (и оставшийся номер дома) в БД.

3. Убираете правильно определившиеся из исходной базы.
Смотрите, что осталось, правите паттерны под оставшиеся и делаете следующий проход.

Оставшиеся в сухом остатке - под ручной разбор. Готовьтесь столкнуться с тем, что некоторых улиц/переулков нет на картах Яндекса/Гугла, а на самом деле они есть. Я такие сомнительные названия улиц помечал в БД флагом Trusted=0 чтобы разобраться с ними потом.

Ели опираться на карты openstreet/Яндекс/Google - у них некоторые улицы называются немного по-разному:
Улица 850 лет Москвы
850-летия Москвы
но карты вам всё-равно потребуются, ибо иметь адреса без привязки к гео-координатам - мало проку.

PS: С номерами домов по-любому будет полная засада - 40/1 может быть и 40 к1 и 40 копр.1
Ответ написан
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы
O.Vision Санкт-Петербург
от 200 000 до 280 000 ₽
от 50 000 ₽
Chudo Москва
от 100 000 до 210 000 ₽
17 февр. 2020, в 19:40
500 руб./за проект
17 февр. 2020, в 19:36
5000 руб./за проект
17 февр. 2020, в 19:27
200 руб./в час