В основном всегда работаю с жестко структурированными данными, так что точно не скажу, но на мой взгляд вам нужны, генетические алгоритмы и разложения (математические в ряды и логические на составляющие), модель абстракций и правила коммутаций.
Все это довольно таки неприятно может быть реализовывать, но результат скорее всего будет.
Про скорость не работы скажу, но основная нагрузка на процессор будет связана с первичным анализом, на память с сравнением результатов.
Вообще мне кажется, что все может быть проще, но тут, на мой взгляд, нужен хороший математик прикладник и неплохой программист. А вообще в дискретной математики что-то такое было, просто требует творческой переработки для задачи, возможно поможет обратная польская запись.
PS прошу народ не ругаться, но это просто первые мысли которые мне пришли по вопросу и то куда я стал бы копать при необходимости решения.
Только сегодня читал, простая статья по генетическим алгоритмам