Это задача для генетического алгоритма. Описано и есть исходный код в книге «Программируем коллективный разум», поищите. Краткая суть алгоритма: математические операции представляются в виде дерева. Например, А + Б это дерево в корне операция сложения, два листа дерева А и Б. Операция А * 2 + Б это дерево в корне +, слева (левый операнд) — Умножение, справа Б. Узел «умножение» опять делится на две ветви — слева А справа 2. Ну в общем вы поняли. Генерируем случайным образом популяцию и запускаем генетический алгоритм. Виды мутаций — копирование и перестановка поддеревьев. Функция выживаемости — насколько полученное математическое выражение правильно находит шестой член для каждой из ваших обучающих последовательностей.
Я пробовал этот исходный код на простых примерах, типа угадать формулы такого вида «А*4 + Б*9» — довольно быстро находится решение на обучающих выборках по 100 примеров. Если у вас достаточное количество обучающих примеров, есть шанс, что найдет решение в вашем случае. Напишите пож. результаты если сделаете.