Рекуррентные сети обладают кратковременной памятью (т.е. могут делать вывод, исходя из
нескольких предыдущих входных значений, а не только одного предыдущего значения). Самые известные типы из них сейчас это
LSTM и GRU. Используются, например, для предсказания следующего слова в предложении, исходя из предыдущих. Можно попробовать их и в вашем случае, наверно.