Какая может быть формула для решения этой задачи?

Благодарю Вас за предложенное решение, но если бы речь шла о написании программы, то я бы тоже с этим справился)
Там запрос был именно математическую формулу вывести, что и создает всю сложность задания.