Для рекурсивного определения нужен начальный элемент последовательности, определяемый без рекурсии (например, A(0) = 0). В противном случае задача не решается.
A(i) = (i)*(i+1)/2*b + (i)*c
Сумму первых N коэффициентов перед "c" сосчитать легко - арифметическая прогрессия,
а перед "b" - будет сумма квадратов - я сомневаюсь, что ее удастся описать какой-то красивой формулой.