Ошибка в том, что ваш наивный алгоритм слишком медленный.
Посидите с бумажкой, тут вообще можно формулу для ответа вывести.
Подсказка: сколько существует i<=j, таких что j-i <= a? Перобразуйте второе неравенство, получите i >= j-a.
В итоге у вас есть неравенства j-a <= i <= j. Если j >= a+1, то ровно a+1 чисел в этом интервале. Иначе их там j, (потому что левая граница отрицательна или 0, а по условию i >= 1).
Итого ваш ответ - это сумма от 1 до a, а потом еще n-a слагаемых a. Сумма первой части - арифметическая прогрессия.
Надо только не забыть рассмотреть случай a>=n-1, тогда ответ тупо количество всех пар.