Определяете целочисленную переменную перед внешним циклом, делаете ей ++ во внутреннем:
int iteration_count = 0;
for (int i = 0; i < N - 1; i++) {
for (int j = 0; j < N - i - 1; j++) {
iteration_count++;
}
}
System.out.println(iteration_count);
Если надо суммарное количество итераций обоих циклов - тогда и во внешнем тоже ++.