Проходите текст, заполняете прямоугольную таблицу - на каждой позиции количество пробелов, начиная с нее.
Определяете наибольший потенциальный квадрат по самой длинной строчке пробелов.
Запускаете цикл: для всех значений не меньше m (текущий максимум) проверяете, чтобы в m - 1 следующих строчках на той же позиции значения были не меньше m.
Не нашлось - уменьшаем m, повторяем цикл.