Тебе тут надо найти максимально длинный отрезок исходной строки, в котором нет повторяющихся символов (не учитывая пробелов, т.е. пробелы могут повторяться в этом отрезке).
Решается, кстати, за O(N) по времени и по вспомогательной памяти, за один проход по строке, используя отрезок-кандидат и карту последних найденных позиций каждого символа.