Попробуйте изменить условие на if (!($(this).find('.text_sel').length))
У вас всегда проверяется условие i (в вашем случае объект DOM ul) с нулем. А объект всегда равен true, 0 же при переводе к логическому типу будет false. Поэтому у вас все и выбирается.
Вообще хорошо бы код посмотреть со списком. Если нужно оперировать с ul li, то и надо пробегать по ним.