У Вас отрабатывает анимация только при добавлении нового элемента . Соответственно анимацию создает новый элемент, который до второй строки не дотягивается.
Я решил проблему так:
$('.btn').click(function(){
$('ul').prepend('<li class="new"></li>');
if ($('ul li:nth-child(4)').hasClass('new')){
$('ul li:nth-child(4)').replaceWith('<li class="new"></li>');
}
})
Постоянно заменяю первый элемент новой строки если у него есть класс "new", что создает анимацию.