но получается что новые подгружаемые записи не сортированы или отсортированы иначе чем выбрал юзер
Что вам мешает при запросе транзакций с бека так же отправить с запросом нужную сортировку, чтобы новые записи были отсортированы так же?
Если вы хотите понять что делать при смене сортировки на фронте, то варианты разные - один из них вы озвучили, вполне нормальный, но вам надо будет найти позицию нужного id в новом отсортированом списке. можно просто начинать показывать список заново.
Вообще основных распространенных способов организации подгрузки данных два - страничная загрузка (передаете в запросе номер страницы или индекс записи начала страницы) и курсоры (передаете на бек курсор и количество объектов для загрузки, бек возвращает новый курсор вместе с данными, который используете для последующей загрузки новых данных).