Просто JQuery можно глянуть как работать с ним (выбрать объект, добавить удалить класс, скрыть, показать, отправить аякс, обработка клика и сабмита - самые популярные на мой взгляд функции).
Саму либу UI не надо
Продолжим здесь.
У вас фильтр итак не фильтрует( он как-то вообще связан с каталогом?
Вам нужно решить эту проблему сначала. На главной все правильно работает
А в чем сложность то? Стандартно включаете количественный учет. Если товара нет, будет кнопка "Нет в наличии", в шаблоне переделываете на нее всплытие модального окна. Как сделать модальное окно гугл скажет