Алгоритм в данном контексте - это грубо говоря набор правил и инструкций, которым руководствуется поисковая система при ранжировании документов в выдаче.
Фильтр - применение санкций к сайтам, которые не удовлетворяют каким-либо строгим критериям алгоритма или нарушают правила и рекомендации поисковых систем.