Начинается всё с Дискретной математики, Логики, Вычислительной алгебры и геометрии.
Есть
Кормен,
Седжвик,
Скиена
Изучение алгоритмов заключается в анализе их сложности и определении частных случаев использования, в зависимости от задач и структур данных которыми нужно оперировать.
Спросить сколько всего алгоритмов, равносильно что спросить: сколько формул в математике ?
Ответ - много!
Можно глянуть довольно толковые курсы по алгоритмизации на Coursera.
Также на рутрекере хватает крутых видеолекций.