Полезно ли долго (и вообще) «велосипедить» в программировании?

Всегда есть выбор, либо пытаться написать свое, потом бросить и взять готовое, проверенное решение.

Либо разобраться как устроены готовые решения путем чтения исходников (что является оч. полезным навыком) и написать свое с нужным функционалом.

Есть ещё вариант, что готового решения нет и тогда пригодятся навыки, которые вы получите в процессе велосипедостроения, а конкретно навыки решения задач, построения алгоритмов, планирования и проектирования.

Но это если обстоятельно подходить. С чувством, с толком, с расстановкой.

В любом случае пока ваше время ничего/недорого не стоит, вы можете себе позволить все.
Рано или поздно эмпирическим путем придете к выводу что бессмысленно тратить свое время на велосипеды, даже в образовательных целях. Намного выгоднее(эффективнее) разобраться в "предмете" по имеющейся документации (понять как работает/устроено).

Почему-то при обучении программированию

Да это так, при обучении программированию всегда говорят не изобретайте велосипеды пользуйтесь готовыми проверенными решениями (изучайте/пользуйтесь библиотеки/ами). Потому что до вас это уже сделали и потратили кучу времени, а вы можете потратить свое время более эффективно, позволить себе мыслить на более высоком уровне абстракции. Делать больше, тратя меньше.

Антон Р.,
Есть и другая сторона медали.
О пользе изобретения велосипеда