ОС выделяет память под структуры описывающие поток, выделяет стек потока, добавляет поток в планировщик.
Все это отнимает и время ЦПУ и память, поэтому каждый поток - не бесплатен. Много или мало времени/памяти - это, конечно, относительно. Относительно тех задач, которые будет решать поток.