Parallel использует ThreadPool(в котором всегда лежат потоки, либо ожидают, либо работают),
а Thread можно создавать сколь угодно, пока памяти хватит, но нужно учитывать что создание одного потока забирает у компьютера 1 мб оперативной памяти, соответственно лучше использовать Parallel для паралельных вычислений, т.к. создание новых потоков накладная операция