Есть много способов это сделать, ответ зависит от того, какое нужно распределение и сколько нужно значащих бит.
В простейшем случае, если распределение равномерное (как у rand), а количество бит не важно -- то делить на RAND_MAX и приводить результат к нужному диапазону.