Из Ваших условий плотность распределения должна быть возрастающей, например - прямая.
Соответствующая ей функция распределения будет квадратичной.
А формула которую Вы ищете, это обратная к функции распределения, т.е. простейший случай - квадратный корень.
Генерируем равномерное число от 0 до 1, берем от него квадратный корень:
- выпало 0.90, считаем, что сгенерировали 0.94896
- выпало 0.50, считаем, что сгенерировали 0.70711.
В общем случае, мне кажется, что Вам подойдет любая непрерывная функция с отрицательной второй производной