Наткнулся на этот алгоритм на хабре
habrahabr.ru/post/111538/ и оказалось, что он подходит для моей задачи. Правда в моем случае нужно генерировать ландшафт не на плоской прямоугольной поверхности, а на поверхности сферы (планета в космосе). Как можно адаптировать этот алгоритм под эту задачу?
