Приглядись к алгоритму построения выпуклых мешей по точкам, возможно есть какие-то алгоритмы, которые можно адаптировать конкретно под такую задачу, точность полученной траектории будет зависеть от дискретизации. (Или надо как-то упростить получение входных данных) Такие алгоритмы можно подглядеть в книгах по компьютерной графике, лучше в зарубежных.