Ну и задачка у вас, 3D сканеры относительно доступными стали буквально недавно, откуда должны появиться готовые алгоритмы? да еще и в открытом доступе?
Чем вы делаете эти 3D сканы? на сколько я знаю в потребительском секторе этим занимается наверное только apple, в своем последнем iphone X
p.s. по теме, собирайте датасет, пилите нейронные сети, только не кормите их сырыми данными, если у вас нет хороших вычислительных мощностей на халяву, натягивайте данные на абстрактное лицо и кормите сетку данными отклонений от него, возможно, если хорошо решите первую задачу, нейронные сети и не понадобятся.