Попробуйте рассматривать Вашу задачу как задачу кластеризации. Т.е. есть кучка точек в 3хмерном пространстве, соответствующем RGB и надо найти наибольший кластер, скорее всего он окажется вытянутым весьма, можно его вписать в эллипс и центр эллипса будет нужным цветом.
Еще если известны свойства 3д модели, можно подумать о том, что это поверхность, у нее есть нормали, прикрутить некую модель освещения и попробовать восстановить истинный цвет объекта. Но это так… что в голову приходит первым.