Андрюха

Еще есть подход "что написать...". Так вот я бы еще предложил начасть с подобия smallpt. По окончанию написания такой программы на 100-200 строк вы будете знать основы векторной алгебры, тригонометрии и аналитической геометрии, теорию вероятности, расчет интегралов для построение математической модели освещения, что такое флакс, итд. Также ознакомитесь с OpenMP. Удачи.

Если "мы", то может один на c++ возьмет что-то типа Сидра https://libcinder.org/gallery, и организует обмен с Вашим WPF.

Для понимания второго вопроса необходимо разобраться в следующем:
- (1) теорема Пифагора а^2+b^2=c^2, пропорциональность и подобие треугольников
- (2) тригонометрия, cos, sin, tan, sin(alpha)^2+cos(alpha)^2=1, итд
- (3) особо из тригонометрии: cos(a+b)=cos(a)cos(b)-sin(a)sin(b) и sin(a+b)=sin(a)cos(b)+sin(b)cos(a)
- (4) вектор как направление и величина, и как сумма проекций на единичные вектора (ijk)
- (5) как (3) в сочетании с (4) соответствует матрице поворота:
|cos -sin |
|sin cos |
- (6) в чем разница записи матрицы (5) в OpenGL и DirectX, пре и пост умножение матрицы на вектор.
(материалы в школьных учебниках, OpenGL суперкнига тоже, книги по 3д играм для программистов)