Jason Gregory "Game Engine Architecture" (три издания, третье точно есть на русском)
Gabor Szauer "Hands-On C++ Game Animation Programming"
David Wolff "OpenGL 4 Shading Language Cookbook" (есть издание на русском - "Open GL 4. Язык шейдеров")
+можно поковыряться в опенсорсных движках, например, quake 3