habrahabr.ru/post/131931/ — конечно, не книга, но очень полезный материал для начинающего разработчика. Как раз по математике.
Игровая логика мало чем отличается от логики любой другой программы. Разве что есть популярные реализации часто встречающихся задач — например, поиска пути.
