Есть хорошая книга выдающегося польского математика Вацлава Серпинского
250 задач по элементарной теории чисел. Она замечательна тем, что в ней даны задачи, решение которых не предполагает знаний высшей математики. При этом сами задачи достаточно трудны и имеют очень короткие формулировки и решения.
Вторая книга, которую я бы порекомендовал - книга советского математика Хинчина:
3 жемчужины теории чисел. В данной книге описаны решения 3-х трудных задач для которых были найдены решения с применением элементарной математики (без всяких диффуров и гомотопий!). Решением одной из описанных задач, в свое время занимался сам Гильберт.
Ну и неплохо было бы какую-нибудь книгу по логике, которая собственно и составляет основу математического мышления. Например, эту:
Введение в логику и научный метод.