Michio -

А не лучше ли для тестирования написанного на QT использовать встроенные средства QT?

Если вы хотите заниматься ручным тестированием:
1. Заходите на github ищите какое-нибудь более менее крупное приложение для andoid
2. Разбирайтесь с тем как работает github / сборка приложения
3. Пишите письмо разработчику что вы готовы тестировать его приложение бесплатно и ради опыта.
4. Выберете инструменты тестирования, где вы будете вести логи и записывать тест кейсы
5. Начинайте составлять тест кейсы и заниматься другой нудной документ работой (только английский, забудьте русский)
За месяц два вы получите достаточно опыта для устройства на работу.

Искать приложения в Google Play нет ни какой надобности. Все что нормальное - достаточно оптимизировано и протестировано не раз и не два

В учебнике математики для старших классов или ВУЗ.

А еще лучше в решебниках. Там вы сможете проследить правильность построения хода решения (если такое предусмотрено) и получить заведо верный ответ который сможете проверить. Это если речь идет о тестировании математического аппарата.

Если собираетесь тестировать сам интерфейс калькулятора то тут самому придумывать. Открываем приложения и смотрим, что видим то и тестируем. Потом пробуем запустить тесты на более ранней/поздней версии приложения смотрим сравниваем.

Далее открываем документацию по приложению (у любого более менее сложного приложения она есть) ищем там разные настройки из разряда "Если вы поставите вот здесь галочку то циферки станут синими" - обычно на этом этапе и проходит основная работа

Smoke тестирование выполняется всегда в первую очередь. Все остальные наборы тестов идут уже после успешно пройденного smoke. У многих более менее крупных проектов смоки автоматизированны и запускаются не только на предрелизных билдах но и на всех промежуточных. После успешного smoke тестирования идет основная проверка функционала, соответвественно, это функциональное тестирование. Далее идут другие виды тестирования. НО если вчитываться в вопрос внимательно.....

"Какие области тестирования проекта перед релизом вы выберете максимально приоритетными" - если бы это был вопрос на собеседовании то я бы ответил что сначала выполняем smoke тестирование, а затем мы проверяем те модули программы, которые изменялись в последний момент. Именно там могут вывалиться баги на стадии релиза т.к. другие компоненты уже тестировались в ходе нескольких других циклов тестирования и должны работать нормально.