проверка "правильности/соответсвия" возвращаемых данных определенными функциями
Это есть модульное тестирование, см.
Catch.
проверка на используемую память(сколько используется, было использованно за весь цикл существования приложения)
Погуглите "memory profiler" (например,
valgrind.org/docs/manual/ms-manual.html ). Я обычно в Студии профайлю, с автоматизацией этого процесса пока не сталкивался, но думаю возможно.
проверка правильности порядка записи в бд
проверка того что в сеть уходят данные которые ожидаются от программы
Тут вам нужно
замокать клиента к бд и сетевой сокет/поток (в зависимости от того как это всё реализовано, без подробностей сложно советовать), и вместо реальной отправки данных/записи в базу делать нужные вам проверки.