Zenker

Как уже написали выше: винда — не Real Time. Второе: последовательный порт, как минимум в XP/2K — штука хитрая и от реализации Device.readResponse может зависеть время. И самый, все-таки, главный вопрос: что вы измеряете? Реальное время от приема посылки до окончания передачи (с точки зрения устройства) или время от передачи до приема на винде? Если первое — светодиод и осцилограф. Если второе — печаль.

По поводу таймера — уже читали stackoverflow.com/questions/1825720/c-high-precision-time-measurement-in-windows?
Это первая ссылка в Гугле по запросу «windows high resolution timer».

По поводу приоритетов всё написано правильно, тут пишут то же самое.
Найдено Гуглом по запросу «windows change process priority c++».
На многоядерном процессоре максимальный приоритет позволит процессу/потоку получить _почти_ реалтайм.
Если его всё равно окажется недостаточно — тогда останется либо переходить на полноценную(?) RT OS, либо брать WDK и писать собственный драйвер :)

По поводу таймеров в Windows есть неплохая вводная статья Jan Wassenberg «Timing Pitfalls and Solutions»
github.com/0ad/0ad/raw/master/docs/timing_pitfalls.pdf

а разве Windows 7 является системой реального времени? :)
установить более высокий приоритет — да — это чуть поможет, но от переключения контекста не избавит.
если важен RT, то лучше смотреть в сторону RTOS, пробовать Linux с RT-патчем и т.п.