Судя по всему файл detours.lib скомпилирован для x86. А ваши проекты компилируются для x64. Начать надо с того, что привести это в соответствие. Если вы собираете detours.lib самостоятельно, то вы должны собрать ее x64-инструментарием.
Кроме того (по крайней мере раньше это точно было так), MinGW не понимает формат библиотек VS, поэтому использовать один и тот же lib файл и для VS и для MinGW не получится. У MinGW собственный формат.
