А что именно собираетесь отлаживать?
Брать gdb необходимо из той же сборки GNU toolchain, из которой и компилятор, который скомпилировал отлаживаемый файл, должна соблюдаться архитектура, целевая ОС и даже версия toolchain!
Отлаживать с исходным кодом или без?
Если с кодом, то если IDE настроена для C/C++, то нужная "обертка" уже должна в ней быть, достаточно указать путь к toolchain.