GIT - это система контроля версий, которая позволяет вам защититься от случайных исправлений, отменить изменения, если они оказались некорректными или же вообще одновременно поддерживать две версии проекта (разработки - допустим на ветке develop и итоговую). Упрощает командную разработку и доступ к коду нескольких людей.
Осуществляя тот или иной коммит (git commit), вы сохраняете изменения в проекте, сделанные в данный момент. И если вдруг вам необходимо к ним вернуться, то есть, если в будущем пошло что-то не так, то с помощью команд git вы легко это сделаете. Он позволит вернуть вам часть кода к старому виду. Браузер вам в этом уж точно не поможет.
Git Bash — это интерпретатор, который «понимает» команды Git, более простыми словами "консоль". Если вас устраивает встроенный терминал в вашем редакторе или IDE, то можете вообще его не использовать.