Даже если Вы сделали коммит с удалением большого файла, он все равно остается в истории git, а значит будет заливаться на удаленный репозиторий.
Можно сделать так:
1. Сделать git checkout на коммит перед тем, где был добавлен большой файл
2. Создать от этого коммита новую ветку.
3. Если в коммите, где был добавлен большой файл, были другие изменения, то воспроизвести их (скорее всего вручную, но может кто еще подскажет как это автоматизировать).
4. Сделать git cherry-pick последующих коммитов из старой ветки в новую.
5. Удалить старую ветку и переименовать новую в то как называлась старая.
UPD: по 3 пункту, думаю можно взять diff проблемного коммита, убрать из него добавление большого файла, а затем накатить этот исправленный diff как patch.