Как на данное действие реагируют веб-браузеры? Остаются ли при этом все объекты и функции, объявленные в этом скрипте, живы, или их прибивает garbage collector?
Браузеры реагируют нормально. Удалять скрипты вы можете, но пользы в этом ноль. Все объекты будут созданы и в памяти они будут висеть до тех пор, пока на них будет кто-либо или что-либо ссылаться.