В общем у вас там во первых кривое свг (в плане позиционирования по центру) и во вторых манипуляции надо проводить непосредственно с самим элементом в свг к которому применяется маска. Для него надо вычислить transform-origin (FF/IE не дружат с % значениями, а для ие вообще надо атрибутом задавать) и затем юзать скейл. Если не хотите костылять, то юзайте gsap TweenLite с простенькими плагинами впридачу. Он все это дело лечит.