Потому что TweenMax.to создаёт независимую анимацию при каждом вызове. Вы думаете, что сбрасываете параметры анимации, а на самом деле создаёте параллельную анимацию "ничегонеделания". Правильный код:
logo.onmouseover = function () {
TweenMax.to(logo, 0.2, {
y: -10,
repeat: 999,
yoyo: true
});
};
logo.onmouseout = function() {
TweenMax.killTweensOf(logo);
};