Потому что вы смешали синтаксис перечисления свойств объекта и присвоения свойствам объекта значений.
Либо так
var module = (function () {
var counter = 0;
return {
incrementCounter: function() {
return ++counter;
},
resetCounter: function () {
return counter = 0;
},
getCounter:function () {
return counter;
}
};
})();
Либо так
var module = (function () {
var counter = 0,
module = {};
module.incrementCounter = function() {
return ++counter;
};
module.resetCounter = function () {
return counter = 0;
};
module.getCounter = function () {
return counter;
};
return module;
})();