Завести переменную prevY=null. Она должны быть глобальной по отношению к обработчику. В onMouseMove делаем так:
- если prevY === null - установить туда текущую координату Y мыши
- если prevY !== null - сравнить с текущей координатой и сделать на основе этого вывод о направлении движения мыши. prevY присвоить текущий Y.
Координату Y можно выдернуть в обработчике из объекта event.