Увы, но это вопрос физических измерений, которые не бывают точными. В зависимости от задачи (задачу, которую вы реально решаете, вы описать не удосужились,
а это плохо), можно либо улучшить точность путем замены мыши на другое устройство позиционирования, либо фильтровать ввод, например, фильтром Калмана, что также накладывает некоторые ограничения.