Math.random() - возвращает псевдослучайное число с плавающей запятой из диапазона [0, 1).
Array.prototype.sort() - сортирует массив используя функцию для сравнения. Смотрите описание значений, которые функция должна возвращать.
В данном примере функция сортировка построена так, чтобы генерировать псевдослучайное число в диапазоне [0, 1) - 0.5, т.е. [-0.5, 0.5)