Фигурную скобку экранировать не нужно (хотя хз, может в sublime какой-то диалект, для которого нужно)
a = mas.length + 1 // зачем +1?
mas.push(0) // это вообще для чего тут?
// это вообще шедевр
// то есть каждый раз мы перезаписываем разницу в элемент массива под индексом "а",
// а после берём и выводим значение под индексом "а-1", равное ранее запушенному
// нулю и спрашиваем "что не так?". Гениально.
// Про то, почему бы для этого не использовать обычную переменную, я вообще молчу.
while(i<mas.length){
mas[a] = mas[i-1] - mas[i];
prom.push(mas[a])
i++
}
msg.reply("Результат: " + mas[a-1] + "\nПромежуточные результаты: " + prom)