Лучше так.
s = 0
i = int(input())
while i != 0:
s += i
i = int(input())
print(s)
А то у вас с нулем сравнивается одно значение, а суммируется следующее введеное.
А еще не стоит называть переменную sum, так как это переопределяет функцию стандартной библиотеки.
