1. Перенести все действия по суммированию внутрь обработчика щелчка.
2. Вы складываете два HTMLElement, что вы ожидаете получить? надо складывать их значения (value)
В итоге получится что-то такое:
document.getElementById('next').style.visibility="hidden";
document.getElementById('button').onclick = function() {
var a = document.getElementById('num1').value;
var b = document.getElementById('num2').value;
var count = parseInt(a, 10) + parseInt(b, 10);
if(count>=3){
document.getElementById('next').style.visibility="visible";
};
};