Попробуйте заменить одинарные кавычки на экранированные двойные кавычки или полностью использовать одинарные кавычки:
<div id="operator_btns">
<button id="plus" onclick="op='+';">+</button>
<button id="minus" onclick="op='-';">-</button>
<button id="times" onclick="op='*';">x</button>
<button id="divide" onclick="op='/';">:</button>
</div>
Убедитесь, что переменная op объявлена глобально, чтобы она была доступна в любом месте вашего кода:
var op;
Откройте консоль разработчика в браузере (F12 в большинстве браузеров) и посмотрите на вкладку "Консоль". Если там есть ошибки JavaScript, они могут указать на проблемы.