Тебе нужно понять как с помощью JS взаимодействовать с HTML
Как забирать данные и форм и запихивать их обратно
Смотри в сторону getElemenByid и тд
Ну и гугли уроки: "Пишем калькулятор на чистом js"
Думаю стоит начать с чего-то простого и потом усложнять.
Кстати, калькулятор со скобками, не супер-простой.
Обходи стороной уроки, где создают "калькулятор" через функцию eval, так в реальности никто не делает.