Обработчик события submit должен висеть на форме, а не кнопке.
Корневой элемент добавляемой записи (
<div class="table">
) - лишний.
После добавления новой записи окно с формой наверное надо бы убрать.
modalWindowForm.addEventListener('submit', function(e) {
e.preventDefault();
const newNote = `
<div class="table-line line">
здесь без изменений, элементы .table-line__item оставляете как есть
</div>
`;
table.innerHTML += newNote;
// или
// table.insertAdjacentHTML('beforeend', newNote);
modalWindow.classList.remove('active');
});