res2001

Обнуляйте sum в начале первого цикла.

PS: блин, кто вас учит делать вот такие вот двумерные массивы? Вчера то же был вопрос по С++ и то же с аналогичными двумерными массивами. Почитайте про адресную арифметику или научитесь пользоваться стандартными контейнерами stl, чтоб не городить это извращение.

1.НА КАЖДУЮ ОПЕРАЦИЮ NEW ДОЛЖНА БЫТЬ СООТВЕТСТВУЮЩАЯ ОПЕРАЦИЯ DELETE.
У вас явно не хватает delete в разных местах.
2.Использовать двумерные массивы так как вы их используете ... ну это извращение какое-то. Сейчас именно так учат? Я понимаю, что удобно делать [i][j] ... но есть же адресная арифтметика, разъименование. И можно легко перейти от указателя на двумерный массив, к указателю на одномерный и использовать индексацию на одномерном массиве.
3.Не нужно выделять память на каждой итерации цикла - достаточно выделить в самом начале массив максимального размера, а дальше использовать его внутри цикла на всех итерациях.
4.Обычно как раз рекурсия более прожорлива к памяти (да и к ЦПУ), чем итерационный метод, т.к. рекурсией съедается стек и если большая вложенность, то стек может кончится.

PS: про ошибку памяти: запустите программу под отладчиком, она прервется, когда произойдет ошибка, в отладчике сможете перейти в последнюю вашу функцию (по стеку вызовов) и посмотреть где-что не так (я надеюсь вы не думаете, что ошибка действительно в lineTo).

Читайте в строку или 1 символ и анализируйте каждый введенный символ.
Сейчас вы непосредственно читаете int.

может быть так:
regex reg(mask);

Всегда пишите функции.
Выставьте ключи оптимизации в компиляторе и отдайте этот вопрос на откуп компилятору - они справляются с этим на ура.
Вручную стоит "инлайнить" только какие-то однострочные функции, указав inline в описании функции. Но обычно компиляторы именно к этим функциям применяют подобную оптимизацию.

В Qt есть свой браузерный движок, его и используйте. Раз Qt, то лучше сразу на C++ делать, будет наиболее быстрый вариант. Но можно и на питоне или на чем-нибудь еще куда Qt портирован.

ideone.com/QfgoV8

Я исправил ваш код. Только он делает не совсем то что нужно, имхо. Как мне кажется, нужно считать количество вхождений каждого символа, а не вообще символов, а потом строить гистограмму. Так что доведите программу до нужной кондиции.