Попытка убить программы и возможные процессы освобождает всего 2-5 ГБ
Значит вы убиваете не те программы, т.к. при закрытии процесса и память выделенная процессом освобождается.
Или другой вариант - дело не в утечках памяти. Тогда не понятно какая конкретно у вас проблема? У вас начинает тормозить комп через какое-то время или что?
Если все таки дело в утечках памяти, то объем памяти выделенной процессом можно увидеть в Task Manager.
Можно просто отсортировать список процессов по памяти и понаблюдать некоторое время. Так определите какой процесс жрет память.
Не обязательно завершать программу через taskkill, у нее же наверняка есть стандартный вариант закрытия приложения, наверное так не будут теряться данные. Чтоб например в батнике эмулировать нажатия кнопок и т.п. для закрытия программы можно использовать утилиты типа nircmd или autoit.
Вообще использовать не поддерживаемые разработчиком программы - стремное занятие. Стоит подумать о переходе на альтернативное ПО.