С высокой вероятностью, если в release есть исключения, а в debug нет - значит есть выход за границы размеров массивов и объектов.. очевидно что алгоритм реализован с ошибкой и значит точно считает неправильно (разные запуски будут разные результаты, в зависимости от мусора в памяти).
Если нет, то нужно понимать алгоритм, если в нем нет использования rnd, rand или time (тупо поиском подстроки по исходнику) то либо алгоритм берет еще какие то данные (из других мест) либо... ну к примеру unordered_map/set при итерации не гарантируют сохранение порядка, замени на просто map, еще сортировка со своим компаратором может давать недетерменированный результат для одинаковых элементов (но это не в пределах одного бинарника, а между разными реализациями sort в разных компиляторах), еще есть многопоточность, если от порядка исполнения что то зависит, то результат будет недетерменирован.