Выложите пример вашего кода на jsfiddle. Сферический пример освобождения памяти такой:
var image = "BIG DATA";
$("#container").append(image);
image = null;
можно еще в профайлере посмотреть, куда уходит память.
Если вы используете jQuery, а картинку удаляете как-то так
document.getElementById('image').innerHTML = ''
то она может остаться в jQuery.cache. Посмотрите что там лежит. Проверка размера jQuery.cache — common way в поиске утечек памяти. Опять же, если вы используете jQuery, то использование родных методов для удаления элементов
remove(), empty(), html()
помогает избежать утечек.