Обновите целиком систему до jessie или хотя бы wheezy. Squeeze даже из LTS уже через пару месяцев выйдет.
Попытка делать кучу из разных систем редко приводит к чему-то хорошего в конечном итоге.
dotdeb'овский php5-gd собранный для wheezy, видимо, по зависимостям требует пакеты, которые ваш squeeze предложить уже не может. Поэтому предлагает сделать какую-нибудь логичную на его взгляд глупость. Ну или просто не той версии пакет пытается поставить.
Посмотрите в apt-cache policy php5-gd что доступно и что хочет ставить, а так же попробуйте apt-get install php5-gd=5.6.13-1~dotdeb+7.1 (сегодня на dotdeb такая версия пакета)