Думаю тут придётся не маленький велосипед изобретать.
Можно сначала как то поиграть с контрастностью, чтоб лишнее стало чёрным. Потом пробежать по пикселам и сравнивать цвет, чисто теоритически. Тут нужен наркоман со стажем
www.imagemagick.org/Usage/masking/#bg_remove
Проще всего - сначала сгенерировать маску по белому цвету, а потом инвертировать её.
Естественно, придется повозиться, чтобы найти наиболее подходящие настройки feathering-а, потому что границы искомых изображений - не четкие, а размытые.