colororacle.org
Вот тут опенсорсный симулятор дальтонизма на Java. Делает снимки всего экрана; как — посмотрите в исходники.
Сомнительно, что получится на Java кроссплатформенно сделать снимок отдельной программы — больно уж системная штука.
P.S. Для скриншотов используется класс, именуемый «тестирующий робот» — скриншот-то им можно сделать, а вот как получить прямоугольник чужого окна? По-видимому, только через native-обёртку.
P.P.S. Оказывается, и native-обёртка есть — JNA. С ней никогда не работал.