Вы очень обобщенно сформулировали вопрос, в таком виде не получится ответить конкретно. За каким именно объектом вам нужно следить? Маркер/лицо/человек/2d-картинка?
За искусственным объектом в небе, форма произвольная (шарик, воздушный змей и тд).В наличии есть простая и ИК (тепловая) камеры (их совместить нельзя, т.е. они не могут одновременно смотреть на объект).
Мне кажется, тут нужно использовать то, что у вас есть относительно статичный фон (небо) и движущийся объект. Поэтому можно достаточно просто разделить фон и объект используя стандартные алгоритмы. После того, как объект найден с достаточной долей вероятности, можно запомнить его шаблон (прямоугольник, включающий объект) и искать на каждом следующем кадре этот шаблон в окрестности позиции объекта на предыдущем кадре. При этом шаблон постоянно обновлять (объект может повернуться, например).
Можно еще попробовать выделить края тем же Canny. Так как небо как правило имеет плавные переходы цвета и яркости, то найденные края будут с большой долей вероятности принадлежать объекту. Можно также найти аналитическое описание краев и попытаться выделить замкнутый n-угольник (есть стандартные алгоритмы). Это скорее всего и будет нужный объект. Как использовать ИК-камеру не подскажу, т.к. не сталкивался.
Можно найти на объекте так называемые features — углы, например или края, в общем, особые точки и посчитать их дескрипторы методами типа SIFT или SURF. Затем искать эти точки в каждом кадре.
Если однороден, то нужно придумать что-то другое. Например, сегментация изображения и нахождение участка с соответствующим цветом/текстурой или соответствующей формы.