Гугли по запросам: OpenCV: Blob detection. Shapre recognision.
Если фигуры совсем примитивны — можно выделить контур, сделать аппроксимизацию (все это легко делается через OpenCV, буквально в пару строчек, + вроде как в примерах есть именно такая штука) и смотреть характеристики полученной фигуры.
Или же через Blob Detection — так допустим маркеры распознают, лица (хотя это уже сложнее но опять же примеров полно)
