[AlexSku]

Наверное, это поиск по трём переменным: сдвиг по X, сдвиг по Y, поворот (вокруг центра). Во время поиска нужно искать минимум разницы или максимум корреляции. Разница это сумма абсолютных разностей яркостей для каждого пиксела (математики, правда, любят считать сумму квадратов, но это не принципиально). Корреляция это сумма произведений (если сделать нормализацию, то максимум будет равен 1).