Есть другой подход (реализация, правда, на MatLab'е):
what-color-is-green
two-dimensional-histograms
freehand-segmentation-in-the-a-b-plane
more-on-segmenting-in-a-b-space
Сначала пространство RGB перевести в Lab. Яркость L не нужна. По ab строим двумерные гистограммы. Автор (Steve Eddins) приводит алгоритмы ручного и автоматического распознавания зелёных шариков.