Если несколько то мне кажется брать самый верхний.. Я условие на попадание мышки в прямоугольник написала в цикле от 1 до 10, и в нем присваивала переменной N номер прямоугольника, в который мышь попадает. Соответственно последний попавший и будет верхний... 
 
 
Я еще не особо поняла как работать с матрицей преобразования, да и зачем, если можно просто приращение координаты задавать? 
		
	
		
		
		
		
		
	
		
		
	
	
	 |