[Bargest]

Или по теореме косинусов: длины векторов равны b и c, b^2 = x1^2 + y1^2, c^2 = x2^2 + y2^2. Расстояние между точками a = (x1 - x2)^2 + (y1 - y2)^2. Тогда cos(a) = (b^2 + c^2 - a^2) / (2bc)
Или из определения скалярного произведения, cos(a) = bc/(|b||c|), тут bc - сумма попарного произведения координат векторов b и c, (|b||c|) - произведение длин векторов, т.е. в обозначениях предыдущей формулы cos(a) = (x1*x2+y1*y2)/(sqrt(x1^2 + y1^2)*sqrt(x2^2 + y2^2))
А от того, что вы dx поделите на длину, вы получите совершенно не тот угол - это угол прямоугольного треугольника, у которого гипотенуза между заданными точками, а катеты параллельны осям координат.