Тут еще одна ошибка может возникнуть. Если выбралась красная точка (которая не является "впадиной"), то синяя вполне удовлетворяет условию "находиться в треугольнике, образованном этой точкой и соседними", однако находится вне чёрного многоугольника.
А еще, например, в случае правильного 5-угольника, при таком методе сгенерированная точка никогда не попадет в крупную область в центре. И это не частный случай - таких фигур очень много.