[Bargest]

При этом должен заметить, что человек пользуется Виндовским диалером (dialer.exe). Кстати, у человека ноутбук ACER ASPIRE 7738G. В нем встроенный модем (LSI HDA modem-56K ITU V.90 чип-SV92A3). Так вот, Виндовский диалер у него работает, набирает номер и реагирует на входящие звонки, определяя номер вызываемого абонента. Операционка у него стоит Windows 7 Home.

Первая же возможная причина указана в твоем посте: встроенный модем. Вторая - Windows 7.
Вообще довольно многие девайсы сейчас работают через ВИРТУАЛЬНЫЙ ком-порт, т.е. стоит схемка FTDI которая прикидывается ком-портом, и подключается через USB. Но вот беда: некоторые проги с этим не пашут. Еще сильнее проблема обостряется при использовании Win7. Как исправлять - не знаю, пусть попробует через виртуальную машину с WinXP, там чуть больше вероятность запуска, хотя тоже отнюдь не 100% результат.

Я например купил программатор для USB, и 4 дня мучался, прежде чем смог его запустить на своем ноуте. И то не всё работает, и периодически слетает.

Можешь попробовать поиграться с параметрами файла при открытии. Очень многие юзают FILE_FLAG_OVERLAPPED вместо NORMAL