Диспетчер задач же как-то это делает
EnumProcesses, получишь массив processID, а дальше открываешь нужный и работаешь.
OpenProcesses+GetModuleFileName(вроде как-то так) - получишь имя EXE файла для каждого процесса. Можно использовать для распознавания