[lmikle]

А спросить у препода?

Для 1. Кто определяет N, a, b?
Для 2. Какой формат файлов (для обеих подзадач)?

Про 3, извини, пока помочь не могу - нету времени серьезно с этим разбираться.

ЗЫ. Это какой курс института? И по какой специальности?