[Dievee]

В общем нужно что бы посмотреть содержимое этого файла можно было только через специально написаную программку. Как можно решить этот вопрос?

[Страдалецъ]

Закрытым от кого? В локальной сетке от клиентов? На локальном компе от пользователей?

[cotseec]

от чтения и редактирования - никак - файл можно открыть в том же блокноте или notepad'e++ и наслаждаться его содержимым (вопрос про понимание, что там будет написано остается открытым), а также править, как душе угодно
если уж хочется совсем скрыть файл - см. в сторону техники руткитов (информации мало, но при желании....)
если речь идет именно про шифрование написанного в файле и расшифровке в какой-то своей программе - слово для поиска "криптография" + контрольные суммы для контроля редактирования извне

[Dievee]

Файл служит для хранения паролей и никнеймов зарегистрированых в программе пользователей , может тогда можно будет использовать какой то другой формат файла а не txt?

[angvelem]

Хоть какой, посмотреть можно будет всегда.

[NumLock]

обычно хранят не сами пароли, а их хэши. именно поэтому практически все тебе никогда не высылают забытый пароль при его восстановлении.