[Konrad]

ключ
r n i t y e t e

По сути это шифр Виженера.

Формула как я и писал:
Ci=(Pi+Kj) mod 256;

И для расшифровки:
Pi=(Ci-Kj) mod 256;

Р - отрытий текст.
С - шфртекст.


П.с.:
а вобщем тема неплохая.
Хороший пример всем как нужно задавать вопросы на форуме, чтобы на них ответили.