Чисто расчетная задача.
Тебе надо 2 цикла: по a и по b.
Код:
procedure P(n : Integer);
var
a, b : Integer;
c : Integer;
begin
for a := 1 to n-1 do
for b := a+1 to n do
begin
c := sqr(a) + sqr(b);
If (sqrt(c) < n) and (sqrt(c) = int(sqrt(c)) // c < n и c - целое
then ... // получили числа - что-то делаем.
end;
end;
Это алгоритм "навскидку". Наверняка можно как-то оптимизировать еще.
Смысл - в циклах перебираем все а от 1 до n-1 и b от а+1 до n (т.е. соблюдается условие a < b). Высисляем c и проверяем, что оно больше b, но меньше n и целое. Если условие выполнено, то что-то делаем с полученными числами (например, куда-нить выводим).